Cours #2 Flashcards

1
Q

Modèle de la cible : processus qui décrit quoi ?

A

1-Comment construire/modifier un instrument psychométrique.

2-Comment vérifier les qualités psychométriques d’un instrument.

**
Proposer modele simplifié pr le rendre digeste et donner accès aux gens aussi.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Quels sont les 3 concepts ?

A

Fidelité/Fiabilité

Validité

Utilité

**
Modèle de la cible = Cv vrm de gauche à droite ds le modele de la cible. Si effets nefastes ds etapes precedantes, cv se repercuter. S’assurer de bien commencer pour pouvoir bien finir.

UTILITÉ : Si mesure pas utile, mm si valide et fidele, sert à rien. Englobe tt, cest le concept le + important.
Ex utilitié : j’ai un instrument en fr et vient combler trou dans la littérature pcq on en a juste en anglais.
On va vrm créer un but pour notre instrument au départ. Périphérie du cercle, mais ça englobe tt.

VALIDITÉ : On mesure adequatement ce que sensé mesurer tt en ayant peur d’erreurs de mesure. Vali englobe la fidelité. On px pas avoir vali si pas fidéli.

FIABILITÉ :
Terme qui px être interchangé avc fidelité. Cest de syn.
Cœur qui modele, il est englobé par les autres.

Qd notre instrument dépourvu d’erreur de mesure, et savoir l’ampleur de cette mesure. Ce qu’on vx, c’est le quantifier. Savoir ecq score obtenu représente score réel de la perso.

Mettons jai score 8/30 mais questions mal posées, pis je refais sem pro et jai 25/30, pas stable dans le temps, fiabilité.

Résultats qui changent : fatigue, questions mal posées…

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Def Fidelité

A

Quel niveau d’erreur de mesure l’instrument contient-il?

**
Pas blanc ou noir, normal que un peu erreur de mesure, mais le quantifier / en etre conscient.

On le connaitre, s’assurer de savoir qcequi se passe.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Def validité

A

À quel point l’instrument mesure-t-il ce qu’il est censé mesurer?

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Def utilité

A

Est-ce que l’instrument sert à quelque chose?

**
ecq remplit un trou ds la littérature ? Utilité = le + impo ds le modele)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Quelles sont les 2 phases ?
(la 1ere necessite de prendre quel type de decision ?)

A

Préparation et vérification

**
PRÉPARATION

Prép = le + important. On vx bien prep pr faire les analyse. Si pas bien prep, les analyses seront pas bonnes .

À cette étape on fait des recherches. Souvent cest une première version. Vrm à cette etape qu’on creuse ds la littérature.

Necessite de prendre des decisions
- Comprehension pointue de nos buts et ctx d’utilsiation
- On doit prendre des decisions qd à definition de nos construits (validit) et generer aussi des hypothèses cmt le construit va se comporter avc d’autres critères.
Prendre decision en fction des erreurs qui peuvent arriver. Decisions pr minimiser problèmes.

VÉRIF

On va anayser les données. (apres avoir fait passer question)

Analyse stats et voir que instrument marche comme il est supposé marcher. Données de stab temporelle (s’asssurer que T1 = correspond à T2)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Quelles sont les 6 étapes (dessiner aussi sur la cible, et dire lequel a un lien avec quoi)

A
  1. Usage anticipé - utilité
  2. Conceptualisation - validité
  3. Élaboration - fidélité
  4. Stabilité - fidélité
  5. Congruence - validité
  6. Usage recommandé - utilité

Différentes étapes sont reliées

**
Ex : Montrer que instrument au final pas utile mm si passe bien tt le reste. Mettons 300 quest pr mesurer TDAH. Qd avc pop cible , 300 pt pas la meilleure idée. Pt que pas utile. Mm si tt le reste est bon

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Quelles sont les 2 tâches ?

A

OBJECTIFS
Ce qu’on vx accomplir en créant instrument. On utilise balises theoriques et psychometriques. Chaque étape = des objectifs specifiques

MOYENS
Cmt on fait pr arriver à realiser les objectifs. Bcp de lectures, voir experts….
Alors que verification = + avec des analyses stats que cv arriver.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Étape 1 : Usage anticipé (objectifs et moyens)

A

OBJECTIFS :
- Buts de l’instrument
- Population visée (qui va use)
- Contexte d’utilisation
(supervisé ou non ? papier/crayon ou en ligne ?)

MOYENS :
- Analyse d’instruments ((instrumets qui ceux qui déjà disponibles)

  • Lectures
    ((voir ce qui existe, mais aussi voir mettons qcequi fait déjà,c est quoi les bonnes pratiques pr ce que ns on cherche à faire)
  • Consultations
    (aller voir gens qui ont déjà cette expertise, fait ce type d’instrument)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Étape 1 : Usage anticipé exemple

A

Scholastic Aptitude Test (SAT)

Version pré-2005
Instrument utilisé dans le système scolaire américain

BUT : prédire le succès scolaire d’élèves du secondaire une fois à l’université

( avoir un système généralisé)

Ne s’intéresse qu’à ce qui a été appris au secondaire et ne prétend pas mesurer l’intelligence

**

S’interesser vrm à ce qui appris au secondaire, ne pretend pas mesurer autre chose genre intellignce.

Beneficiaires = kids au secondaires

Ce qui use pr eval : college et uni

Concepteurs = college word, asso des colleges ensemble

Administrateur = colleges et uni

CTX passastion :
Cclasser papier, crayon, supervisé, en classe, qqheures.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

ÉTAPE 2 : Conceptualisation (Objectifs + moyens)

A

OBJECTIFS
- Définir, catégoriser et organiser les composantes des phénomènes à mesurer
- Positionnement avec d’autres concepts

MOYENS
- Synthèse des aspects conceptuels des instruments
(Aller chercher ds la litt les lectures par rapport à def, faire des choix qd à la def qu’on prend. Choix qu’on aura à faire. Ns decide qcequ’on pense qui est le meilleur. )
- Lectures théoriques
- Consultations

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

ÉTAPE 2 : Conceptualisation Exemple

A

Scholastic Aptitude Test (SAT)

Les aptitudes sont de deux types:

1) Verbales (SAT-V)
- Antonymes
- Analogies
- Compléter phrases
- Compréhension de lecture

2) Mathématiques (SAT-M)
- Questions numériques
- Comparaisons de quantités

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

ÉTAPE 3 : Élaboration (objectifs + moyens)

A

OBJECTIFS
- Prévoir les sources d’erreur de manière à les minimiser
- Choix du format de l’instrument
- Construire les items
- Choisir la méthode de correction

MOYENS
- Lectures «psychométriques»
- Inventaire des stratégies déjà employées

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

ÉTAPE 3 : Élaboration
Exemple

A

Scholastic Aptitude Test (SAT)

Questions à choix multiples élaborées par des professeurs de «high-school» et de «college» et des psychométriciens

1) SAT-V : 85 questions de simple à difficile
- Antonymes (5 choix)
- Analogies (5 choix)
- Compléter phrases (5 choix)
- Compréhension de lecture (5 choix)

2) SAT-M : 60 questions de simple à difficile
- Questions numériques (5 choix)
- Comparaisons de quantités (4 choix)

Durée = deux heures

Passation en groupe

Le score est déterminé par des points accumulés pour les bonnes réponses et des points retranchés pour les mauvaises réponses (correction pour avoir deviné)

Le score varie de 200 à 800, la moyenne est ajustée à 500 et l’écart-type est ajusté à 100

Une vingtaine de versions parallèles sont administrées simultanément

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

ÉTAPE 4 : La stabilité (objectifs + moyens)

A

OBJECTIFS
- Vérifier la nature et l’ampleur de l’erreur
- Établir la stabilité interne et temporelle

MOYENS
- Erreur-type de mesure
- Analyses d’items
- Analyses corrélationnelles
- Approche hypothético-déductive
- Accord inter-juges

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

ÉTAPE 4 : Stabilité exemple

A

Scholastic Aptitude Test (SAT)

Erreur-type de mesure
SAT-V : 31
SAT-M : 33

Consistance interne
SAT-V : Alpha de Cronbach de α = 0,92
SAT-M : Alpha de Cronbach de α = 0,91

Stabilité temporelle (intervalle de 7 mois)
SAT-V : corrélation test-retest r = 0,88
SAT-M : corrélation test-retest r = 0,85

17
Q

ÉTAPE 5 : La congruence (objectifs + moyens)

A

OBJECTIFS
Vérifier les quantifications et/ou l’organisation des concepts

MOYENS
- Analyses corrélationnelles
- Approche hypothético-déductive
- Analyses factorielles
- Équations structurelles

18
Q

ÉTAPE 5 : La congruence exemple

A

Scholastic Aptitude Test (SAT)

VALIDITÉ DE CONTENU
- Les questions posées représentent les domaines enseignés au «high-school»

VALIDITÉ PRÉDICTIVE (résultats partiels – les meilleurs élèves seulement)
- Corrélation entre le SAT-V et les notes au «college» : r = 0,54
- Corrélation entre le SAT-M et les notes au «college» : r = 0,48
- Corrélation entre les notes au «high-school» et les notes au «college» : r = 0,67

19
Q

ÉTAPE 6 : Usage recommandé (objectifs + moyens)

A

OBJECTIFS
- Préciser buts, population visée, circonstances d’utilisation/de passation
- Guider l’interprétation

MOYENS
- Article scientifique
- Normes

20
Q

ÉTAPE 6 : Usage recommandé exemple

A

Scholastic Aptitude Test (SAT)

BUT : prédire le succès scolaire d’élèves du secondaire une fois à l’université

Manuels et beaucoup de recherches

Population: Tous les types de populations d’élèves de «high school» décrits

Semble pouvoir atteindre ce but, mais la mesure n’est pas parfaite

21
Q

Processus décisionnel

A

Lors de la construction et de la validation, il faut:
- détecter les problèmes ;
- apporter les correctifs requis.

Le modèle de la cible rend ces tâches plus faciles.

22
Q

Principe général du processus décisionnel

A

Si un problème est détecté dans la phase de vérification, il faut retourner à l’étape correspondant à ce concept dans la phase de la préparation:

  • Problème détecté à l’étape de la stabilité : Retour à l’étape de l’élaboration (concept de la fiabilité)
  • Problème détecté à l’étape de la congruence :Retour à l’étape de la conceptualisation (concept de la validité)
  • Problème détecté à l’étape de l’usage recommandé : Retour à l’étape de l’usage anticipé (concept de l’utilité)
23
Q

Problématiques auxquelles le modèle de la cible aide à répondre

A
  1. Mauvaise connaissance des autres instruments
  2. Utilisation d’instruments désuets
  3. Concepts mal définis
  4. Type de mesure peu approprié à la situation
  5. Techniques statistiques mal utilisées
  6. Mauvaise interprétation des indices statistiques
24
Q

Concepts de base - les résultats d’un instrument doivent obligatoirement être interprétés en fonction :

A
  1. du construit
  2. de la population
  3. du contexte
25
Q

Le construit : définition + exemples

A

C’est le concept qu’on va mesurer avec notre instrument (ex: dépression, engagement, etc.)

Exemples :
- La dépression (avec le BDI) ne doit pas être utilisée pour mesurer l’anxiété (il faudrait utiliser le BAI) ou l’épuisement professionnel.

  • L’identification à l’organisation ne doit pas être utilisée pour mesurer l’engagement affectif envers l’organisation
26
Q

La population : définition + exemples

A

Ce sont les gens qui vont passer le test
(ex: enfants, adultes canadiens, travailleurs du milieu de la santé, etc.)

Exemples :
1) Binet (1905)
BUT : Identifier les enfants à assigner à des classes spéciales

Stanford-Binet (1916)
BUT : Adapter le Binet aux besoins des États-Unis
- Développer plus d’épreuves «à la Binet»
- Démontrer l’utilité auprès d’un plus grand groupe normatif

Wechsler Adult Intelligence Scale (WAIS) (1939)
BUT : Évaluer l’intelligence des adultes
- Le Binet n’était pas adéquat pour le besoin de Wechsler
- L’obtention d’un seul score pour décrire l’intelligence
- Les items étaient infantiles, simplets

27
Q

Le contexte : définition + exemples

A

Ce sont les conditions dans lesquelles les participants vont passer le test

Ex :
Temps de passation

Connaissances préalables

28
Q

ÉTAPE 1 : Usage anticipé (en fcontion de construit, population et contexte)

A

OBJECTIFS
- Déterminer ce que mesurera l’instrument et à quoi serviront les résultats qui en émaneront (1. construit et les buts fondamental et psychométrique)

  • Déterminer qui seront les bénéficiaires (2. population), les utilisateurs et les administrateurs
  • Déterminer le contexte d’utilisation (3. contexte)

MOYENS
- Survol analytique des instruments existants et des articles de recherches sur le domaine

  • Consultations avec des experts
29
Q

Les objectifs de l’instrument

A

But fondamental:
«Qu’est-ce qu’on évalue et pourquoi?» Quel est le problème que l’instrument entend contribuer à régler? À quoi les résultats serviront-ils?

Voulez-vous discriminer entre deux groupes de personnes? Voulez-vous effectuer un diagnostic?

Voulez-vous établir un profil des caractéristiques d’une personne?

But psychométrique:
Quelle est la valeur ajoutée de l’instrument par rapport aux autres instruments existants? Pourquoi créer/modifier cet instrument?

30
Q

POURQUOI CRÉER UN NOUVEL INSTRUMENT: Exemples de buts psychométriques courants

A

1) PROCÉDER À UNE ÉVALUATION
Afin de réduire la durée de l’évaluation, de réduire la fatigue liée à l’évaluation ou afin de réduire les coûts de celle-ci.

2) CHANGER LA MODALITÉ D’ÉVALUATION
Pour mieux répondre aux besoins d’une population cible donnée; pour répondre à un changement de contexte

(Ex.: passer d’une entrevue à un questionnaire afin d’évaluer un plus grand nombre de personnes).

3) TRADUIRE AVEC OU SANS ADAPTATION CULTURELLE
Parce qu’un bon instrument existe déjà dans une autre langue ou culture

4) PRÉCISER LE CONSTRUIT
Pour mieux correspondre aux avancées théoriques et cliniques et répondre aux besoins d’une population cible (Ex.: la dépression «générale» se subdivise-t-elle en types de dépression?)

5) CIBLER PLUS PRÉCISÉMENT UN PAN DE LA POPULATION
Pour mieux répondre aux besoins d’une population donnée.
(Ex.: la dépression «en générale» VS la dépression de femmes enceintes et monoparentales.)

6) CRÉER UNE VERSION PARALLÈLE D’UN TEST
Pour s’assurer que les réponses d’un test ne soient pas divulguées

31
Q

Les acteurs à identifier

A

Concepteur : La personne qui crée l’instrument

Administrateur : La personne qui procède à la mesure

Bénéficiaire : La personne qui se fait évaluer à l’aide de l’instrument

Utilisateur : La personne qui évalue les bénéficiaires à l’aide des résultats de l’instrument

32
Q

QUOI FAIRE ATTENTION DE NE PAS CONFONDRE ?

A

Ne pas confondre les acteurs impliqués dans la validation du test avec ceux impliqués dans l’utilisation du test, une fois ce dernier validé!

Acteurs impliqués dans l’étude de validation (échantillon de validation

Acteurs impliqués
dans l’utilisation du test, une fois validé : À l’usage anticipé, ce sont les acteurs que nous identifions !