Cours 2 - Caractéristiques psychométriques des outils d'évaluation normés Flashcards

1
Q

Outils pour une évaluation formelle

Qu’est-ce que les outils pour une évaluation formelle?

A

Ce sont des outils comportant:
- Une procédure stricte d’administration (la standardisation).
- Des données normatives
- L’inférence faite lors de l’interprétation du score a été validée sont disponibles

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Standardisation

Qu’est-ce que la standardisation?

A
  • Permet de contrôler le niveau de soutien offert et le contexte.
  • Si on change les procédures, l’enfants n’est plus évalué dans les mêmes conditions que les enfants avec qui on le compare.
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Standardisation

Que faire en cas de modification mineures?

A
  • En cas de modifications mineures, on peut parfois utiliser les normes.
  • Selon les modifications effectuées, on peut vouloir spécifier que la comparaison est “à titre indicatif seulement”, en spécifiant les modifications effectuées.
  • Ex: Répétition d’une consigne car l’enfant était distrait un moment vs avoir répété toutes les consignes.
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Standardisation

Comment suivre la standardisation?

A

Pour utiliser les normes, les procédures d’administration et de cotation standardiées présentées dans le manuel doivent être suivies.
- Si ces informations sont manquantes ou insuffisantes, la fidélité en sera fort probablement affectée, ce qui impacte aussi la validité.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Normalisé

Qu’est-ce que les normes?

A
  • Des normes sont disponibles, parfois seulement des normes préliminaires.
  • Permet de comparer la performance avec celle d’individus ayant les mêmes caractéristiques
  • Ex: Âge, niveau d’éducation
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Qu’est-ce que la fidélité/fiabilité?

A

Le test mesure quelque chose de manière reproductible.
- Le test évalue de manière constante.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Qu’est-ce que la validité?

A

La capacité du test à mesure ce qu’il devrait mesurer
- Le test permet de faire l’inférence souhaitée.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Quel est la relation entre la validité et la fidélité?

A

La validité du test est limitée par sa fidélité.
- L’inférence effectuée ne peut pas être très exacte si le test ne permet pas une estimation fiable.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Fidélité

Quels sont les types de fidélité?

A
  • Inter-codeur/inter-évaluateurs/inter-observateur/inter-juge
  • Intra-observateur
  • Stabilité temporelle (test-retest)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Fidélité

Qu’est-ce que la fidélité inter-codeur/inter-évaluateurs/inter-observateur/inter-juge?

A

C’est entre différents observateurs

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Fidélité

Qu’est-ce que la fidélité intra-observateur?

A

C’est par le même observateur.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Fidélité

Qu’est-ce que la fidélité stabilité temporelle (test-retest)?

A

C’est entre deux occasions différentes, séparées dans le temps, effectuées par le même observateur.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Fidélité

Comment juger la fidélité?

A

Les scores sont habituellement comparés à l’aide de la corrélation de Pearson.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Fidélité

Quels sont les critères de jugement de la fidélité?

A
  • Minimalement adéquat : r > 0.7
  • Adéquat: r > 0.8
  • Excellent : r> 0.9
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Fidélité

Quel est l’autre aspect de la fidélité?

A

L’homogénéité de l’échelle

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Fidélité

Qu’est-ce que l’homogénéité de l’échelle?

A

Permet de vérifier que chaque items porte sur le même construit.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
17
Q

Fidélité

Comment peut être évalué l’homogénéité de l’échelle?

A
  • Split-halves
  • Item-total corrélation
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
18
Q

Fidélité

Qu’est-ce que le split-halves?

A
  • Calculé avec Cronback’s alpha
  • La valeur est bonne si 0.7<a>0.9</a>
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
19
Q

Fidélité

Qu’est-ce que item-total corrélation?

A
  • Habituellement calculé avec le “pearson product-moment” corrélation.
  • Cette valeur est bonne si 0.2<r>0.8</r>
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
20
Q

Que faire si un test comporte différentes sous-échelles?

A

Si un test comporte différentes sous-échelles (ex: une sous-échelle pour chacun des aspects qui définissent le construit), on utilise plutôt une analyse des facteurs (factor analysis).

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
21
Q

Validité

Que signifie un test valide?

A
  • Dire un “test valide”, c’est une façon rapide et moins précise de dire “l’inférence effectuée sur la base du résultat obtanu au test est valide”.
  • Ça détermine le degré de confiance qu’on peut avoir quant aux inférences faites à partir des résultats obtenus. Ex: quelqu’un obtenant un score élevé en connait plus que quelqu’un obtenant un score bas.
  • Donc, ce n’est pas le test en lui-même qui est valide. C’est toujours lié à l’interprétation qu’on fait du score obtenu au test. Pour utiliser un outil d’une nouvelle façon (pour faire de nouvelle inférence), il faut procéder à une nouvelle vérification de la validité.
  • Plus l’inférence effectuée sur la base du score obtenu a un impact élevé, plus grand devrait être le niveau de preuve soutenant sa validité.
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
22
Q

Validité

Quels sont les types de validité?

A
  • Validité nominale/de surface/apparente
  • Validité de contenu
  • Validité de construit
  • Validité critériée
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
23
Q

Validité

Quels sont les niveau minimal de validité?

A
  • Validité nominale / de surface / apparente
  • Validité de contenu
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
24
Q

Validité

Qu’est-ce que la validité nominale / de surface / apparente?

A

Jugement par un ou des experts que les items semblent effectivement évaluer le construit désiré.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
25
Q

Validité

Qu’est-ce que la validité de contenu?

A
  • Jugement par un ou des experts que les items couvrent les aspects appropriés et importants du construit.
  • Plus nombreux sont les aspects investigués, plus larges peuvent être les inférences.
26
Q

Validité

Qui est désigné comme l’expert?

A

C’est minimalement nous.

27
Q

Validité

Qu’est-ce que la validité de construit?

A

S’appuyer sur les connaissances théoriques disponibles sur le sujet, afin d’émettre des hypothèses. Selon l’hypothèse, il y a la validité de construit divergente ou convergente.

28
Q

Validité

Qu’est-ce que la validité de construit convergente?

A

On s’attend à une relation entre le score et l’aptitude/caractéristique liée d’une point de vue théorique (liaison entre deux éléments).

29
Q

Validité

Qu’est-ce que la validité de construit divergente?

A

On s’attend à une absence de relation entre le score et la performance / caractéristique considéré (on ne devrais pas voir de lien entre les deux aspects).

30
Q

Validité

Quel est le sous-type de la validité de construit?

A

La validité discriminante / groupes connus / groupes extrêmes

31
Q

Validité

Qu’est-ce que la validité discriminante / groupes connus / groupes extrêmes

A

Est-ce que deux groupes qui devraient performer différemment (ou non) performent effectivement de manière différente (ou non)?

32
Q

Validité

Qu’est-ce que la validité critériée?

A

La comparaison du résultat au test avec le résultat obtenu à un autre test.

33
Q

Validité

Quels sont les types de validité critériée?

A
  • Validité concomitante / concourante
  • Validité prédictive
34
Q

Validité

Qu’est-ce que la validité concomitante / concourante?

A
  • Les deux tests sont administrés en même temps
  • Généralement, les deux tests évaluent le même construit, ou deux construits très liés.
35
Q

Validité

Qu’est-ce que la validité prédictive?

A

Utiliser le test au temps 1 pour prédire le résultat au même test, à un autre test ou à une autre mesure d’intérêt (ex: réussite) au temps 2.

36
Q

Validité

Qu’est-ce que la validité sociale?

A
  • La validité sociale fait référence à l’acceptabilité, par les personnes impliquées dans l’intervention ou l’évaluation, de la procédure (ex: l’individu évalué, le parent ou proche aidant).
  • Plus souvent soulevée à propos des interventions, mais parfois aussi pour l’évaluation.
37
Q

Validité

Quels sont les aspects à considérer pour la validité sociale?

A
  • Inclusion de contenu jugé important dans la société
  • Un changement de niveau de performance aura un impact sur le plan fonctionnel lors des activités dans la vraie vie.
  • Procédure d’évaluation jugée acceptable.
38
Q

Quels est l’autre aspect important à évaluer pour déterminer si l’outil a de bonne qualités psychométrique?

A

La précisison diagnostique

39
Q

Précisison diagnostique

Qu’est-ce que la précision diagnostique?

A

La justesse du classement effectué sur la base du résultat obtenu au test.

40
Q

Précisison diagnostique

Quels sont les types de précision diagnostique?

A
  • La sensibilité
  • La spécificité
41
Q

Précisison diagnostique

Qu’est-ce que la sensibilité?

A

La proportion des enfants ayant réellement le trouble (selon le test de référence) qui a été correctement identifié.
- Si on a le trouble, on échoue au test

42
Q

Précisison diagnostique

Qu’est-ce que la spécificité?

A

La proportion des enfants sans trouble (selon le test de référence) qui a été correctement identifiée.
- Si on n’a pas le trouble, on réussit le test.

43
Q

Précisison diagnostique

Comment interpréter la précision diagnostique?

A

Il faut avoir confiance dans le test de référence pour avoir confiance dans le classement.
- Bonne précision: 90% et plus
- Acceptable : entre 80% et 89%
- Inacceptable: 79% et moins.
Plus la sensibilité augmente, plus la spécificité diminue.

44
Q

Précisison diagnostique

Quel précision diagnostique choisit-on pour un dépistage?

A

Pour un dépistage, on valorise une sensibilité plus élevée (pour identifier le plus de personnes présentant le trouble). Sans compromettre la spécificité (on ne veut pas inquiéter trop de personne pour rien).

45
Q

Précisison diagnostique

Qu’est-ce que la courbe ROC?

A
  • C’est une autre méthode utilisée pour déterminer la qualité du classement.
  • Elle est aussi très utile pour identifier le meilleure point de repère.
  • Plus la ligne est près du coin en haut à gauche, meilleure est la précision diagnostique.
46
Q

Précisison diagnostique

Qu’est-ce que les rapports de vraisemblances?

A

Permet d’avoir le niveau de confiance dans le classement d’un enfant en particulier:
- PosLH > 1
- NegLH < 1

47
Q

Précisison diagnostique

Que signifie PosLH > 1?

A

Indique que la personne ayant échoué a plus de chance d’avoir le trouble que de ne pas l’avoir.

48
Q

Précisison diagnostique

Que signifie NegLH < 1?

A

Indique que la personne ayant réussi le test a plus de chance de ne pas avoir le trouble que de l’avoir.

49
Q

Précisison diagnostique

Comment interpréter les rapports de vraisemblances?

A

PosLH (LH+) : En cas d’échec, l’enfant a le trouble :
- Preuve forte: PosLH supérieur à 10
- Preuve modérée: PosLH entre 5 et 10

NegLH (LH-): En cas de réussite a un diagnostique :
- Preuve forte: NegLH inférieur à 0.1
- Preuve modérée: NegLH entre 0.1 et 0.2

50
Q

Mesures de tendance centrale

Quels sont les mesures de tendance centrale?

A
  • Moyenne mathématique
  • Mode
  • Médiane
51
Q

Mesures de tendance centrale

Comment se représente la moyenne mathématique?

A

M ou x (avec la barre au-dessus).

52
Q

Mesures de tendance centrale

Qu’est-ce que le mode?

A

La valeur la plus fréquente

53
Q

Mesures de tendance centrale

Qu’est-ce que la médiane?

A

La valeur au centre.

54
Q

Mesure de dispersion

Quels sont les mesures de dispersion?

A
  • Variance
  • Écart-type
  • Étendue interquartile
55
Q

Mesure de dispersion

Qu’est-ce que l’écart-type?

A

La racine carré de la variance.

56
Q

Écart interquartile

Comment s’interprète la boîte à moustaches?

A
  • 50% de la population sont dans la boîte (entre le 1er et le 3e quartile).
    – 25% au-dessus de la médiane
    – 25% en-dessous de la médiane
  • La longueur des différentes parties de la boite et des traits permet de déterminer si la distribution est symétrique (traits de longueur similaire) ou asymétrique (traits de longueur différente).
  • On peut observer la présence ou non de données aberrantes.
57
Q

Corrélations

Qu’est-ce que la corrélation de Pearson (r)?

A

La corrélation de Pearson permet de mesurer la force d’une association entre deux variables.

58
Q

Corrélations

Comment interpréter la corrélation de Pearson?

A
  • Si +1 ou -1: Association absolument parfaite.
  • Si 0: Aucune association.
  • Valeurs négatives: Lorsqu’une variable augmente, l’autre diminue.
  • Valeurs positives: Si une variable augmente, l’autre augmente aussi.
59
Q

Corrélations

Qu’est-ce que le coefficient de détermination?

A

Le coefficient de détermination (R2 de Pearson) permet de déterminer à quel point les données (deux variables continues) sont proches de la droite de régression.

60
Q

Corrélations

Comment interpréter le coefficient de détermination?

A
  • Plus le R2 est élevé, mieux c’Est
  • Si on multiplie le R2 par 100, nous obtenons le pourcentage de variance expliquée par le modèle de régression.
61
Q

Corrélations

Comment interpréter une corrélation?

A
  • r - 0.1: Force de la relation - Faible: R2 - 0.01: % de variance totale expliquée - 1%
  • r - 0.3: Force de la relation - Moyenne: R2 - 0.09: % de variance totale expliquée - 9%
  • r - 0.5: Force de la relation - Forte: R2 - 0.25: % de variance totale expliquée - 25%