Cours 3 - Fidélité des tests Flashcards

1
Q

À quelle étape du processus d’élaboration d’un test vérifie-t’on sa fidélité?

A

L’analyse des items. En effet, on tente de diminuer les sources d’erreur de mesure et on sélectionne les bons items.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Qu’est que la covariance et pourquoi est-elle difficile à interpréter?

A

Il s’agit du degré avec lequel deux variables varient ensemble. Elle n’est pas standardisée donc difficile à faire des interprétations.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Qui suis-je? Degré avec lequel la position des scores des personnes sur la variable X est similaire à la position de leur score sur la variable Y.

A

Coefficient de corrélation (r)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Quel modèle statistique nous permet de comprendre la force de la relation entre deux variables et de faire des prédictions?

A

La régression

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Une plus grande corrélation entre les variables signifie une plus _____ erreur d’estimation.

A

petite

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Qu’est-ce que nous indique l’erreur type d’estimation?

A

La dispersion typique des valeurs autour de la droite de régression.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

La fidélité quantifie la façon avec laquelle les scores d’un test sont ___________ et ___________ à l’intérieur d’une certaine marge d’erreur, sans égard à ce qu’il mesure.

A

constants
reproductibles

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Quel type de fidélité est vérifiée lorsque les résultats aux deux versions d’un examen sont similaires? Par quelle méthode?

A

Type de fidélité: Stabilité temporelle
Méthode: Corrélation test-retest avec versions parallèles

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Vrai ou faux? La fidélité d’un test vise à diminuer les sources d’erreur systématique.

A

Faux; cette erreur affecte tous les scores de la même façon. La fidélité d’un test réfère davantage aux erreurs aléatoires qui elles affectent directement les scores et qu’on ne peut pas prévoir.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Quelles sont des sources d’erreur aléatoire? (4)

A
  1. La cotation des items
  2. Les variations dans les conditions d’administration (conditions externes)
  3. Les variations naturelles chez les répondants (fatigue, stress, etc.)
  4. Les variations dans la représentativité du contenu de versions parallèles
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

La théorie classique des tests décortique les scores en 3 composantes. Lesquelles?

A
  • Le score observé
  • Le score vrai
  • L’erreur de mesure
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Quelle formule nous permet de trouver la variance du score observé?

A

𝑆_𝑂^2=𝑆_𝑉^2+𝑆_𝐸^2

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Selon la théorie classique des tests, comment peut-on exprimer la fidélité?

A

Elle s’exprime par le ratio entre le score vrai et le score observé
𝑟=(𝑆_𝑂^2−𝑆_𝐸^2)/(𝑆_𝑂^2 )

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Quels sont les 3 types de fidélité?

A
  1. Stabilité temporelle
  2. Fidélité interjuges
  3. Cohérence interne
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Quel type de fidélité d’un test renvoie au degré auquel les personnes fournissent des réponses cohérentes à tous les items?

A

Cohérence interne

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Qu’est-ce que la stabilité temporelle?

A

Degré avec lequel la mesure d’un construit reste stable dans un intervalle de temps donné.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
17
Q

De quoi dépend la corrélation test-retest utilisée pour mesurer la stabilité temporelle? (2)

A
  1. De l’intervalle de temps entre les passations du test. Par exemple, si les deux mesures sont prises à des moments trop rapprochés, risque que la personne s’en souvienne et ait un meilleur score.
  2. La quantité de changements naturels ou d’intervention entre les deux mesures. Par exemple, un élève a commencé une médication pour son TDAH entre les deux mesures.
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
18
Q

Quelles sources d’erreur sont évaluées par la corrélation test-retest?

A
  • Les fluctuations naturelles des personnes sondées (ex; fatigue)
  • Les variations dans la méthode d’administration (ex; bruit)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
19
Q

Vrai ou faux? La corrélation test-retest est une méthode permettant d’évaluer les erreurs de variation de contenu d’un test.

A

Faux; il s’agit du même test pour les deux mesures

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
20
Q

Quels sont les inconvénients de la corrélation test-retest comme méthode de vérification de la fidélité?

A
  1. Ne mesure pas les erreurs de variations de contenu (une seule version)
  2. Difficilement réalisables pour les tests très longs
  3. Possible effet de mémoire entre les deux mesures
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
21
Q

Quelle méthode de vérification de la fidélité mesure la stabilité temporelle en annulant l’effet de mémorisation?

A

La corrélation test-retest avec formes parallèles
Consiste à administrer le test deux fois au même échantillon de personnes, mais une version différente à chaque fois.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
22
Q

De quoi dépend la corrélation test-retest avec versions parallèles utilisée pour mesurer la stabilité temporelle? (3)

A
  • La qualité du parallélisme entre les deux versions (à quel point elles sont équivalentes)
  • L’intervalle entre les deux mesures
  • La quantité de changements survenus entre les deux mesures
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
23
Q

Quels sont les avantages de la corrélation test-retest avec formes parallèles?

A
  1. Élimination de l’effet de mémoire
  2. Administration simultanée (pas obliger de laisser un délai de temps entre les deux mesures)
24
Q

Vrai ou faux? Pour vérifier la fidélité interjuge entre 3 correcteurs, on utilise la corrélation de Pearson.

A

Faux; la corrélation de Pearson est utilisée pour les réponses de 2 correcteurs/juges. Pour plus de 2 juges, on utilise la corrélation intra-classe.

25
Q

Quelle corrélation est utilisée pour mesurer la fidélité interjuge lorsque les mesures sont en termes de fréquence? (par exemple, un nb de comportements à comptabiliser)

A

Corrélation de Kappa (k)

26
Q

Comment peut-on bien s’assurer que les juges ont tous la même compréhension des réponses afin d’avoir une correction stable?

A
  1. Compétence d’évaluation des juges
  2. Les réponses possibles sont bien codifiées
  3. Formation offerte aux juges (peut être de juste leur montrer commun ou nécessite une vraie formation spécifique à un test)
27
Q

Qu’est-ce que mesure la corrélation par dissection?

A

À quel point le score obtenu à une moitié du test est similaire au score de la deuxième moitié (cohérence interne)

28
Q

Vrai ou faux? La corrélation par bissection consiste à séparer le test au milieu puis corréler les scores des premiers items avec ceux de le la 2e moitiée du test.

A

Pas tout à fait; on préfère séparer les items selon s’ils sont pairs ou impairs afin d’éviter l’effet de fatigue qui s’installe vers la fin du test ainsi que le niveu de difficulté parfois progressif.

29
Q

Vrai ou faux? La corrélation par bissection ne donnant que la fidélité que sur la moitié des items du test, on ne l’utilise que très rarement.

A

Faux; il suffit d’appliquer la correction de Spearman-Brown.

30
Q

J’ai conçu un test de 5 items dont la fidélité ne me satisfait pas. J’aime atteindre une fidélité de r=0,75 en ajoutant d’autres items (plus un test contient d’items, plus le risque d’erreur aléatoire diminue). Comment pourrais-je savoir combien d’items de plus sont nécessaires pour atteindre cette fidélité désirée?

A

En utilisant la formule de la prophétie qui permet d’estimer le nombre d’items nécessaire pour augmenter la fidélité d’un test.

31
Q

Quelle est la formule de la prophétie?

A

𝑘 (𝑟_𝑑 (1−𝑟_𝑜 ))/(𝑟_𝑜 (1−𝑟_𝑑 ) )

32
Q

Qu’est-ce que mesure l’alpha de Cronbach?

A

Le degré avec lequel les personnes répondent de façon similaire à tous les items d’un instrument.

33
Q

Qui suis-je? Il s’agit de l’un des meilleurs indices de cohérence interne.

A

Alpha de Cronbach

34
Q

Plus l’alpha de Cronbach s’approche de 1, plus la fidélité est ___________.

A

bonne

35
Q

Vrai ou faux? L’alpha de Cronbach s’exprime entre -1 et 1.

A

Faux; Ce coefficient peut varier entre -∞ et 1, mais est la plupart du temps situé entre 0 et 1.

36
Q

Quelles méthodes permettent d’évaluer la cohérence interne?

A

La corrélation par dissection et l’alpha de Cronbach

37
Q

Les méthodes de vérification de la stabilité temporelle sont utiles pour quelles sources d’erreur de mesure?

A

Les variations dans la procédure d’administration et les variations dans dues aux personnes

38
Q

Quelle méthode de vérification de la fidélité est utile pour les erreurs dans la variation dans la correction?

A

L’accord interjuges

39
Q

Vrai ou faux? Dans l’interprétation des indices de fidélité, il vaut mieux rester conservateur quand l’instrument est composé d’un petit nombre d’items car moins d’items= moins de fidélité.

A

Faux; il faut rester conservateur lorsqu’il y a beaucoup d’items, car les erreurs de mesure s’annulent à mesure que le nb augmente et la fidélité est artificiellement augmentée.

40
Q

En clinique, on doit avoir des indices de fidélité égal ou supérieur à 0,90. Pourquoi?

A

Car nos instruments ont une incidence importante. Par exemple, pour déterminer une personne inapte.

41
Q

Un indice de fidélié de 0,72 est considéré comme
a) innaceptable
b) faible
c) modéré

A

b) faible

42
Q

En recherche, on s’attend à des indices de fidélité d’environ _______, ce qui est considéré comme modéré.

A

0,80

43
Q

Des indices de fidélité plus élevés suggèrent une moins grande _______________.

A

erreur de mesure

44
Q

Quelle est la formule pour calculer l’erreur de mesure?

A
  1. 𝐸𝑇𝑀=𝑆_𝑥 √(1−𝑟_𝑥𝑥 )

    Sx = Écart-type du score observé
    rxx = Indice de fidélité (corrélation)
  2. Intervalle de confiance de 95% supposant une loi normale (z=1,96)
    𝑋±1,96∙𝐸𝑇𝑀
    où X est le score obtenu à l’instrument pour une personne ou pour la moyenne du groupe
45
Q

Quelle méthode de vérification de la fidélité devrais-je utiliser pour mesurer les erreurs de mesure dues aux fluctuations naturelles chez les participants et les variations dans la méthode d’administration du test?

A

La corrélation test-retest

46
Q

Je veux mesurer le nombre de fois que des étudiants regardent leur cellulaire pendant un cours. Je demande à Raf de compter aussi de son côté pour m’assurer d’une fidélité interjuges. Je vais donc mettre en relation nos cotes avec une corrélation
a) de Pearson
b) de Kappa
c) intra-classe

A

b) Kappa
puisqu’il s’agit de fréquences

47
Q

Les résultats aux deux versions d’un examen sont similaires. Ceci est un exemple de
a) validité didactique
b) validité de contenu
c) fidélité
d) accord interjuge

A

c) fidélité

48
Q

Les auxiliaires d’enseignement corrigent les examens de psychométrie. Ils cotent différemment certains items. Ceci est un exemple d’erreur __________.

A

aléatoire

49
Q

En révisant les résultats des étudiants à l’examen, l’enseignant se rend compte que les résultats de la version B sont significativement plus faibles que la version A. Cela correspond à quelle erreur aléatoire?

A

Des variations dans la représentativité du contenu.
Les deux versions ne sont pas équivalentes puisquent la moyenne (et l’écart-type) sont différents.

50
Q

En mesurant la cohérence interne de mon instrument par une corrélation par bissection, j’obtiens r= 0,64. Je dois maintenant appliquer la correction de Spearman-Brown car cette fidélité n’est que pour la moitié des items. Quel sera la corrélation corrigée pour le test en entier (rc)?

A

rc= (2𝑟ℎ)/(1+𝑟ℎ )
rc= 2∙ 0,64/ 1+ 0,64
rc= 0,78

rh: corrélation entre les deux demi-tests

51
Q

Quelles variables sont nécessaires pour le calcul de l’Alpha de Cronbach?

A

Le nombre d’items (k) et l’intercorrélation moyenne entre les items (𝑟̅)

52
Q

Quelles méthodes permettent de cerner les erreurs de variation dans la représentatitivé du contenu?

A

Les méthodes de cohérence interne (Alpha de Cronbach et corrélation par bissection)

53
Q

Comment peut-on déterminer l’effet de l’erreur de mesure sur les scores observés?

A

En utilisant la formule de l’erreur-type de mesure. Elle nous permet d’établir un intervalle de confiance puis de tirer l’interprétation suivante: “95% du temps, un score observé de X correspond à un score vrai situé entre ces valeurs.”

54
Q

Pour que la formule de la prophétie soit valide, les items ajoutés doivent représenter le ____ et la moyenne des intercorrélations entre les items ____ doit être égale à celle des items ____.

A

même domaine de contenu

initiaux

ajoutés

55
Q

Plus le nombre d’items est grand et plus la ____ moyenne entre les items est grande, plus ____ sera la cohérence interne.

A

corrélation

grande

56
Q

Quel est la barême pour les indices de fidélité ?

A
  • 0,60 et moins : inacceptable
  • 0,70 : Faible
  • 0,80 : Modérée
    0,90 et plus : Adéquate