Chapitre 7 : La régression linéaire simple

Question 1

Qu’est-ce que la régression linéaire simple?

Answer 1

La régression prédit la position probable d’une personne sur la variable y à partir de sa position connue sur la variable x. Le degré de précision de cette estimation dépend de la taille de la Rxy connue.

Question 2

Pourquoi est-ce la régression est une meilleure estimation que la moyenne lorsque possible?

Answer 2

La psychologie s’intéresse aux différences individuelles, une estimation basée sur la moyenne est moins précise/utile.
Le but de la régression est d’utiliser la relation générale (Rxy) pour faire une prédiction individualisée et plus précise que celle faite par la moyenne.

Question 3

Qu’est-ce qui permet une meilleure précision de la prédiction de la régression?

Answer 3

La précision de la régression s’améliore au fur et à mesure que Rxy augmente

Question 4

Qu’est-ce que la régression simple standardisée?

Answer 4

• La régression standardisée se sert de la position en score-z de x afin d’estimer sa position en score-z sur y
• La régression simple standardisée sert à faire des prédictions plus théoriques (conclusions générales par rapport à une population), ce qu’on pourrait voir dans une revue scientifique

Question 5

Qu’est-ce que la droite de régression?

Answer 5

• Elle représente la tendance des coordonnées xy
• Pour une régression standardisée, la droite passe toujours par 0 (ordonnée à l’origine)
• Pour une régression non standardisée, la droite ne passe pas par 0 (c’est possible, mais très rare)
• La force de prédiction est illustrée par la droite

Question 6

Comment doit-on positionner la droite de régression?

Answer 6

• La droite est correctement positionnée lorsqu’elle représente le mieux la distribution des coordonnées
• La moyenne étant le meilleur estimé des coordonnées, la droite est bien positionnée lorsqu’elle se trouve à la moyenne du nuage de points
• Ainsi, il va avoir autant de points au-dessus que en-dessous de la moyenne
• La droite est au bon endroit lorsque la somme des écarts à la moyenne = 0

Question 7

Qu’est-ce que nous indique l’angle entre la droite de régression et l’abscisse?

Answer 7

Il nous indique le degré de relation xy

Question 8

Pourquoi est-ce que l’approche statistique de la régression est-elle plus utilisée que l’approche par positionnement?

Answer 8

• La régression est réduite au positionnement de la droite
• Le positionnement par graphique est facilement imprécis, lent et fastidieux, et n’est pas généralisable aux formes de régression plus complexes

Question 9

Comment peut-on prédire y à partir de x?

Answer 9

La valeur prédite (ŷ) se trouve en multipliant la corrélation par le score-z de la valeur x de l’observation.
ŷ = rxy * zx

Question 10

Quel est l’équivalent de Rxy dans une corrélation standardisée?

Answer 10

Rxy devient “béta”, le coefficient de régression standardisée.
Béta équivaut toujours à Rxy

Question 11

Quel est l’équation de la régression simple standardisée?

Answer 11

ŷ = bx * zx

où b = béta (c’est notre indice qu’il s’agit du régression standardisée)

Question 12

Quel est le principal inconvénient de la régression standardisée?

Answer 12

Avec l’approche graphique ou statistique, la régression standardisée a un inconvénient majeur : elle produit un estimé de y en score-z plutôt qu’en valeur de l’échelle originale
Ce n’est utile que si l’on cherche si une variable x a une influence sur une variable y, sur le plan théorique.

Question 13

Qu’est que la régression simple non-standardisée?

Answer 13

• La régression NS analyse les données originales et produit un estimé en valeurs originales
• Mais les valeurs originales proviennent de distributions x et y qui n’ont pas nécessairement une moyenne et un s identique
• La droite sera établie en intégrant les moyennes et s de x et y
• Est utile lorsqu’on est sur le terrain et qu’on veut faire des prédictions pratiques dans la vie de tout les jours

Question 14

Quels sont les deux éléments qui définissent la droite de régression?

Answer 14

L’ordonnée à l’origine et la pente

y - bx + a

Question 15

À quoi correspond le coefficient de régression NS (soit “b”)?

Answer 15

Il s’agit de la corrélation Rxy calculée en valeurs réelles (et non pas en scores-z)
Requiert les moyennes de x et y et les s de x et y
“b” indexe numériquement la taille du changement sur y relativement à la taille du changement sur x

Question 16

Qu’est-ce qui permet d’intégrer le fait que les variables x et y n’ont pas nécessairement la même moyenne et le même s dans la régression NS?

Answer 16

L’ordonnée à l’origine, soit “a”

Question 17

Comment calcule-t-on le coefficient de régression NS “b”?

Answer 17

b = Rxy * (sy / sx)
(sy/sx) est une correction arithmétique permettant d’exprimer la corrélation en valeur brute et non pas en valeur standardisée car Rxy est une valeur standardisée (relation en x et y exprimées en scores-z)

Question 18

Quelles sont les caractéristiques de “b” et “béta”?

Answer 18

• La valeur min de “b” = 0 et la valeur max est indéterminée
• La valeur de “béta” et de Rxy sont identiques
• Le signe de “b” et “béta” est identique à celui de Rxy

Question 19

Quelles sont les caractéristiques de “a”?

Answer 19

• “a” est une constante qui est ajoutée au produit de “b” pour finaliser la prédiction de y
• Prend en considération que x et y n’ont pas nécessairement la même moyenne
• Sert à ajuster la valeur prédite afin qu’elle soit sur l’échelle de y
• Indique la valeur sur y lorsque x est à sa valeur minimale ou x = 0

Question 20

Comment calcule-t-on “a”?

Answer 20

a = moyenne de y - (b * moyenne de x)

Question 21

Quelles sont les similarités entre la régression standardisée et NS?

Answer 21

• La droite de régression est déterminée par la relation Rxy

- S’établissent graphiquement de la même manière

Question 22

Quelles sont les différences entre la régression standardisée et NS?

Answer 22

• L’ordonnée à l’origine est toujours 0 en standardisée, alors qu’elle n’est presque jamais 0 en NS
• La standardisée utilise la corrélation pour produire un estimé en valeur standardisée
• La NS utilise la relation NS pour produire une estimation en valeurs originales

Question 23

Qu’est-ce que l’erreur d’estimation?

Answer 23

• Plus élevée est la corrélation Rxy, plus élevé sera le coefficient de régression b
• Plus élevé est le coefficient, plus précise sera la prédiction. Toutes les coordonnées sont plus proche de la droite de régression et donc, plus précise sera la prédiction
• Si la prédiction est plus “précise”, le risque d’erreur est alors plus faible
• Erreur d’estimation = intervalle de confiance

Question 24

Pourquoi a-t-on besoin de l’erreur d’estimation?

Answer 24

• La régression est utilisée pour “prédire” une valeur inconnue qui servira à prendre une décision au sujet de la personne
• Si nous faisons une erreur, cela pourrait être potentiellement grave pour la personne
• Il faut donc un moyen d’estimer la taille de l’erreur d’estimation

Question 25

Quel est l’impact de b ou “béta” sur l’erreur d’estimation?

Answer 25

Plus b ou “béta” est petit, plus l’erreur d’estimation sera grande et vice-versa

Question 26

Comment calcule-t-on l’erreur d’estimation pour une observation?

Answer 26

e = (ŷ - y).
e = l’erreur d’estimation.
ŷ = la valeur prédite de y.
y = la véritable valeur de y

Question 27

Comment calcule-t-on l’erreur moyenne d’estimation?

Answer 27

𝛸 erreur= S(ŷ - y)²/ n -1
On la met au carré car la droite de régression est construite de manière à ce que la somme des erreurs positives soit égale à la somme des erreurs négatives
Pour avoir l’erreur moyenne d’estimation, on fait la racine carré de tout ça

Question 28

Qu’est-ce que nous indique l’erreur type d’estimation?

Answer 28

• Elle nous indique l’erreur typique que nous faisons avec nos prédictions
• Nous utilisons cette information pour calculer une fourchette de valeurs à l’intérieur de laquelle se trouvera “probablement” la véritable valeur (ressemble au principe de l’intervalle de confiance)

Question 29

À quel autre statistique ressemble l’erreur type?

Answer 29

Elle ressemble à l’écart-type
Lorsqu’on calcule IC, on sait qu’il y a 68% de chances que la véritable valeur de y se retrouve entre +-1 erreur type de l’estimation
On peut décider d’avoir un plus grand IC pour avoir 95% ou 99% de chances de trouver la véritable valeur

Question 30

Quelle est la relation entre Rxy/b/béta et l’erreur type?

Answer 30

• Plus faible est Rxy/b, plus élevée sera l’erreur type
• Plus élevée est l’erreur type, plus large sera la fourchette de valeurs autour de la valeur prédite (prédiction moins précise)
• Lorsque Rxy ou béta est parfait, l’erreur = 0 (la prédiction n’aura pas d’erreurs)

Question 31

Que sont les postulats de la régression?

Answer 31

• Échelles à intervalles ou de rapport (ratio)
• Variance sur x et y (homogénéité des variances)
• Linéarité
• Distribution normales de x et y
• Éviter les valeurs extrêmes
• Variance égale des erreurs de prédictions
• Distribution normale des erreurs de prédictions