QM - Linear regression

Question 1

Formule : Yi = β1.Xi + b0 (+e)

Donne les formules des elements suivants

Y
Beta (b1)
Slope (b0)
e

Answer 1

Y
X
b1 (Beta) = Cov x,y / variance de x. avec X la variable
indépendante.
b0 = Yi - b1.Xi

Attention a ne pas confondre avec la formule de la correlation et du Beta dans PM.

Question 2

Que minimise la droite de regression linéaire ?

Answer 2

Les écarts entre chaque points et la moyenne

Question 3

Avec un Beta de 4, comment évolue la valeur de la variable dépendante en cas d’augmentation de la valeur de la variable indépendante de +5.

Answer 3

+20

Question 4

Qu’est-ce que b1 et b0 ?

Answer 4

b1 : Beta c’est la pente

b0 : intercept term

Question 5

Donnez les significations de SSE, SSR, et SST et trés simplement comment sont ils reliés.

Answer 5

SSE : Sum of squared errors. Differences les observations et les predicted values

SSR : Regression sum of squares. Differences entre la moyenne et les predicted values

SST : Total sum of squares. Differences entre le a moyenne et les observations

SSR : Partie de la variation de Y expliquée par X
SSE : Partie de la variation de Y non expliquée par X
SST = SSR + SSE

Question 6

Coefficient de determination R^2

Answer 6

R^2 = SSR/SST.

ou

r = R donc r^2 = R^2

Le coefficient de determination correspond au % de la variation de Y (variable déprenante) expliquée par la variation de X (variable indépendante).

Question 7

Formules (Cas d’une régression linéaire simple)

MSR
MSE

Tests d’hypotheses sur régression linéaire :
- Fc
- b1 (Slope coefficient)
Les deux test permettent de statuer sur b1 (slope coefficient).

Answer 7

MSR = SSR/1 = SSR

MSE = SSE/ n-2

Rappel : SSE et SSR sont données, on ne connaît pas les formules.

F-stat = MSR/MSE
Il s’agit d’un one tail test.

T-stat = (b1 - b)/std.
Il s’agit d’un two-tailed test.
ddof n - 2
On peut utiliser Z pour calculer les valeurs critiques si
l’échantillon est suffisamment grand

Question 8

Test d’hypothèse en regression linéaire :

Sur quels elements le test d’hypothèse sur regression linéaire peut porter ? Preciser s’il s’agit d’un one or two tailed test.

Answer 8

b1

Question 9

Donner les valeurs des valeurs critiques à 99%, 95%, 90% de la loi normale Z.

Answer 9

2,58
1,96
1,65

Question 10

Quels sont les 4 règles pour qu’un modèle de regression linéaire soit dit valide ?

Answer 10

1. Relation linéaire entre Y et X
2. Variance égale de l’erreur résiduelle (Homoskedasticity de e)
3. Indépendance de l’erreur résiduelle (e)
4. Distribution normale de l’erreur résiduelle (e)

Question 11

Intervalle de confiance de Yi.

Answer 11

[ Yi - tc.Std ; Yi + tc.Std ]

On peut utiliser les valeurs critiques de Z si l’échantillon est suffisamment grand.
(La std est celle de la variable indépendante x)

Question 12

One of the 4 assumptions to asses the linear regression as valid is “Linear relationship between X and Y”

What happened if the relationship isn’t linear ?

Answer 12

3 possibilités :

Log - Lin Model : Y log et X linear
Lin - Log Model : Y linear et X log
Log - Log Model : Y log et X log

Si on a “Model of a relative change (log) in the independent variable and an absolute change (lin) in the dependent variable” alors on a un Log-Lin Model.

Question 13

Donnez 3 exemples de cas de regression linéaire en précisant la variable indepdenante et déprenante.

Answer 13

.