Week 6

Question 1

wat valt alles onder het Algemene Lineair Model?

Answer 1

alles met kwantitatieve y

Question 2

alle toetsen voor kwantitatieve y uitvoerbaar met?

> wat vergelijk je?

Answer 2

F toets

> altijd vergelijken van een complete model met een reduced model

Question 3

2 regels om aantal onafhankelijke variabelen te selecteren

Answer 3

1. genoeg om het model nuttig te maken en om goede power te hebben
2. zo simpel mogelijk

Question 4

hoezo is R² geen goed criterium om een model te kiezen?

Answer 4

R² kan niet afnemen als je predictoren toevoegt

> je zou dus het meest complexe model kiezen, dit model brengt echter nadelen

Question 5

3 types exploratieve model selectie

Answer 5

1. backward elimination - begint met alle predictoren en gooit steeds de slechtste eruit tot dat alle predictoren significante partiele r² verklaren ( alpha ingesteld)
2. forward selection - begint zonder predictoren, eerste predictor met hoogste correlatie met y. daarna steeds toevoegen van predictor met hoogste partiele r².
3. stepwise regression - modificatie van forward selection: naar elk toevoeging kijken of een predictor overbodig werd

Question 6

3 nadelen van exploratieve model selectie

Answer 6

1. levert niet altijd zinvolle modellen op bv. geen hoofdeffect maar wel interactie
2. nominale en werkelijke p waarden komen niet overeen
3. (belangrijk) algoritmes zijn gevoelig voor kanskapitalisatie: gevonden schattingen mede product van toevalsfluctuaties

> gevonden model verklaard veel minder in nieuwe steekproef

Question 7

3 aannames van lineaire modellen

Answer 7

1. y is een lineaire functie van predictoren
2. conditionele verdeling van y is normaal
3. homogene conditionele variantie (homoscedasticiteit)
4. aselecte trekking

Question 8

hoezo neemt bij multicollineariteit de standaardfout toe?

Answer 8

in de formule van standaardfout staat 1 - R² in de noemer

> dus hoe groter R², hoe groter se

> R² is het kwadraat van de multiple correlatie, deze is groot als de predictoren van elkaar afhankelijk zijn (multicollineariteit)

Question 9

4 problemem van multicollineariteit

Answer 9

1. bij toevoeging predictor neemt R² niet toe
2. constant houden onrealistisch
3. moeilijk om belang van predictor vast te stellen omdat effecten van predictoren vervlochten zijn
4. toename in se van de b’s > regressie voorspelling instabiel

Question 10

3 indicatoren van multicollineariteit

Answer 10

1. wel significant omnibus, geen significante effecten per predictor
2. grote veranderingen van schatting coefficienten bij toevoegen predictoren
3. statistisch checken met Variance Inflation Factor

Question 11

3 oplossingen voor multicollineariteit

Answer 11

1. verwijder predictoren die niets extra verklaren
2. maak index of som groepjes variabelen
3. bij interactie, centreren