Week 2 - Multiple Linear Regression

Question 1

Wat is Explanatory Modeling?

Answer 1

Het verklaren van de relatie tussen voorspellingsvariabelen en een doelvariabele.

Question 2

Wat is “goodness-of-fit”?

Answer 2

Een statistische test om te bepalen of een steekproef past bij het verwachte beeld van de populatie.

Bij ML controle of het model bij de trainingsdata past of dat het meer/beter getraind moet worden.

Question 3

Wat zijn Error Metrics?

Answer 3

Getallen die een beeld geven van de voorspellende nauwkeurigheid van een model o.b.v. het verschil tussen de voorspelde en daadwerkelijke waarden.

Question 4

Benoem enkele van de Error Metrics

Answer 4

Error (Residual)
Mean Error (ME)
Root-Mean-Squared-Error (RMSE)
Mean Absolute Error (MAE)
Mean Percentage Error (MPA)
Mean Absolute Percentage Error (MAPE)

Question 5

Wat is de Root-Mean-Squared-Error?

Answer 5

De wortel van het gemiddelde van het kwadraat van de som van de errors.

Question 6

Wat is Overfitting?

Answer 6

Wanneer een model zo erg op specifieke data is gefit, dat het die data perfect kan ‘voorspellen’. Nieuwe data kan het niet (accuraat) voorspellen.

Question 7

Wat zijn mogelijke oorzaken van Overfitting?

Answer 7

• Te veel trainen op dezelfde data
• Te veel predictoren

Question 8

Wat is Underfitting?

Answer 8

Een model niet genoeg trainen waardoor voorspellingen inaccuraat zijn (kan met trainingsdata worden vastgesteld)

Question 9

Wat zijn mogelijke oorzaken van Underfitting?

Answer 9

• Te weinig trainingsdata
• Te weinig getraind

Question 10

Wat zijn de 2 doelen van het fitten van een regressiemodel?

Answer 10

1. Het voorspellen van waarden voor nieuwe data (voorspellende)
2. Het verklaren (verklarende) of kwantificeren (beschrijvende) van het effect van invoer(en) op een uitkomst.

Question 11

Wat is Descriptive modeling?

Answer 11

Model die de graden van associatie tussen invoeren en uitkomstvariabelen kwantificeert.
- Casuele structuur onbekend

Question 12

Wat is Explanatory modeling?

Question 13

Wat is het verschil tussen “goodness-of-fit” en “Predictive accuracy”?

Answer 13

Goodness-of-fit vertelt hoe goed een model bij data past.
Predictive accuracy vertelt hoe goed een model waarden bij nieuwe data kan voorspellen.

Question 14

Waarom is het belangrijk om Error metrics van trainings- en validatiedata te vergelijken?

Answer 14

Het verschil toont of het model goed is getraind en goede voorspellingen maakt.
- Error ~0 bij training ==> Overfit model
- Grote verschillen training & validatie ==> incorrect getraind

Question 15

Wat zijn Cumulative Gains charts?

Question 16

Wat zijn Lift Charts?

Question 17

Waarvoor is R Squared?

Answer 17

R Squared is de proportie verklaarbare variabiliteit in het model.

Verschil in variantie tussen lijn van gemiddeldes en variantie van het model. Hoe minder variantie tussen voorspellingen en datapunten, des te beter je model is.

Question 18

Wat is het verschil tussen R^2 en R^2 adjusted?

Answer 18

R^2 adjusted houdt rekening met het aantal predictors. Meer predictors = lagere R^2 adj.

Question 19

Wat zijn de AIC en BIC (niet alleen de volledige benaming!)?

Answer 19

AIC = Akaike Information Criterion
BIC = Schwartz’s Bayesian Information Criterion

Meten de “Goodness-of-fit”, maar penaliseren het aantal parameters.

Question 20

Waarvoor worden de AIC en BIC gebruikt?

Answer 20

Het vergelijken van verschillende modellen met dezelfde data set.

Question 21

Hoe weet je van de AIC en BIC of een model goed is?

Answer 21

Lagere AIC en BIC = beter model