2 Regression

Question 1

Hva brukes regression analysis til?

Answer 1

Regression analysis brukes for å finne en lineær sammenheng (assosiasjon) mellom to variabler. Vanligvis continous variables, men kan også være ordinal categorical (eks liten, større, størst blir da 1, 2, 3).

Question 2

Hva er hypotesetesting?

Answer 2

Hypotesetesting om man ser etter om y øker/minsker med økende x

Question 3

Hva er predikering?

Answer 3

Predikering om man anslår fremtidige data/unseen data basert på data man har (eks predikere vêret)

Question 4

Hva er estimering?

Answer 4

Estimering om man ser på data fra utvalget og prøver å predikere hvordan det er i populasjonen (eks prevalens av sykdom)
Ordinal explanatory variabel kan ikke estimeres for andre enn slope=0

Question 5

Hvordan lages regresjonslinjen?

Answer 5

1. Plott punktene
   
   2. Least squares
      a. Grand mean (gm) og merk x,y punkter for det. SSY brukes til å kvantifisere spredningen rundt grand mean.
      b. Ha linjen i x(gm),y(gm) og vend på den for å få minst mulig avstand mellom de andre punktene

Question 6

Hva er SSE?

Answer 6

Error sum of squares: kvadratene som kan lages av avstanden fra linjen til punktene.

Question 7

Hva er SSR?

Answer 7

Residuals sum of squares: kvadratene som kan lages av avstanden mellom linjen som treffer punktene og den horisontale linjen som representerer grand mean.

Question 8

Hva er SSY?

Answer 8

SSY = SSR + SSE og er totale sum of squres.

Question 9

y = ax + b Hva kalles a og b?

Answer 9

Regresjonskoeffisienter

Question 10

Hva er fitted value?

Answer 10

Fitted value en verdi for Y man predikerer for en gitt verdi av X (uten å ta hensyn til error, altså man går utifra at punktet ligger nøyaktig på regresjonslinjen)

Question 11

Hva er “to interpolate”?

Answer 11

Interpolate man kan finne Y verdier for X-verdier mellom to oppgitte X-verdier

Question 12

Hva er extrapolate?

Answer 12

Extrapolate man kan finne Y verdier for X-verdier utover datasettet. OBS det er ingen garanti for at forholdet fortsetter å være lineært, så kan være unøyaktig.

Question 13

Hvilken informasjon finner man i ANOVA-tabellen i JMP?

Answer 13

F-ratio og p-verdi som sier om modellen som helhet er signifikant, eller om sammenhengen bare er tilfeldig.

Question 14

Hvilken informasjon gir coefficient-tabellen?

Answer 14

Denne gir estimatet på slope og hvor sikker vi er på det estimatet.

Question 15

Hva er nullhypotesen for slope?

Answer 15

Nullhypotesen er at slope = 0, da er det ingen korrelasjon. Det testes derfor ved bruk av f.eks t-verdier til å finne standard error avstanden fra mean 0. Ligger slopen langt nok unna 0, så er nullhypotesen motbevist.

Question 16

Hva er SECoef?

Answer 16

Standard error of the coefficient (SECoef) (anna formel enn for SEM) er graden av usikkerhet vi har angående estimatet.

Question 17

Hvilke andre enn nullhypotesen kan testes i coefficient-tabellen?

Answer 17

Andre hypoteser som kan testes er f.eks om slope er forskjellig fra 1.

Question 18

Hvordan er sammenhengen mellom F-ratio i ANOVA-tabellen og t-ration i coefficient-tabellen?

Answer 18

Hvis F-ration fra ANOVA-tabellen er signifikant, så er også t-ratioen fra coefficient-tabellen signifikant og motsatt

Question 19

Hva er R-squared?

Answer 19

Andelen eller prosenten av variability (indikert av sum of squares) forklart av fitted line.

Question 20

Hvilke tall ligger R mellom? Og hva betyr en høy R?

Answer 20

R er mellom 0 og 1 eller 0 og 100%.
Høy R vil si at linjen har forklart mye av variabiliteten

Question 21

Hva er formelen for R^2?

Answer 21

R^2 = regression sum of squares/total sum of squares = (SSY-SSE)/SSY

Question 22

Hvilke output er viktig for å beskrive regresjonslinjen?

Answer 22

ANOVA-tabell
Coefficient-tabell
R-squared

Question 23

Hva er formelen for konfidensintervaller?

Answer 23

Estimate +/-tcrit *standard error of the estimate
○ Df for t-verdien er alltid samme som error df.

Question 24

Hva er prediction intervals?

Answer 24

Faktorer som bidrar til usikkerhet rundt predikering av y-verdi

Question 25

Hvilke to estimater regner man usikkerhet på i et prediksjonsintevall?

Answer 25

slope og intercept

Question 26

Hva skal til for at vi forkaster nullhypotesen i en regresjonsanalyse?

Answer 26

Høy t- og F-verdi

Question 27

Hva kan gi large residuals?

Answer 27

Outliers, mangel på forklaringsvariabel

Question 28

Hvordan avgjøres hvor skillet går for outliers?

Answer 28

○ Standardised residuals brukes for å avgjøre hvor skillet til outliers går
§ Hver residual deles på egen standard deviation som er ca kvadratroten av EMS
§ 95% av residuals forventes å ligge innenfor +/- 2 standardavvik.
Et punkt som ligger akkurat på linjen vil ha standardized residual på 0.

Question 29

Hva er influential points?

Answer 29

○ Punkt på grensen av x-verdiene har større innflytelse enn hvis det hadde ligget nærmere midten
§ Gjør analysen på nytt uten dette punktet for å vurdere påvirkningskraften

Question 30

Hvordan kan enkeltpunkt påvirke en modell?

Answer 30

Hvis de er outliers og influential punkt, spesielt kombinasjonen av disse