ANOVA Flashcards

1
Q

Hva blir ulike t-tester til i ANOVA?

A

uavhengig t-test til ANOVA, ANCOVA, factorial (two-way, n-way) designs

fra avheng t-test til repeated measures ANOVA

og så har vi mixed (between-within subjects) deisgn hvor vi tester ulike grupper på forskjellig tid

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Hva står ANOVA for?

A

analysis of variance

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Hva er en variansanalyse?

A

Den studerer forskjeller mellom grupper på en kontinuerlig avhengig variabel.
* Brukes blant annet til å analysere resultatene fra eksperimenter.

Variansanalysemetoden sammenligner gjennomsnitt for flere grupper
* La g betegne antall grupper..
* Gjennomsnittet av responsvariabelen for g-populasjonene er angitt med 𝛍𝟏,𝛍𝟐, …𝛍𝐠.

Variansanalysen er en signifikanstest av nullhypotese om like populasjonsgjennomsnitt
* H0: 𝛍𝟏= 𝛍𝟐 = ⋯ = 𝛍𝐠 (alle gjennomsnitt er like)
Den alternative hypotesen er:
* Ha: det er minst to gjennomsnitt som er ulike

Det er mange forskjellige analyseteknikker.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Hvilke forskjellige analyseteknikker har vi i variansanalyse?

A
  • Analyseteknikker
    – T-testen (to grupper) (dårlig)
    – Enveis variansanalyse (ANOVA)- bare en grupperingsvariabel
    – Enveis variansanalyse med kovariater (ANCOVA)
    – Flerveis variansanalyse (Factorial ANOVA) - flere grupperingsvariabler
    – ANOVA med repeterte målinger (RANOVA)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Hvilke forutsetninger må være til stede for å bruke ANOVA?

A

Statistisk uavhengighet - verdien for en observasjon forteller ingenting om andre verdier
sjekk: datainnsamling&forskningsdesign
eks. uavhengig tilfeldig utvalg(randomisering)

Lik varians på tvers av gruppene– Levene’s test, se på SDene + welch
sjekk: datainnsamling&forskningsdesign

Normalfordelte data innad i gruppene– QQ-plott, Normalitetstester (e.g., Shapiro-Wilk test eller Kolmogoroff-Smirnov test)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

ANOVA - hvordan skiller den seg fra t-test og hva gjør den?

A
  • I stedet for å sammenlikne en og en gruppe, se på variansen av gruppegjennomsnittene
  • Er denne variansen større enn man forventer av tilfeldighet?

Det er viktig å skille mellom systematisk varians og feilvarians

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Hvilke typer varians har vi i ANOVA og hvorfor er det viktig?

A

Hvor mye varians er systematisk (pga gruppetilhørighet) og hvor mye er «tilfeldig» feilvarians?

Hvis eksperimentet er vellykket, da vil modellen forklare mer varians (systematisk varians) enn den ikke kan forklare (uforklart varians/feilvarians)

Det kan testes med F-testen

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Hva er F-testen?

A

F=(MSm)/(MSr)
MSm= SSm/dfM
MSr = SSr/dfR
MS =mean squares of
SS= sum of squares, (her: varians)

Utvalgsfordelingen (F) er avhengig av to typer frihetsgrader (“degrees of freedom”)
* hvor mange grupper? (dfM= antall grupper - 1)
* hvor mange deltakere i studien? (dfR = antall deltaker – antall grupper)

Hvis eksperimentet er vellykket, da vil modellen forklare mer varians (systematisk varians) enn den ikke kan forklare (uforklart varians/feilvarians)

En ANOVA sammenligner to typer varianser:
i. Varians innad i gruppene (tilfeldig varians, feilvarians)
ii. Varians mellom gruppene (systematisk varians hopefully)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Hva er formelen for KStotal?
KSmellomgruppe? KSinnengruppe?

A

=kvadratsum = SS
KStotal = Summen av (datapunkt-gjennomsnitt)^2
- total varians i data
KSmellomgruppe = Summen av (gruppegj.snitt - gj.snitt)^2
KSinnengruppe = Summen av (datapnkt- gruppegj.snitt)^2

KStotal = KSmellomgruppe + KSinnengruppe

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Hva er GM?

A

Grand Mean, Ggjennomsnittet
gjennomsnittet over alle UV på AV

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Hva er greia med SSt?

A

SSt = total varians i data
er alle avvikene fra GM

KStotal = summen av (datapunkt xi-gj.snitt)

SSt=S^2grand(N-1)

Kvadratsumogvarianser relatert

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Hva er greia med SSm?

A

Model Sum of Squares, SSM = Variability due to the model (systematisk varians)

avvikene av gruppegjennomsnittet fra GM
KSmellomgruppe = Summen av (gruppegj.snitt - gj.snitt)^2

Bruker vi gruppetilhørighet i tillegg så er den forventede verdien ikke lenger Grand Mean, men gruppegjennomsnittet

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Hva er greia med SSr?

A

Residual Sum of Squares, SSR = Variability due to extraneous factors

Avvikene fra gruppegjennomsnittet

KSinnengruppe = summen av (datapunkt-gruppegjennomsnitt)^2

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Hvilke Mean Squares har vi?

A

Mean Squares, MS

Average variation due to model (systematisk varians)
Average variation due to error (feilvarians)

MERK: ikke KS som er bare varians og ikke gjennomsnittlig

Hvis vi deler nå kvadratsummene på deres frihetsgrader så får vi «average» varianser * …er en slags ”gjennomsnittlige” kvadratsummer * i variansanalysen kalles disse varianser ”mean squares” (MS)

MSm=SSm/dfm
MSr=SSr/dfr

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Hvordan kan frihetsgrader i en variansanalyse oppdeles?

A

Slik som SS:
dftotal = df𝑚𝑒𝑙𝑙𝑜𝑚𝑔𝑟𝑢𝑝𝑝𝑒 + df𝑖𝑛𝑛𝑒𝑛𝑔𝑟𝑢𝑝𝑝𝑒

  • dftotal = N - 1 =dft
    df𝑚𝑒𝑙𝑙𝑜𝑚𝑔𝑟𝑢𝑝𝑝𝑒= k – 1 = dfm
    df𝑖𝑛𝑛𝑒𝑛𝑔𝑟𝑢𝑝𝑝𝑒 = N – k = dfgrp1+dfrp2+…+dfgrpn = dfr

herfra kan man snu også…

dfT = antall deltagere - 1=dfm+dfr
dfm = antall grupper - 1
dfr = antall deltagere - antall grupper

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Hva er omega squared?

A

ω2 = (SSeffect – (dfeffect)(MSerror)) / MSerror + SStotal

En effektstørrels = graden av assosiasjon for en populasjon

This formula cannot be used for repeated measures designs.
For multi-factor, completely randomized design, Keppel (1991) recommends the partial omega squared (or alternatively, the partial eta-squared). The partial ω2 formula is:
partial omega squared

ω2 can have values between ± 1.
Zero indicates no effect.
If the observed F is less than one, ω2 will be negative.

.01 = liten
.06 medium
.14 stor

Kritikk: kan være misledende, ikke bruk om forskningsdesign inneholder blocking faktor
Blocking is where you control sources of variation (“nuisance variables“) in your experimental results by creating blocks (homogeneous groups).

17
Q

Hvordan kan man rapportere et resultat fra ANOVA?

A

A one-way ANOVA revealed that there [was or was not] a statistically significant difference in [dependent variable] between at least two groups (F(between groups df, within groups df) = [F-value], p = [p-value]), omega squared = [lowest, highest].

There was no significant effect of viagra dose on libidio, F(2, 17.33) = 2.57, p = 0.106, ω² = .23 [0.00, 0.29]

Dersom p-verdien < .05, og vi konkluderte med at det eksisterer forskjeller mellom de tre gruppene. Da må vi spesifikt spørre hvilke gruppegjennomsnitt som skiller seg fra hvilke?-ANCOVA

Merk: F,df innenfor og mellomgruppe i rad: Welch!!!

18
Q

Hva er multiple comparisons?

A

ANCOVA

Tester forskjeller mel. grupper

Hvorfor trenger vi multiple comparisons?
– ANOVA er en omnibus-test som bare tester at ikke alle μ (populasjonsgjennomsnitt) er like
– Vi vet ikke hvilke μ som er forskjellige

  • Planlagte kontraster
    – Planned contrasts skal være planlagt på forhånd, og tar utgangspunkt i en spesifikk hypotese som man hadde før startet analysen (kanskje basert på tidligere resultater).
  • Post hoc tester for forskjeller
    – Ikke planlagt (ingen spesifikke hypoteser)
    – Er praktisk talt t-tester mellom alle mulige grupper.
    * Men det kontrolleres for økt sjanse for type 1 feil ved å korrigere signifikansnivået.
    * Det finnes mange forskjellige post-hoc tester– For eksempel, Bonferroni (den vanligste), Tukey, osv. » Scheffe, mer komplisert og mer konservativ

Hva skjer med signifikansen når vi gjør mange parvise tester?
* Problemet med multiple tester er at sannsynligheten for α-feil øker
* Derfor må α-nivå korrigeres hvis man bruker flere tester

19
Q

Hva står ANCOVA for?

A

Analysis of Covariance

20
Q

Når bruker man ANCOVA?

A

Kan uforklarlig varians reduseres ved å kontrollere for noen kjente «extraneous variables»?

ANCOVA –Nåroghvorfor
* Brukes til å kontrollere for kjente extraneous variables.
* For å teste forskjeller mellom gruppegjennomsnitt når vi vet at en extraneous variable(s) påvirker utfallsvariabelen.

Comparing means adjusted for other predictors

planned contrasts en type multiple comparisons

21
Q

Hva er fordeler med ANCOVA?

A

NCOVA –Fordeler
* Reduserer uforklart varians(feilvarians)
* Ved å forklare noe av den uforklarte variansen (SSR) kan feilvariansen i modellen reduseres.

  • Størreeksperimentellkontroll:
    • Ved å kontrollere kjente extraneous variables får vi større innsikt i effekten av prediktorvariabelen
      * Covariate should be independent (not related) to the IV
22
Q

Hva er forskjell i hypotese i planlagt kontrast og post-hoc multiple comparisons?

A

For å demonstrereplanlagt kontrastvil vi starte med spesifikke hypoteser
* post-hoc multiple comparisons: ikke planlagt (ingen spesifikke hypoteser)

23
Q

Hva er regler for planned contrasts?

A

Regel 1: Velg logiske sammenligninger. Du kan kun sammenlige to «chunks» av gangen. Når en gruppe er alene i en sammenligning, skal den ekskluderes fra de resterende gruppene.

Regel 2: Grupper med positive vekter vil bli sammenlignet med grupper med negative vekter. (eks høy og lav dose)

Regel 3: Summen av vekten skal alltid bli null

Regel 4: Grupper som blir vektet 0 blir ikke med i sammenligningen.

Regel 5: Vektingen i den ene «chunken» skal tilsvare antall grupper i den andre «chunken»

24
Q

Eksempel på hvordan kan man rapportere fra ANCOVA?

A

The covariate, partner libido, was significantly related to the participant’s libido, F(1, 26) = 4.96, p = 0.035, ω²p = 0.12. There was also a significant effect of Viagra dose on levels of libido after controlling for the effect of partner libido, F(2, 26) = 4.14, p = 0.027, ω²p = 0.17. Planned contrasts revealed that having any dose of Viagra significantly increased participants libido compared to having a placebo, t(26) = 2.79, p = 0.01, representing a large-sized effect d = 2.30, 95% CI [0.48, 4.12], but having a high dose of Viagra did not significantly increase libido compared to having a low dose, t(26) = 0.54, p = 0.59.

Kovariaten sin påvirkning på AV med F(

25
Q

Hva er faktoriell ANOVA?

A

Factorial design
– More than one independent/predictor (factors) variable has been manipulated
Ser på oppdelin systematisk varians

  • The number of independent/predictor variables manipulated
    – n-way= npredictors/independent variables (factors) , for example:
  • Two-way = 2 independent variables (e.g., alcohol, gender)
  • Three-way = 3 independent variables (e.g., alcohol, gender, age)

Eksempel:
Field(2009):Testingtheeffectsofalcoholandgenderon‘the beer-goggleseffect’: Factor1(Alcohol):Levels=None,4pints Factor2(Gender):Levels=Male,Female
Dette er et 𝟐×𝟐forskningsdesign og ANOVAen heter 𝟐×𝟐 faktoriell ANOVA. Her er det totalt 2 x 2 = 4 grupper!

Dependent variable (DV) was attractiveness of the partner selected at the end of the evening.

26
Q

Når og hvorfor bruke toveis ANOVA

A

Nåroghvorfor
* 2 uavhengige variabler (faktorer)
* Prinsippet kan utvides til å inkludere flere, uavhengige faktorvariabler (“flerfaktoriell” ANOVA)!
* resultatene vanskeligere å tolke (interaksjonseffekter!)

27
Q

Hva er fordeler med toveis ANOVA?

A

Fordeler
* Du lærer mer med en toveis ANOVA
* Vis hvordan effekten av en prediktor kan avhenge av effekten av en annen prediktor – interaksjonseffekt!

  • Det er mer kostnadseffektivt å studere variablene sammen * i stedet for å kjøre to separate eksperimenter.
28
Q

Hvordan kan man rapportere toveis ANOVA?

A

There was a significant main effect of gender on the attractiveness of selected mates, F(1, 28) = 6.540, p < .05, ω² = .06. There was a significant main effect of the amount of alcohol consumed at the nightclub, on the attractiveness of the mate that was selected, F(1, 28) = 31.652, p < .001, ω² = .35. There was a significant interaction effect between the amount of alcohol consumed and the gender of the person selecting a mate, on the attractiveness of the partner selected, F(1, 28) = 21.188, p < .001, ω² = .23.

1.UV1
2.UV2
3.Interaksjonsledd

4: effekten indikerer, se på forskjeller

This effect indicates that males and females were affected differently by the amount of alcohol consumed. Specifically, the attractiveness of partner was not significantly different between males (M = 66.88, SD = 10.33) and females (M = 60.63, SD = 4.96)who did not drink alcohol (p= .159); however, the attractiveness of partner was significantly different between males (M = 66.88, SD = 10.33)and females (M = 60.63, SD = 4.96) who drank four pints of alcohol (p< .001)

29
Q

hvordan kan man skrive formler for ANOVA, ANCOVA og toveis ANOVA som regresjon?

A

ANOVA, ANCOVA og ToveisANOVA kan forstås som en spesiell form for multippel regresjon.
ANOVA
Libido𝒊= 𝑏𝟎+ 𝑏𝟏low𝒊 + 𝑏2high𝒊+ 𝒆𝒊

ANCOVA Libido𝑖=𝑏0+𝑏1lowi+𝑏2high𝑖+𝑏3partner′s libido𝑖+𝑒𝑖

ToveisANOVA
Attractiveness𝒊= 𝑏𝟎+ 𝑏𝟏gender𝒊 + 𝑏2alcohol𝒊+ 𝑏3alcohol*gender𝒊+𝒆𝒊

30
Q

Hvor finner man stigningstallene til ANCOVA som regresjon?

A

Tabell: coefficients
Kolonne: unstandardized
Rad: M1/H1, men modell 1

31
Q

Hvor finner man utfallet av regresjonsligningen til ANCOVA med regresjon

A

Tabell: marginal means - UV
Kolonne: marginal mean
Rad: variabel du skal knytte det til

ANCOVA Libido𝑖=𝑏0+𝑏1lowi+𝑏2high𝑖+𝑏3gj.snittsXpartner′s libido𝑖+𝑒𝑖
Gj.snitts Xen i ligningen x gj.snitt. av kovariabel