Begreper 2 Flashcards

Question

Normaltilnærming for andeler, nominale data.

Answer 1

Antall suksesser, Xn, er binomisk fordelt Siden Xn er bygget opp av en sum av identisk uavhengig fordelte variabler (Ij) vil Xn nærme seg normalfordelingen når n blir stor En binomiske fordelingen (n, p) er tilnærmet normalfordelt hvis n er stor - Tommelfingerregel: np>5 og n(1-p)>5

Answer 2

Komplementært til sannsynlighetsregning og handler om å trekke slutninger om en delvis ukjent virkelighet ut fra observasjoner - Estimering (Punktestimater og konfidensintervaller) - Hypotesetesting (Signifikans

Answer 3

Sannsynlighetsregning basert på helspesifiserte stokastiske modeller - Alle parametere i modellene er kjente og det er derfor mulig å beregne sannsynligheter for ulike mulige utfall eksakt iht. modellen

Answer 4

Hva kan vi slutte om populasjonens parametre basert på det vi observerer i utvalget? Vi går frem ved å sette opp en delvis spesifisert modell for utfall - Eks.: Utleder sampelingfordelingen for gitt (ukjent) μ og σ Bruker så observerte utfall til å bestemme ukjente parametere i modellen - Bruker observatorer (estimatorer) Inferens omfatter også å gi anslag for hvor sikre vi er på de konklusjonene som trekkes

Answer 5

En estimator er en "regel" for bruk av observasjoner til å gjette verdien på ukjente parametre i en modell Siden de observasjonene vi bruker er realisasjoner av stokastiske variable vil en estimatoren i seg selv være en stokastisk variable

Answer 6

Det kan finnes flere alternative estimatorer for en og samme paramter. Hvilken bør velges? Vi ønsker at estimatoren skal ha en forventning som ligger nær den sanne verdien, og vi ønsker at estimatoren skal ha lav varians/standardavvik Hvis vi lar θ' være en estimator for θ så sier vi at estimatoren er forventingsrett dersom Eθ'=θ Blant mulige forventingsrette estimatorer vil vi velge den med minst varians; den mest effektive Vi kan være villige til å kompromisse på forventningsretthet hvis en forventningsskjev estimator kan redusere variansen/standardavviket Noen ganger kan det være vanskelig å bedømme en estimators egenskaper i små utvalg. Da drøfter vi gjerne egenskapene når “ n → ∞ ”

Answer 7

Vi ser at en estimator er konsistent dersom forventet forskjell mellom estimatet og den sanne parameterverdien kan gjøres så liten en vil ved å øke utvalgsstørrelsen tilstrekkelig Merk: En estimator kan være konsistent uten å være forventningsrett og forventningsrett uten å være konsistent!

Answer 8

Går ut på å teste en oppsatt nullhypotesen H0 mot en alternativhypotesen, HA (eller H1) der en forkaster nullhypotesen til fordel for alternativhypotesen bare hvis data gir grunnlag for det

Answer 9

En hypotesetest er basert på en såkalt testobservator, som er en stokastisk variabel som kan beregnes ut fra observasjonene, og som har en kjent sannsynlighetsfordeling under nullhypotesen

Answer 10

Forkastningsområdet er de verdier av testobservatoren som skal medføre forkastning av nullhypotesen. Grensen mellom forkastning og godtaking kalles for kritisk verdi

Answer 11

Forkastningsområdet og kritisk verdi bestemmes av alternativ- hypotesen og ønsket (maksimal) risiko for feilaktig forkastning, kalt signifikansnivå (α)

Answer 12

Resultatet av en hypotesetest oppgis ofte ved P-verdien P-verdien er (den maksimale) sannsynligheten for å observere det vi fikk eller noe enda mer i favør av alternativet beregnet under H0 H0 forkastes når P <= α

Answer 13

Et 95% konfidensintervall er et intervall som med 95% sannsynlighet fanger opp den sanne parameterverdien Dersom en parameterverdi ikke ligger innenfor 95% konfidensintervallet kan vi med 5% signifikansnivå forkaste en nullhypotese om at dette er den sanne verdien

Answer 14

Forkaster H0 når H0 er sann. Vi ønsker åpenbart å unngå begge typer feil, men for ett gitt observasjonsmateriale vil sannsynligheten for den ene type feil øke når vi reduserer sannsynligheten for den andre typen feil Sannsynligheten for forkastningsfeil er gitt ved signifikansnivået α

Answer 15

Beholder H0 når H0 er gal. Sannsynligheten for godtakingsfeil betegnes ofte med β

Answer 16

Sannsynligheten for at en hypotese blir forkastet når den er er feil, kalles styrken til testen. ``` Vi har Π= 1- β der Π er styrkefunksjonen Styrken til testen avhenger av - Den sanne parameterverdien - Variansen i populasjonen - Antall observasjoner ```

Answer 17

1. Inferens om gjennomsnittet - antar normalfordelte målevariabler - repetisjon av «målemodellen» 2. Inferens om standardavviket/variansen - antar normalfordelte målevariabler - nytt pensum 3. Inferens om en andel - nominale variabler og binomisk modell - delvis repetisjon

Answer 18

Teorien vi gjennomgår bygger på trekninger fra en uendelig populasjon Med endelig populasjon blir trekninger uten tilbakelegging avhengige og variansen mindre Eksempel stikkprøver i revisjon eller stikkprøver fra et vareparti

Answer 19

Antar at X1, X2, X3 ... Xn er uavhengige stokastiske variable med forventning mu og varians std^2. En naturlig estimator er det aritmetiske gjennomsnittet. Videre er det også naturlig å benytte det estimerte standardavviket som forventningsrett estimator for standardavviket med hensyn på den stokastiske variabelen(gjennomsnittet).

Answer 20

Disse standardiserte variablene (Z og T) kan brukes som testobservatorer når vi skal teste hypoteser om μ For stor n (minst 50) kan t-fordelingen tilnærmes med normalfordelingen Hvis n ikke er for liten gjelder setning (1) tilnærmet uten at observasjonene selv er normalfordelte pga. sentralgrensesetningen. Det gjør i streng forstand ikke setning (2), men med stor n vi også den fungere som en tilnærming gitt at X ikke er for “unormalt” fordelt [fordi S da blir et ganske presist estimat for σ slik at (1) vil gjelde tilnærmet og (2) vil være tilnærmet lik (1) pga. stor n].

Answer 21

Når s kjent (el. n svært stor): Bruk Z som testobservator med μ = μ0 Når s ukjent: Bruk T som testobservator med μ = μ0 -Testobservatoren vil da ha kjent fordeling under H0 Kritisk verdi bestemmes av valgt signifikansnivå og av om alternativhypotesen HA er: Tosidig HA: μ (ulik) μ0 eller Ensidig HA: μ>μ0 evt. HA: μ<μ0 Dersom en tosidig test med kritiske verdier ± k har signifikansnivå α vil en ensidig test med kritisk verdi k ha signifikansnivå α/2

Answer 22

Når vi har a priori informasjon som tilsier at vi kan utelukke at sann verdi ligger til en av sidene for nullhypotesen Når bare avvik til en av sidene er beslutningsrelevant. Nullhypotesen bør da uttrykkes ved større eller lik/mindre eller lik, for eksempel H0: μ ≥ μ0

Answer 23

Når alternativet kan ligge på begge sider av nullhypotesen, og avvik til begge sider er beslutningsrelevant

Answer 24

I en populasjon med ukjent standardavvik/varians kan det også være aktuelt å teste hypoteser om s2 Slike tester er basert på kjikvadratfordelingen (χ2)(se s. 140 i for.notater)

Answer 25

Anta en binomisk situasjon med to utfall La X være antall “suksesser” i n forsøk En rimelig estimator for den sanne andelen suksesser i populasjonen, p, (“population proportion” /sannsynligheten for suksess) vil være p'= X/n Da har vi at p' er tilnærmet normalfordelt med Ep' = 1/n EX = p Var(p') = 1/n^2 * VarX = p(1-p)/n og vi kan konstruere en testobservator Z = (p'-p)/sqr(p(1-p)/n) , som er tilnærmet standard normalfordelt.

Answer 26

Skal vi lage et konfidensintervall trenger vi et estimat for standardavviket til p'. ``` Siden Var(p') = p(1-p)/n er det naturlig å bruke ``` sigma'(p') = sqr(p'(1-p')/n) , som et estimat for standardavviket. Konfidensintervallet blir da på formen: p'+- k*sigma'(p') . (Hvor k avhenger av størrelsen på konfidensintervallet). Hvor stor utvalgsstørrelse(n) vi trenger for å oppnå ønsket presisjon på estimatet finner vi ved å løse for B. Det er derimot et problem at p' er ukjent. Det gjør at vi har to muligheter. 1. Sette p' = 0,5 (gir maksimal varians) 2. Bruke et tidligere anslag for p dersom et slikt er tilgjengelig.

Answer 27

1. Sammenligning av to gjennomsnitt fra normalfordelte populasjoner a) Uavhengige utvalg i. Lik varians ii. Ulik varians b) Matchede par 2. Sammenligning av to standardavvik/varianser fra normalfordelte populasjoner 3. Sammenligning av to andeler

Answer 28

Beslutningen om å anta lik eller ulik varians kan enten gjøres uformelt med utgangspunkt i estimatene for S1 og S2 og kunnskap om populasjonene, eller beslutningen kan baseres på formell testing av om variansene er like (se senere)

Answer 29

Anta at observasjoner fra de to populasjonene som skal sammenlignes kan ordnes i n par som er sammenlignbare langs en dimensjon som antas å være med å skape variasjon i datamateriale La XDi være differansen innen par i, (i=1…n) Da kan vi gjøre inferens omkring forskjellen mellom de to populasjonene ved å teste hypoteser om den gjennomsnittlige parvise differansen Dermed er problemet redusert til å gjøre inferens om én populasjon av differanser

Answer 30

Anta at vi ønsker å teste om en ny produksjonsmetode er bedre enn en eksisterende - Toutvalgsmodellen: La én gruppe med n1 arbeidere produsere med den gamle metoden, og trekk en annen gruppe med n2 arbeidere til å produsere med den nye metoden. Sammenlign gjennomsnittet til de to gruppene. - Merk at noe av forskjellen mellom gruppene kan skyldes at de består av ulike individer med ulik produktivitet - Matchede par/konstanteffektmodellen: La n arbeidere produsere først med den ene metoden og så med den andre. Mål forskjellen for hver arbeider og analyser gjennomsnittsforskjellen. Vi har da renset ut variasjon knyttet til systematiske forskjeller i resultat mellom ulike arbeidere

Answer 31

Forskjell på et kontrollert eksperiment og "observasjonsdata". Ved bruk av observasjonsdata (eks. lar individer velge frokosttype selv(fiberrik mat, mindre kalorier til lunsj-problemet)). kan det gå en årsakssammeheng mellom frokost og lunsjinntak. Det kan finnes en underliggende faktor, uten at det første forårsaker det andre. Kontrollert eksperiment ville man justert dette slik at det ble likt i begge grupper og tolkningsproblemet hadde ikke oppstått.

Answer 32

Nei, i teorien kan det være dårligere ettersom: - Man mister mange frihetsgrader på å bruke matchede par til å estimere Var(X1-X2) [(n-1) vs. ( n+n-2) ved lik varians] - Skal man få økt utsagnskraft må den egenskapen man bruker til å matche være en viktig forklaringsfaktor slik at man får redusert den variasjonen som ikke knytter seg til gruppetilhørigheten - I eks. 13.5 kunne man kommet dårligere ut dersom karakterer hadde liten innflytelse på lønn

Answer 33

Både toutvalgsmodellen og konstanteffektmodellen bygger på en antagelse om at de to populasjonene er normalfordelte (eller tilnærmet normalfordelte for stor n1 og n2)

Answer 34

Når vi sammenligner to varianser ser vi på forholdet S_1^2/S_2^2 heller enn differansen S_1^2-S_2^2 fordi forholdet kan knyttes til en kjent fordeling dersom de to populasjonene er normalfordelte.

Answer 35

Forholdet mellom to kjikvadratfordelte variabler delt på deres respektive frihetsgrader er såkalt F-fordelt

Answer 36

Se, s, 172-173 i Forelesningsnotatene. Dette er generelt nyttig når vi trenger en nedre grense fra en F-fordeling siden de nedre grensene ikke er tabulert.

Answer 37

Anta at vi lurer på om det er signifikant forskjell mellom to andeler/sannsynligheter F.eks - defektsannsynligheten ved to produksjonsmetoder eller - Kjøpsannsynligheten blant individer tilhørende to ulike grupper konsumenter Vi kan tenke på dette som to binomiske forsøksrekker (evt. tilnærmet binomiske hvis endelige utvalg og trekninger uten tilbakelegging) Vi lar de relative hyppighetene være estimatorer for sannsynligheten p1 og p2 i hver av gruppene

Answer 38

Variansanalyse er en utvidelse av toutvalgsmodellen og konstanteffektmodellen til situasjoner der vi ønsker å sammenligne to eller flere populasjoner (grupper) Vi har en respons (målevariabel) og ønsker å analysere hvilke faktorer og evt. kjennetegn som forklarer variasjonen i denne Faktorer (“treatments”/stimuli) kan i prinsippet kontrolleres i et eksperimentoppsett Kjennetegn (“characteristics”) kan ikke kontrolleres, men kan brukes til å «matche» observasjonene

Answer 39

Nullhypotese: Alle gruppene har lik forventning Alternativhypotese: Minst en er forskjellig Eksempel Testresultat forklart ved treningsopplegg Salg forklart ved reklamekampanje og tilbudspris Avling forklart ved bruk av gjødning, jordtype og evt. kombinasjonen av gjødning og jordtype Produktkvalitet forklart ved produksjonsmetode og valg av råstoff

Answer 40

``` 1. Enveis variansanalyse En faktor (treatment) med flere nivåer (levels) Generalisering av toutvalgsmodellen til flere populasjoner ``` 2. Multiple sammenligninger 3. Toveis variansanalyse a) Randomiserte blokker Inndeling i blokker og én faktor Generalisering av matchede par til flere populasjoner b) To faktorer Matematisk er analysen lik for tofaktormodeller og randomiserte blokker hvis det bare er en observasjon per celle (kombinasjon) 4. Samspill Mulig å analysere hvis vi har gjentatte observasjoner per celle i en toveis analyse

Answer 41

Anta at vi har forskjellige observasjoner fra flere grupper som representerer variasjon i én mulig forklaringsfaktor. (eks. kvalitet på proukter produsert med ulike metoder) X_ij er utfallet for observasjon i (av i alt nj observasjoner). tilhørende gruppe j (av i alt k grupper) Her blir det som for andre tester slikt at mu_j=gj.sn.X_j = 1/n_j *(Summen av X'ene) Gjennomsnittet for alle n observasjonene er gjennomsnittet av hver gruppe av gjennomsnittet av hver observasjon i hver gruppe. Dersom det er liten forskjell mellom gruppegjennomsnittene trekker det i retning av man beholder nullhypotesen. DA vil også forskjelen mellom gruppegjennomsnittene og det felles gjennomsnittet (X med to streker over) være liten.

Answer 42

Sammenligner et mål for variasjonen mellom gruppene (variasjon som kan forklares med gruppetilhørighet), med et mål for variasjonen innen gruppene (uforklart variasjon). Den totale variasjonen i responsvariabelen er summen av disse to komponentene.

Answer 43

SST/(k-1) kalles MST og er et variansmål “Mean Square for Treatment” (gjennomsnittlig kvadratavvik mellom grupper)

Answer 44

SSE/n-k kalles MSE og er et alternativt variansmål “Mean Square for Error” (gjennomsnittlig kvadratavvik innen grupper)

Answer 45

E(MST)=Var(X) bare under Ho og større enn Var(X) under Ha E(MSE)=Var(X) både under Ho og Ha. Det følger av dette at vi forkaster nullhypotesen om ingen systematiske forskjeller mellom gruppene ved store verdier av F

Answer 46

Hvis vi forkaster nullhypotesen om ingen forskjeller mellom gruppene, vil vi gjerne gå videre og rangere gruppene og si noe om hvilke forskjeller som er signifikante Dette kan gjøres ved å konstruere konfidensintervall for hver parvis differanse

Answer 47

Konseptuelt er det viktig å skille mellom - signifikansnivået for hver enkelt parvis sammenligning, dvs. sannsynligheten for feilaktig å påstå at to bestemte grupper har ulik forventning, og - det felles signifikansnivået for alle de parvise sammenligningene (en totalgaranti), dvs. sannsynligheten for feilaktig å påstå signifikant forskjell mellom minst to grupper av alle dem som sammenlignes (Signifikansnivået oppgitt ved Fishers LSD gjelder hver enkelt sammenligning, mens signifikansnivået oppgitt for Tukeys omega er totalgarantien Hvis du i utgangspunktet planla å gjøre alle sammenligningene er det totalgarantien som er relevant) I eksemplet foran er det tre metoder. Da må det gjøres 3 parvise sammenligninger [n*(n-1)/2] Metode 1 mot metode 2 Metode 1 mot metode 3 Metode 2 mot metode 3 Med 5% signifikansnivå i de parvise sammenligningene er da sannsynligheten for minst én feil i størrelsesorden (1-0.95^3) = 14 % Dette er et omtrentlig tall fordi beregningen ikke ta hensyn til avhengighet mellom de ulike parvise testene

Answer 48

I mange situasjoner kan data kryssklassifiseres på flere grupper

Answer 49

Her kryssklassifiseres dataene ihht. en form for “treatment” kalt en faktor og et kjennetegn som ikke kan kontrolleres i forsøket men som antas å være med å forklare variasjonen i dataene De med like kjennetegn utgjør en blokk, og inne blokken trekker man hvem som skal få hvilket “treatment”

Answer 50

Her kryssklassifiseres dataene ihht. to faktorer, dvs. at hvert forsøksobjekt får to former for “treatment” samtidig Eksempel med en situasjon der hver observasjon kan klassifiseres langs to dimensjoner, faktorene A og B Eksempel: Planters vekst (X) forklares med faktorene gjødselsblanding (a grupper) og jordtype (b grupper)

Answer 51

Modellen er EX_ij = mu_ij = mu + a_i + b_j. Her er da a(alfa)_i en estimator for avviket mellom gjennomsnittet og hvert nivå i av faktor A og det felles gjennomsnittet. En tilsvarende estimator for B(beta) i forhold til hvert nivå j av faktor B og det felles gjennomsnittet. Avviket mellom hver observasjon X_ij og vår prediksjon for faktorkombinasjonen ij er "uforklart variasjon" slik at vi får: X_ij - X|(A)_i - X|(B)_j + X||

Answer 52

- I tofaktormodellen uten samspill antas hver faktor å virke uavhengig av den andre Eks.: De ulike produksjonsmetodene antas å ha samme effekt på kvaliteten uavhengig av hvilket råstoff som brukes - I mange tilfeller er dette lite troverdig Eks.: En metode kan være mer egnet for en type råstoff enn for en annen type råstoff Effekten av gjødning vil trolig variere med jordtype Effekten av tilbudspris kan avhenge av om det har vært kjørt en reklamekampanje eller ikke Effekten av et treningsopplegg kan være forskjellig for menn og kvinner Ved samspill mellom flere faktorer kan totalvariasjonen nå spilittes opp i SS(Total) = SS(A) + SS(B) + SS(AB) + SSE og vi kan teste om samspilleffekten er fraværende (lik 0 ) med F-test.(formel se s. 219).

Answer 53

Hvis alle nivåer av én faktor er representert i forsøket sier vi at estimatene representerer faste effekte.r

Answer 54

Dersom vi trekker et tilfeldig utvalg blant mulige nivåer for en faktor sier vi at estmatene representerer tilfeldige effekter

Answer 55

I noen sammenhenger vil estimeringsmetodene være forskjellig avhengig av om vi har et forsøksdesign med faste eller tilfeldige effekter Formlene gjennomgått gjelder for modeller med faste effekter

Answer 56

Av historiske grunner: Fordi det er variasjonen mellom gruppenes gjennomsnitt relativt til variasjonen innen gruppene som avgjør om vi konkluderer at det er signifikant forskjell. Hvis variasjonen mellom gruppenes gjennomsnitt er stor relativt til variasjonen innen gruppene antar vi at de forskjellene ikke skyldes tilfeldigheter, men hvis det er liten variasjon mellom gruppene relativt til variasjonen innen gruppene kan observerte forskjeller i gjennomsnitt mellom gruppene like gjerne skyldes tilfeldigheter

Answer 57

Husk at ANOVA-modeller forutsetter at observasjonene er normalfordelte. Det finnes fordelingsfrie alternativ ``` Kruskal-Wallis test (enveis analyse) og Friedmans test (toveis analyse) ``` Disse bruker observasjonenes rang og er særlig aktuelle når observasjonene er gitt på en rangeringsskala (ordinale data)

Answer 58

Ved hypotesetesting forutsettes ofte de stokastiske variablene å være trukket fra en bestemt fordeling, vanligvis normalfordelingen Ofte har vi få holdepunkter for å gjøre slike forutsetninger, og vi kan da trekke gale konklusjoner fordi modellen er feilspesifisert For å unngå dette problemet er det utviklet en rekke såkalte fordelingsfrie (“ikke-parametriske”) tester, dvs. tester som ikke forutsetter at man kjenner hvilken sannsynlighetsfordeling som har generert dataene

Answer 59

Fordelingsfrie tester tar ofte utgangspunkt i fortegn og rangeringer - Det innebærer (vanligvis) at man ikke utnytter all informasjonen i datamaterialet, men det er noe av poenget – ved å nedtone ekstreme observasjoner får man resultater som er robuste i forhold til feil i dataene, eller feil antagelse om den bakenforliggende sannsynlighetsmodellen - Det viser seg at man vanligvis taper lite i styrke, selv om dataene faktisk er normalfordelte Ofte kan fordelingsfrie tester også brukes på ordinale data

Answer 60

Situasjon: Vi ønsker å sammenligne to utvalg. Eks: Sammenligning av to utvalg hvor det ene utvalget har fått en type “behandling” og det andre utvalget en annen - Går arbeidet fortere med nytt spesialverktøy? For å kunne bruke t-test som i kapittel 13 må vi ha normalfordelte målevariable (evt. et stort utvalg hvis dataene ikke er normalfordelte) Ranger alle observasjonene. Se hvilket utvalg “som er i tet”. Konseptuelt eksempel: Løper gutter raskere enn jenter i barnehagen? Still barna opp i premierekkefølge. Er det en tendens til at guttene står lengst fram og jentene lengst bak? Hvordan måler vi hvem som er i tet? Vi kan bruke summen av ranger for det ene utvalget som testobservator. - Den gruppen “som er i tet” vil ha lave tall Under nullhypotesen om ingen forskjell mellom utvalgene har rangsummen en kjent tabulert fordeling (Tabell 9 i Keller) Siden vi bare bruker observasjonenes ranger kan Wilcoxons test for to utvalg brukes både på ordinale data og på målevariabler (interval data) Hvis de to utvalgene (med n1 og n2 observasjoner) er relativt store og jevnstore så er rangsummen under H0 tilnærmet normaltfordelt med Hvis vi antar at de to utvalgene kommer fra fordelinger med samme “form” (bl.a. samme varians) er H0: fordelingene har lik lokalisering og HA: fordelingene har ulik lokalisering Mer generelt kan testen tolkes som at H0 er like fordelinger og HA er ulike fordelinger

Answer 61

Brukes i situasjoner med parrede observasjoner og ordinale data Eks.: Individer som rangerer to smaksprøver Nullhypotesen er at det ikke er forskjell (mer presist; at medianforskjellen er null) Da er positiv og negativ respons like sannsynlig og situasjonen kan modelleres som en binomisk forsøksrekke med p=0.5 Se testing av andel i kapittel 12 Kan gjøre ensidig eller tosidig test Observasjoner med lik respons ignoreres

Answer 62

Hvis vi har en måleskala kan vi si noe om størrelsen på forskjellen mellom to observasjoner Tegntesten utnytter ikke slik informasjon Det finnes imidlertid en test, Wilcoxons test for parrede observasjoner, som utnytter slik informasjon, uten å anta en bestemt underliggende fordeling Man begynner med å regne ut differansen innen hvert par. Testen antar at fordelinger av differansene er symmetrisk, og nullhypotesen er at fordelingen er sentrert omkring null (dvs. ingen systematisk forskjell) Testen går ut på rangerer de differansene som ikke er null etter absoluttverdi og summerer rangen til de negative (evt. positive) differensene Under nullhypotesen har denne summen en kjent tabulert fordeling (Tabell 10 i Keller) I store utvalg (minst 20) er summen tilnærmet normalfordelt med (s.238)

Answer 63

Ser på differansen mellom to utvalg og hver enkelt observasjon. Dersom differansene er normalfordelte kan det benyttes en t-test for å se om differansene er signifiaknt ulik 0. Dersom det er grunn til å tvile på om differansene er normalfordelte, bør vi bruke en fordelingsfri test. Wilcoxons test for parrede observasjoner. Ved Wilcoxons test for parred observasjoner rangeres differansene etter absoluttverdi. Deretter summerer man rangsummene for de positive og negative differansene hver for seg . Dette kalles i boka for T+ og T-.

Answer 64

Det går ut på en generalisering av Wilcoxons test for to utvalg til flere utvalg 1) Rangerer alle observasjonene etter størrelse fra 1 til n 2) Regner ut rangsummen til hver gruppe, Ti 3) Bruker en kjikvadrattest til å sammenligne faktiske rangsummer, Ti, med forventede

Answer 65

Der man ved to utvalg ville brukt tegntesten, bruker man Friedmans test når det er flere utvalg Friedmans test brukes når man har et forsøksdesign med randomiserte blokker, men hvor man ikke kan bruke variansanalyse fordi det er grunn til å anta at responsvariabelen ikke er normalfordelt (den kan f.eks. være en ordinal variabel)

Answer 66

tester brukt på kategoridata (nominale data) med to eller flere utfall Testobservatoerene er tilnærmet kjikvadratfordelt - derav navnet på testene 1. Kjikvadrattest for modelltilpasning ("Goodness-of-fit") 2. Kjikvadrattest for uavhengighet/samvariasjon (Kontigenstabeller)

Answer 67

En situasjon der et forsøk kan ha flere utfall Relevant i forhold til Kjikvadrattest for tilpasning til en diskret modell

Answer 68

Anta at et “forsøk” har k mulige utfall: u1, u2 , … , uk Vi tror at sannsynligheten for at en tilfeldig observasjon tilhører en bestemt kategori er p1, p2 , … , pk med Σpi=1 Vi har da spesifisert en sannsynlighetsmodell, og vi vil ønske å teste om modellen passer med data Anta at vi har n observasjoner/forsøk Antall observasjoner (frekvensen) i kategori i er fi Forventet antall observasjoner i kategori i er ei = Efi = n·pi Vi vurderer om modellen samsvarer med observasjonene ved å sammenligne avviket i hver kategori mellom faktisk antall observasjoner og forventet antall observasjoner (fi - ei) Dersom enkelte parametre i den modellen vi vil teste estimeres med utgangspunkt i observasjonene, reduseres antall frihetsgrader med én for hver estimert parameter Intuisjon: Når uspesifiserte deler av modellen blir estimert med utgangspunkt i de samme observasjonene som vi skal bruke til å teste modellen med, forventer vi bedre overensstemmelse mellom modellen og observasjonsmaterialet. Forventningen til χ2, som er lik antall frihetsgrader, bør da bli mindre. Merk at kjikvadrattesten i utgangspunktet er en tosidig test Den skiller ikke mellom positive og negative avvik pga. kvadrering og vi forkaster modellen bare for store verdier av χ2 ------------------------------------------------------------ Kjikvadrattesten for modelltilpasning kan brukes til å teste om et datamateriale kommer fra en hvilken som helst fordeling En aktuell anvendelse er å teste om data er normalfordelte med forventing lik det observerte gjennomsnittet og varians lik det empiriske standardavviket Del mulighetsområdet opp i intervaller slik at alle intervaller har en forventet frekvens på minst 5, gitt H0 og utvalgsstørrelsen Regn ut forventet frekvens i hvert intervall og sammenhold med observerte frekvenser ihht. testen

Answer 69

Anta at vi har observasjoner som kan karakteriseres ved to kjennetegn, a og b Eks.: Individdata med opplysning om yrkesstatus og holdning til et bestemt produkt Anta at a kan klassifiseres i r kategorier og at b kan klassifiseres i s kategorier Spørsmål: Er kjennetegnene a og b uavhengige? Gitt n observasjoner som klassifiseres og tabelleres i en hyppighetstabell med (r x s) mulige utfall La pij være sannsynligheten for at en tilfeldig observasjon klassifiseres som (ai,bj), og pi@ og p@j (@= svart prikk) være de marginale sannsynlighetene hhv. ai og bj . Vi vil teste H0 : pij = pi@·p@j for alle i og j (uavhengighet) De marginale sannsynlighetene kan estimeres med: p'_1@ = f_i@/n og p'@j = f@j/n. Ved uavhengighet forventer vi e_ij observasjoner i celle ij der: e_ij = Ef_ij ~n*(fi@*f@i /n). Antagelsen om uavhengighet er en antagelse om en bestemt sannsynlighetsmodell siden den tilordner en gitt sannsynlighet pij til ethvert mulig utfall og Σpij=1. Vi kan da bruke kjikvadrattesten for modelltilpasning til å teste om observasjonene er i overensstemmelse med den antatte modellen (dvs. teste uavhengighet i alle celler)

Answer 70

Husk at avhengighet/samvariasjon i seg sevl ikke sier noe om årsaksforhold (kausalitet) Dersom de kjennetegnene vi analyserer kan ordnes på en skala (dvs. at vi har ordinale, ikke nominale kategorivariable), kan vi snakke om positiv og negativ samvariasjon. Man kan bruke kjikvadrattest til å analysere samvariasjon mellom ordinale variabler F.eks. kryssklassifiserte data på aldersgrupper og holdning til et produkt Men da kaster man (kanskje) bort noe informasjon, siden man ikke utnytter det at kategoriene kan rangeres Et bedre mål for samvariasjon mellom ordinale data er Spearman’s rangkorrelasjon Dette er behandlet i kapittel 19.4 (fordelingsfrie metoder)

Answer 71

Den “vanlige” (Pearson) korrelasjonskoeffisienten måler lineær korrelasjon, og eksakt inferens forutsetter såkalt binormal fordeling (se neste plansje) Et alternativ er å rangere de n observasjonene av hver variabel innbyrdes fra 1 til n, og bruke korrelasjonskoeffisienten mellom rangene Dette målet kalles Spearmans rangkorrelasjon, fanger også opp ikke-lineær samvariasjon og forutsetter ikke en spesiell fordeling Det finnes egne tabeller for hvordan dette målet er fordelt under en nullhypotese om ingen korrelasjon (Tabell 11 i Keller)

Answer 72

Variansanalyse forsøker å forklare variasjon i en målevariabel med gruppetilhørighet, dvs. med kategorivariable Ofte ønsker vi imidlertid å modellere variasjon (respons) i en målevariabel med variasjon i andre variabler (forklaringsvariabler) uten å måtte begrense oss til kategorivariable Eksempel I: EY= Beta0 +Beta1 X, der Y er salg og X er reklame Eksempel II: EY= Beta0 +Beta1 L+ Beta2 K, der Y er produksjon, L er arbeidskraft og K er kapital. Med utgangspunkt i data ønsker vi å estimere de ukjente parameterene (beta0 , beta1 og beta2), lage konfidensintervaller for estimatene og teste hypoteser om parameterverdiene Basert på estimatene kan vi også predikere Y for hypotetiske verdier av forklaringsvariablene og konstruere prediksjonsintervaller Kapittel 16 tar for seg minste kvadraters regresjonsanalyse (“OLS”) med én forklaringsvariabel, såkalt enkel regresjon Enkel regresjonsanalyse har først og fremst pedagogisk verdi Formlene er relativt enkle, og teknikken lar seg enkelt illustrere grafisk Resultatene lar seg generalisere til tilfellet med flere forklaringsvariabler (multippel regresjon), men formelverket blir da mer komplekst (med mindre man innfører såkalt matrisenotasjon) Langt de fleste anvendelser av regresjonsanalyse inneholder flere forklaringsvariabler Regresjonsanalyse er trolig “verdens mest brukte” statistiske analysemetode, og det finnes en lang rekke spesialiserte teknikker som ikke omtales i boken Eksempel: For bruktbilforhandlere er “listepris” et viktig verktøy for verdibestemmelsen av biler I USA utgis månedlig en såkalt Red Book med gjennomsnittlig omsetningspris for ulike bilmodeller Når en spesifikk bil skal verdibestemmes må man imidlertid justere for kjørelengde En forhandler ønsket å gjør en nærmere analyse av sammenhengen mellom kjørelengde og oppnådd pris Han plukket tilfeldig ut 100 Toyota Camry i topp stand og med en bestemt utstyrspakke, som hadde vært solgt på bilauksjoner den siste måneden Pris og kjørelengde ble notert (i datasettet Xm16-02) Det ser ut til å være en lineær tendens i sammenhengen mellom pris og kjørelengde Hva er forventet pris for en gitt kjørelengde? Følgende modell for sammenhengen synes rimelig E(Pris) = beta0+ beta1 · miles Pris = beta0+ beta1 · miles + ε , der E(ε) = 0 Koeffisientene beta0 og beta1 kan bestemmes ved å gjøre en regresjonsanalyse basert på minste kvadraters metode Leser dataene inn i Gretl og trykker på “regresjonsknappen”: Model – Ordinary Least Squares … Dependent variable:Price Independent variables:Const Odometer

Answer 73

E(Y|X) = beta0 + beta1X Git n sammenhørende observasjonssett (Y_i, X_i) i=1,2,..,n, kan vi skrive Y_i = beta0+beta1X_i + ε_i εi ’ene er stokastiske variable (“feilledd”), som antas innbyrdes uavhengige, med Eεi= 0 og konstant varians sigma_ε^2 (dermed er også Yi stokastisk med betinget varians sigma_ε^2 ) X er deterministisk, evt. stokastisk og uavhengige av ε Dersom vi i tillegg antar at εi ’ene normalfordelte kan vi gjøre inferens Vi ønsker å estimere de ukjente parameterne beta0 og beta1 basert på observasjoner av Y som varierer tilfeldig omkring sin forventing, E(Y|X), med ε som et stokastisk feilledd

Answer 74

Regresjonen E(Y|X) bestemmes ved å legge “linjen” slik at kvadratsummen av forskjellene mellom observert verdi og beregnet forventingsverdi for de n observasjonen er minst mulig, dvs. ved å minimere “Sum of Squared Errors”(SSE), mhp. b0 og b1 som er våre estimater for de ukjente parameterne beta0 og beta1. Dette kan skje ved å derivere uttrykket mhp. b0 og b1 hver for seg og sette de deriverte lik null. Vi får da 2 ligninger til bestemmelse av de to estimatene

Answer 75

Gitt de forutsetningene vi har gjort om εi og Xi kan en vise at de estimatene for b0 og b1 som en får ved å bruke minste kvadraters metode er - forventningsrette og har minst varians blant alle tenkelige estimatorer som er lineære kombinasjoner av Y-verdiene (dvs. kan skrive som ΣwiYi der w er vilkårlige vekter) Med normalfordelte εi kan en endatil vise at minste kvadraters estimatorene har minst varians blant alle tenkelige forventningsrette estimatorer I tillegg er metoden enkel!

Answer 76

1) E(ε) = 0 tilnærmet trivielt når modellen har et konstantledd ") σ_ε er konstant for alle X brudd på denne forutsetningen kalles heteroskedastisitet 3) ε_i er uavhengig av εj for alle i og j et vanlig brudd på denne forutsetningen er autokorrelasjon 4) Dersom X-variabelen ikke er deterministisk, men stokastisk, må den være uavhengig av ε Brudd på denne forutsetningen er svært alvorlig, fordi det skaper forventningsskjeve estimater. Avhengighet mellom X og ε kalles endogenitet. Det er et sentralt tema i økonometri, men er ikke behandlet i boken. 5) Tilleggsforutsetning: Normalitet - Forutsetningene på forrige plansje er det som skal til for at estimatene for b0 og b1 skal være forventningsrette og ha minst varians (innenfor klassen av lineære estimatorer) - Vanligvis er vi ikke fornøyde med bare å beregne b0 og b1 (som er punktestimater for de ukjente parameterne beta0 og beta1) - Vi ønsker også å kunne teste hypoteser og lage konfidensintervaller basert på modellen - Da må vi gjøre en tilleggsantagelse om at ε er normalfordelt

Answer 77

1) Vurdere brukbarheten av modellen 2) Teste forklaringsvariabelens betydning 3) Estimere EY (Ŷ med CI) for gitte X-verdier estimert EY er en usikker størrelse fordi b’ene er usikre 4) Predikere ny Y (Ŷ med PI) for gitte X-verdier - faktiske nye Y-verdier vil avvike fra estimert forventet verdi av to grunner: · avvik mellom estimert og sann EY (usikre b’er som over) de stokastiske feilleddene

Answer 78

De beregnede verdiene Y' = b0 + b1X ligger på regresjonslinjen og forskjellene e_i = Y_i - Y'_i kalles residualer. Residualene e kan betraktes som estimater for de sanne feilleddene ε. De kan brukes til å a) Teste hvor godt regresjonslinjen føyer dataene b) Teste forutsetningene vi har gjort om ε

Answer 79

Hvis modellen er god bør observasjonene “i gjennomsnitt” ligge nær regresjonslinjen Et mulig mål for dette er standardavviket til feilleddet, σε σ_ε er en ukjent parameter, men vi kan estimere den basert på de beregnede residualene e

Answer 80

Et annet og enda mer brukt mål på hvor godt modellen passer til dataene er forklaringsgraden, R2, også kalt determinasjonskoeffisienten R2 er et mål på hvor stor andel av variasjonen i Y modellen kan forklare Et mål på den totale variasjonen i Y er “Total Sum of Squares”(SS(Total)) Den variasjonen i Y som modellen ikke kan forklare er “Sum of Squared Error”(SSE). Forklaringsgraden til modellen kan uttrykkes som: R^2 = (SS(Total)-SSE)/SS(Total) = forklartvariasjon / total variasjon En kan vise at R2 er kvadratet av korrelasjons-koeffisienten, r, mellom X og Y, derav navnet.

Answer 81

Vi ønsker å teste om feilleddene har konstant varians, er innbyrdes uavhengige og om de er normalfordelte Til dette bruker vi de estimerte residualene, evt. såkalte standardiserte residualer som er residualene delt på deres standardavvik

Answer 82

Resdidualene delt på deres standardavvik. Benyttes når vi skal teste om feilleddene har konstant varians.

Answer 83

Dersom feilleddene er normalfordelte bør et histogram av residualene ha “klokkefasong” og standardiserte residualer større enn 2 i absoluttverdi bør være “uvanlig” De skal også utgjøre en rett linje (normalfordeling) ved (Normal Probability Plot of the residuals.)

Answer 84

Feilleddene skal ha lik varians, uavhengig av X I så fall forventer vi at et plott av feilleddene mot X-verdiene, evt. de predikerte Y-verdiene, ikke skal vise noe spesielt mønster Ikke sjelden kan variansen til feilleddene øke med økene verdier av X eller Ŷ Dette kalles heteroskedastisitet Da er ikke lenger minste kvadraters metode den “beste” estimatoren og inferens er ikke gyldig, men estimatene er fortsatt forventningsrette

Answer 85

Avhengighet mellom feilleddene til ulike observasjoner kan oppstå av forskjellige grunner Den vanligste årsaken er autokorrelasjon Autokorrelasjon kan oppstå i tidsseriedata og innebærer at feilleddet på tidspunkt t er positivt eller negativt korrelert med feilleddet på tidspunkt t+1 Lik konkjunktursituasjon i to påfølgende perioder kan for eksempel gi positiv autokorrelasjon dersom vår modell ikke kontrollerer for konjunkturer Med autokorrelerte feilledd er ikke lenger minste kvadraters metode den “beste” estimatoren og inferens er ikke gyldig, men estimatene er fortsatt forventningsrette

Answer 86

Hvis vi har tilstrekkelig mange observasjoner og det ikke er noen sammenheng mellom X og Y vil vi estimere en flat regresjonslinje. Med et begrenset antall observasjoner vil vi kunne få tilfeldige avvik fra null selv om det ikke er noen sann sammenheng mellom X og Y Vi har derfor behov for å kunne teste hypoteser om størrelsen på de sanne koeffisientene (β’ene) med utgangspunkt i de estimerte verdiene (b’ene) Vi ønsker vanligvis å teste nullhypotesen H0: beta1 = 0 mot H1: beta1 ulik 0. En egnet testobservator er T. Som er t-fordelt med n-2 frihetsgrader under H0 For å utføre testen trenger man også standardavviket til b1. Regresjonsprogrammer som Minitab oppgir T-verdi for hver estimert koeffisient, og tilhørende P-verdi for tosidig test (Hvis ensidig test er det relevante må oppgitt P-verdi halveres) En kan også bruke T-test til å teste mot andre verdier enn null

Answer 87

Når vi har estimert en effekt som er signifikant forskjellig fra null vil vi være interessert i å beregne et konfidensintervall for størrelsen på effekten Det er enkelt når vi kjenner standardavviket til koeffienten, slik at konfidensintervallet blir beta1 = [b1-k*S(b1), b1 + k*s(b1)], der k hentes fra T-tabell med n-2 frihetsgrader. Med 95% kofindensintervall og stor n blir k=1,96.

Answer 88

Se andre liste.

Answer 89

Et intervall som med gitt sannsynlighet fanger opp enkeltstående nye verdier av Y for gitte verdier av X kalles prediksjonsintervall Dette vil være videre enn konfidensintervallet til EY, siden det omfatter både usikkerhet i estimeringen av EY og at realisert Y varierer omkring EY For å beregne et prediksjonsintervall trenger vi å kjenne standardavviket til avviket mellom en ny Y-verdi og dens estimerte forventning: S(Y-Ŷ)

Answer 90

Sε Estimert standardavvik til feilleddet S (b1) Estimert standardavvik til stigningstallet. (regresjonskoeffisienten til X) S (Ŷ) Estimert standardavvik til estimert forventet Y S (Y-Ŷ): Estimert standardavvik til prediksjonsfeilen.

Answer 91

Plott residualene mot en variabel du mistenker at variansen er en funksjon av, for eksempel predikert Y eller tid (formelle tester finnes)

Answer 92

Plott residualene mot tid, se etter autokorrelasjon (formelle tester finnes)

Answer 93

Plott residualene i histogram eller bedre; plott residualene mot deres normalskår (formelle tester finnes)

Answer 94

Grovt sett: Sjekk observasjoner med residualer større enn 2 standardavvik (gis av programvare)

Answer 95

Bruk programvare til å plukke dem ut, sjekk sensitivitet ------------------------------------------------------------- Vi ønsker å se nærmere på observasjoner som har stor innflytelse på hvor regresjonslinjen legges Minitab kan plukke dem ut for oss - Se output på tidligere plansje (“Unusual Observations” merket “X”) Dette vil typisk være avvikende observasjoner (“outliers”) Dersom slike observasjoner skyldes feil i dataene, eller er atypiske er de svært skadelige for analysen Dersom det ikke er noe galt med disse observasjonene er de svært verdifulle for analysen Er du i tvil bør du vurdere å rapportere resultater med og uten slike observasjoner

Answer 96

Ikke konstant varians: - Vanlig minste kvadraters metode gir forventingsrette estimat, men det er ikke lenger den mest “effektive” estimatoren, og inferensen er ikke gyldig Ikke uavhengige feilledd: - Vanlig minste kvadraters metode gir forventingsrette estimat, men det er ikke lenger den mest “effektive” estimatoren, og inferensen er ikke gyldig Ikke normalfordelte feilledd: - Inferens er ikke gyldig i små utvalg, dvs. at hypotesetester, konfidensintervaller etc. kan bli feil. Hvis avvikene fra normalitet ikke er for sterke går inferens bra i store utvalg, og normalitet er heller ikke en forutsetning for at miste kvadraters metode skal være en “effektiv” estimator Ikke uavhengighet mellom forklaringsvariablene og feilleddet: - Får forventningsskjeve estimater!! - Men, metoden kan fremdeles fungere for prediksjonsformål