PST Flashcards
Elementarni jev
Zakladni nejjednodussi jev, ktery muze nastat, stavebni prvek
treba: 1, 2…6 kdyz hazu kostkou
Obecny jev na mnozine elementarnich jevu
Je to vyrok, na jehoz pravdepodobnost se dotazujeme a je formulvoan na prvcich elementranich jevu.
Take se jim rika podminene jevy, protoze zadavaji nejakou mnou zvolenou podminku.
Priklad:
jev A…pocet tecek na kostce je lichy (splnuje el. jevy 1,3,5)
jev B…pocet tecek na kostce je mensi nez tri (splnuji el. jevy 1,2)…
Mnozina elementarnich jevu
Mnozina elementarnich jevu, ktere mohou nastat. Znaci se velke omega
treba: {1…6} kdyz hazu kostkou
Sigma algebra
Sigma algebra A je mnozina vsech podmnozin elementarnich jevu,
A={prazdna, {1}, {2}…{6}, {1,2}, {1,4,5}…} vsechny mozne kombinace co by mohlo padnout na kostce
Definice pravdepodobnosti
Pravdepodobnost je funkce P s vlastnostmi:
Je to zobrazeni, ktere bere Sigma Alg. a prirazuje ji hodnoty <0,1>:
- P(Omega) = 1 // musi nastat neco z elementarnich jevu
- P(prazdneho mnoziny)=0
- P(A) >= 0 //P je nezaporna hodnota
- P(SJednoceni jevu Ai) = Suma(P(Ai)) // soucet pravdepodobnosti je pravdepodobnost, ze jevy nastanou A1 nebo A2 nebo A3…
Pravdepodobnostni prostor definice
Je to trojice (Omega, Sigma Alg., P) // tedy (W,A,P)
Tzn vsechny el. jevy, jake jevy vybirame a jejich pravdepodobnosti
Sjednoceni, prunik, rozdil, podjev, doplnek, disjunktni jev, nezavisly jev
Sjednoceni je “Plati A, nebo B, minus plati oba”
Prunik “Plati A a B zaroven”
Rozdil “Plati A, ale bez B”
Podjev C “C je podmnozinou jevu A”
Doplnek “Zbytek mnoziny el. jevu bez jevu A”
Disjunktni “Prunik A a jeho disjunk. jevu D je prazdny”
Nezavisle jevy “Neovlivnuji se”
Klasicky pravdepodobnostni prostor
Treba hazeni kostkou.
- Konecna mnozina el. jevu
- Rovnomerna pravdepodobnost vsech el. jevu - 1/n, n je pocet
- P(A) = pocet priznivych / n
Geometricky pravd. prostor
Treba cekani na bus, rozporztreni jelenu v obore.
- Nespocetna mnozina el. jevu
- Jevy jsou reprezentovany body v R^2
- P(A) = podil delky(plochy) ku celkove delce(plose)
Obecny diskretni pravd. prostor
- Klidne i nespocetne mnoho el. jevu
- Jevy jsou body s ruznymi pravdepodobnostmi
- P(A) = Suma pravdepodobnosti jevu z W vyhovujicich A
Obecny spojity pravd. prostor
Treba doba cekani, plynuti
Je to kombinace geometrickeho a obecneho diskretniho.
Zde se divame na hustotu pravdepodobnosti
Podminena pravdepodobnost
Necht (W,A,P) je pst. prostor. Uvazujeme Jevy A a B, kde P(B) > 0.
Pst jevu A za podminky jevu B (tedy pst A, kdyz nastalo B a vymezilo novou hranici prvku) je definovana jako
P(A|B) = P(A zaroven B) / P(B)
Rika to tedy, ze pravdepodobnost, ze A nastane za podminky B je definovana jako jejich spolecna udalost, ale pouze tehdy, kdyz nastalo B.
Jiny pohled na definici:
P(A zaroven B) = P(B) * P(A|B)
Tedy jinak receno pst, ze nastanou oba soucanse se rovna tomu, kdyz nastane B a zaroven A je podmineno B.
Jeste jiny pohled:
Jev A nam vybere nejakej moznosti ze vsech elementarnich.
Jev B nam take vybere nejake moznosti ze vsech elementarnich.
A za podminky B nam rika - vyber prvky splnujici A ALE POUZE z prvku B. Tedy B nam vykroji cast a az na teto casti vybirame A. A je tedy podmineno vyskytem B.
Veta o uplne pravdepodobnosti
P(B) = Suma (P(Ai) * P(B|Ai))
Tedy pst, ze nastane jev, je pst, ze se vybere jeho podminka * pravdepodobnost B za podminky A.
PRIKLAD: 3 druhy zarovek, kazda muze prasknout behem roka.
Jaka je pst, ze do roka nejaka praskne?
Jinak receno - jaka je pst, ze praskne 1. nebo 2. nebo 3.?
Spocitam to jako:
pst(vyberu 1. druh) * pst(praskne 1. druh) +
pst(vyberu 2. druh) * pst(praskne 2. druh) +
pst(vyberu 3. druh) * pst*praskne 3. druh).
Je to vlastne vazeny prumer, kde nasobim pocet zarovek jejich prasknutim ku celkovemu poctu
Bayesova veta
TODO
Nezavislost jevu
Jevy A,B jsou nezavisle p.t.k:
P(A zaroven B) = P(A) * P(B)
Overuju to podle defincie, ze jejcih soucin se musi skutecne rovnat jejich pruniku a ne jen intuitivne
Po dvou nezavisle jevy
Jevy A1,A2,..An se nazyvaji po dvou nezavisle p.t.k. Ai,Aj sou nezavisle pro kazdou dvojici indexu
tedy kazdy s kazdym je nezavisly
Totalne nezavisle jevy
P.t.k. kazdy s kazdym je nezavisly nejen po dvojicich, ale i vsech podmnozinach
tedy musi to platit pro vybranej dvojice, trojice, ctverice atd…
Tedy pro libovolne kombinace jevu a jejich poctu musi platit ze jejich prunik je soucin pravdepodobnsoti pak je mnozina jevu totalne nezavisla
P(A nebo B)
P(A) + P(B) - P(A zaroven B)
//tedy odeberu moznost ze treba signal prosel obema zaroven, coz ne vzdy fyzicky jde
Nahodna velicina
Je zobrazeni z W->R, ktere jakoby zameni primo jevy nad elementarnimi prvky a misto toho zavede jine “vyroky/vlastnosti” ktere zhodnocujeme pravdepodobnosti, jde vetsinou o vic abstraktni pojmy, ktere narhazujou primo konkretni jevy.
Treba jev A=padla 5 => nahradim X=pocet padlych puntiku (abstraktensji pojem)
Treba pri hodu kostkou je nahodna velicina X=pocet padlych
Nebo Y=pocet padlych 6, tedy =0 pokud nepadla 6, 1 pokud padla 6…
Nebo treba Z=doba cekani na zakaznika (misto konkretniho jevu “cekam na zakaznika 5 minut”)…
Pak je porovnavame s nabyvanou hodnotou a piseme
P(X<=x) jakoze pst ze padlo min nez x puntiku
Distribucni funkce
Je to realna funkce definovana jako
F(x) = P(X<=x) // pst ze X (nah. velicina) lezi pod nabyvanou hodnotou)
Osa horizontalni mi ukazuje nabyvane hodnoty nahodne veliciny.
Osa svisla mi ukazuje pravdepodobnost, ze nahodna velicina je mensi nebo rovna hodnote na horizontalni ose
Vlastnosti distribucni funkce
- Neklesajici
- Zprava spojita
- Vzdy mezi 0 a 1 i v +- nekonecnu
Cemu se rovna:
P(X<=u)
P(X<u)
F(u)
lim(F(u)) pro x->u-
Deleni nahodnych velicin
- Diskretni - popisujeme pomoci distribucni funkce, P(X<=xi) = P(xi-1) + P(xi-2) … + P(x0)
- Spojite - popis pomoci hustoty pravdepodobnosti
- Smesi - kombinace 1.a 2.
Hustota pravdepodobnosti
je to funkce f(x), Je to derivace distribucni funkce u spojitych nahodnych velicin.
Jeji integral pres celou mnozinu real. cisel = 1 (protoze je to derivace pravdepodobnosti).
Udava pravdepodobnost, ze moje nahodna velicine lezi mezi (a,b) a spocitam to jako
Integral od a do b z hustoty pravdepodobnosti
Co ukazuje distribucni funkce a hustota pravdepodobnosti?
Distribucni funce mi ukazuje akumulaci pravdepodobnosti nahodne veliciny,
hustota pravdepodobnosti mi ukazuje rozlozeni pravdepodobnosti
Jak spocitat, jaka je pst, ze nahodna spojita velicina je VETSI nez nejaka hodnota?
Pres integral.
P(X>2) = Integral od 2 do nek z funkce hustotu pravdepodobnosti.
Jak spocitat, jaka je pravdepodobnost, ze nahodna velicina lezi v intervalu?
P(2< X <= 5)?
P(X<=5) - P(X<=2) = F(5) - F(2)
Vezmu teda tu “silnejsi” pravdepodobnost, ze X je <= 5. Musi ale byt vetsi nez 2, takze odectu pravdepodobnost, ze je <= 2. Podle definice je to distribucni funkce v techot bodech
Pri spojite nahodne velicine, jaka je pst, ze se trefime do presneho bodu?
Nulova, protoze to je integral od a do a coz je 0
Vlastnosti hustoty pravdepodobnosti
- Je nezaporna
- Integral celkovy je 1
- Pst jednotliveho bodu je 0
Distribucni funcke pro diskretni nahodnou velicinu
Ukazuje akumulovani pravdepodobnosti, ze nahodna velicine je mensi nez skutecna hodnota.
- Je skokovita, po castech konstantni
- Ma skoky v nabyvanych hodnotach
- Velikost skoku je rovna pravdepodobnosti nabyti daneho cisla
Jak spocitat F(u) - distribucni funkci F v bode u pro spojitou nahodnou velicinu
F(u) = P(X <= u) = P(-nek < X <= u) = Integral od -nek do u z hustoty pravdepodobnosti(x)
f(x) = derivace F(x)
Smisena nahodna velicina X
X=Mix_c(D,S)
D - diskretni nahodna velicina
S - spojita nahodna velicina
c - vaha, ktera pripada na diskretni cast
Distribucni funkce smesi
F(x), kde X = Mix_c(D,S)
Je to kombinace distribucni funkce diskretni casti s vahou C + distribucni funkce spojite casti s doplnkem vahy C, C je pst, ze nastala diskretni situace.
F(X) = c*F(D) + (1-c) * F(S)
Priklad:
Sestrojte Mix_C(D,S) pro
P(D=1) = 2/3, P(D=0) = 1/3
S: rovnomerne vraci 1 nebo 0, hustota psti je konstantni na 1.
C = 1/4
1) Sestrojim distribucni funkci pro D - v nabyvanech bodech jsou skoky, jejichz velikost je pravdepodobnost nabyti techto hodnot. Tzn skoky v 0 do 1/3 a skok v 1 o 2/3 tedy do 1.
2) Rozepisu si hodnoty na intervalech: (-nek:0) = 0, <0, 1) = 1/3, <1,nek) = 1.
3) Sestrojim distribucni funkci pro S - tedy jenom primka rovnomenra od 0 do 1 a od 1 dal je to konstanta na 1.
4) Udelame spojite intervaly podobne jako v kroku 2.
5) Podle rovnice F(u) = cF(D) + (1-c)F(S) spocitam vsechny intervaly
6) Zakreslim vyslednou distribucni fci F_mix(u) jako uz vypocitane intervaly z kroku 5.
Jak ze zadaneho grafu distribucni funkce smesi X nalezt jeji hodnoty D,S,C?
Priklad:
Je dana smes Mix_c jako distribucni funkce s grafem/predpisem intervalu.
Najdete distribunci funkce F(D), F(S) a parametr C.
- Spocitam C - sectu vsechny skoky v grafu, jsou to pravdepodobnosti, ze se graf prepne do diskretni casti, velikost skoku = C.
- Spocitam distribucni fci D - v mistech kde jsou skoky jsou nabyvane hodnoty diskretni casti, tj pokud je skok v bode 3, pak P(D=3) = velikost skoku / C. Spocitam tedy ve vsech bodech, kde jsou skoky jejich pravdepodnosti jako “velikost skoku/C”.
- Sestrojim distribucni fci D podle nalezenych bodu a jejich pravdepodobnosti, tj body skoku a jejich vyska je velikost skoku/C.
- Sestrojim jednotlive intervaly F(D).
- Spojitou distribucni fci si vyjazdrim ze vzorce F(X) = c*F(D) + (1-c) * F(S) jako F(S) = F(X) - cF(D) / 1-c, F(X) a F(D) uz mam nalezene na jednotlivych intervalech. Spocitam tedy jednotlive spojite intervaly dosazenim do rovnice a z toho mi vylezou jednotlive intervaly pro D(S). Hustotu pravdepodobnosti pak najdu jako derivaci F(S).
Kvantilova funkce
Je inverzni k distribucni, tedy mi pri zadane pravdepodobnosti ukazuje jeji hodnotu.
Prohodim osy a jeji hodnoty a delam soumerne podle y=x.
Pokud se mi stane, ze nejakej hodnote na ose x prideluju nekonecne hodnot na ose y, tak se bud odstrani v krajinich bodech, anebo se vezme stred. Nespojistost horizontalni dodefinuju konstantni fci.
Rika neco jako “kolik procent nabynavych hodnot lezi pod nejakou hodnotou?” Tj treba kolik procent padlych puntiku je POD poctem puntiku=2 napr.
Stredni hodnota nahodne veliciny
Je suma/integral vazenych prumeru nabyvanych hodnot. Tedy je to Suma(nabyvana_hodnota*pst_nabyvani_teto_hodnoty) pro vsechny hodnoty.
Suma pro diskretni velicinu.
Integral pro spojitou, kde pst_nabyvani hodnoty je f(x)
Znaci se EX, kde X je na. velicina.
Stredni hodnota smesi je stejny vzorec jako pro smes, ale se strednimi hodnotami.
Rika to neco jako “kolem jake hodnoty se pohybuji moje data”
Transformace nahodne veliciny
Je jakakoliv matematicka operace s nahodou velicinou, treba ji vynasobim, sectu, vydelim…
Treba X…delka hrany krychlicky
X^3 … objem krychlicky., tedy meni se nabyvane hodnoty ALE JEJICH PST ZUSTAVA STEJNA
Pomucka pri momentech - stredni hodnota n-te mocniny nah. veliciny je treba udelat plochu/objem/dalsi mocniny… mocnim pouze nabyvane hodnoty, jejich pravdepodobnosti nechavam stejne
Vlastnosti stredni hodnoty
- Ec = c //konstanta
- E(aX + bY) = aEX + bEY //roznasobovani zavorek
- A <= B <= C => EA <= EB <= EB
- X >= 0, pak EX >=0 // nemuzu mit zaporny prumer z nezapornych hodnot
N-ty moment
E(X^n)
N-ty centralni moment
E (X-EX)^n
jak nah. cislo skace kolem stredni hodnoty
Absolutni moment
E |X-EX|
vzdalenost cisla od stredni hodnoty, tedy je to jako projekce na stredni hodnotu (kdyby to byla primka)
Rozptyl nahodne veliciny
Je to druhy centralni moment,:
varX = E( X - EX)^2,
NEBO
varX = E(x^2) - (EX)^2,
tedy beru ne kolme vzdalenosti X od stredni hodnoty, ale jejich kvadraty a pracuju jako s plochami, tedy vytvorim ctverce a rozptyl je plocha prumerneho ctverce
Smerodatna odchylka
(varX)^1/2 tedy je to odmocnina z rozptylu a rika nam napr delku hranu prumerneho ctvrerce
Kovariance
cov(X,Y) = E(X-EX)(Y-EY)
udava miru spoluprace dvou velicin, zda jedna roste s tou druhou nebo ne.
Pokud je kladna, tak prima umernost, pokud zaporna, neprima umernost
Vlastnosti rozptylu
- var(X) = E(X^2) - (EX)^2
- var(c) = 0, rozptyl konstanty je 0
- var(aX) = a^2 * var(X)
- var(X+a) = var(X), konstanta se pri rozptylu ztrati
- var(X + Y) = varX + varY + 2cov(X,Y)
Cebysevova nerovnost
P( | X - EX| >= e) <= varX/e^2
Vyuziva se u prikladu typu:
kolikrat musim hodit minci, aby se podil orlu lisil od 1/2 menez nez o 0,05 s pravdepodobnosti alespon 99 procent?
Tj:
P(|X - EX| >= 0,05) <= varX / e^2
-> ja chci ale odchylku mensi
1 - P(|X-EX| < 0,05) <= varX / e^2
-> prohodim stranu nebo nasobim -1
P(|X-EX| < 0,05) >= varX/e^2
X … podil orlu v n-hodech: 1/n * Suma xi, kde n je pocet hodu, xi je 1 pokud padl orel, 0 pokud nepadl
Zavedu pomocnou velicinu
EXi = 10,5 + 00,5 (stredni hodnota padani orlu)
varXi = E(X^2) - (EX^2)
Pak to dosadim do puvodniho X:
EX = E(1/n * SumaXi) = 1/n * E(Suma Xi) = 1/n * Suma (EXi) = 1/n * n * 1/2 = 1/n //vzal jsem pravdepodobnost padu orla, vynasobil ji n-hody a vydelil poctem hodu.
varX = var(1/n * SumaXi) = 1/n^2 * var(SumaXi) = 1/n^2 * Suma (varXi) = 1/4n
Dosadim do Cebysevove nerovnosti:
P(|X-EX| < 0,05) >= varX/e^2
P(|X-1/2| < 0,05) >= n-100/n
Chci aby:
n-100/n = 0,99 -> pro n = 10000
Zakladni modely nahodnych velicin
Modelove priklady, ktere nam “rozdeluji” pravdepodobnost urcitymi zpusoby podle zadani a realne situace.
Alternativni nahodna velicina
Napriklad X…pocet sestek pri jednom hodu kostkou.
Vetsinou se bavi o “uspech VS neuspech”, kde uspech =1, neuspech =0.
P(X=1) = p // parametr p je pst uspechu
P(X=0) = 1-p // zbytek pro neuspech
Nazyva se alternativni protoze jen dve varianty
Znaceni:
X~Alt(p) // urceno parametrem uspechu
EX = p // protoze 1p + 0(1-p) = p
varX = p(1-p) // potoze 1^2*p - p^2 = p-p^2
Binomicke rozdeleni
Napriklad X…pocet setek pri N hodech.
Vetsinou se bavi o poctu uspechu za n opakovani.
P(X=k) = (n nad k) * (p^k) * (1-p)^(n-k)
Tedy (jak umistit to dane k) * (pocet uspechu) * (pocet neuspechu)
Nazyva se binomicke, protoze vyuziva primo binomicke vety.
Znaceni:
X~Binom(n, p) // n je pocet opakovani, p je pst uspechu
EX = np // pst uspechu pri n opakovanich
varX = np(1-p)
Pri 5 hodech, jaka je pst, ze padlo alespon 3 petky?
P(X>=3) = P(X=3) + P(X=4) + P(X=5) = dosazuju do vzorce.. // je to tri, nebo ctyri, nebo pet…
Neboli je to (doplnek do “nepadla zadna petka”)
1 - P(X < 3) = 1- (P(X=0) + P(X=1) + P(X=2))
Poissonovo rozdeleni
Napriklad X…pocet hlasenych skod v pojistovne, nebo pocet der na vozovce
Vetsinou se bavi o poctu vzajemne nezavislych udalosti ktere nastanou v nejakem casovem intervalu/ nebo na nejake plose
P(X=k) = lambda^k * e^-lambda / k!, pro k od 0 do nek.
(Lambda je parametr soucinu n*p, tj stredni hodnota, priklad treba praskne 3 zarovky za mesic, pak za dva mesice je to 6 => lambda=6. Parametr lambda tedy urcim jako stredni hodnotu/prumer dane udalosti v case/plose)
Je to specialni limitni pripad Binomickeho rozdeleni, ktere jsme poslali do nekonecna s nekonecen malymi pravdepodobnostmi
Znaceni:
X~Po(lambda) // lmabda je parametr
EX = lambda
varX = lambda
Geometricke rozdeleni
Napriklad X…pocet “nesestek” pred prvni sestkou
Vetsinou se bavi o poctu neuspesnych udalosti pred prvnim uspechem - treba jaka je pst, ze pri opakovanem hodu kostkou padne sestka nejpozdeji v patem hodu? Nebo nejpozdeji 5. narozene dite je holcicka
P(X=k) = p(1-p)^k, pro k od 0 do nek
// p je pst uspechu, tedy pocitam, ze mi k-krat padl NEuspech a pak az prvni uspech, tedy pad sestky = 1/6, narozeni holcicky = 1/2…
Jmenuje se geometricke, protoze P(X=k) tvori geometrickou posloupnost (1-p)^k, tedy pocet neuspechu za sebou (X je tady “negativni”)
Znaceni:
X~Ge(p)
EX = 1-p / p //tedy pst neuspechu k uspechu
varX = 1-p / p^2 // tedy pst neuspechu ke kvadratu uspechu
Hypergeometricke rozdeleni
Treba X…pocet spravne zodpovezenych otazek pri losovani zkousky
Vetsinou se bavi o vybirani nejakych priznivych a nepriznivych jevu ku celkovemu poctu jevu - treba pokud test ma 20 otazek a ja umim jenom 15, taham si 4 otazky a jaka je pravdepodobnost, ze umim prave 3 z nich? Tj vsech jevu - (20 nad 4) // protoze si taham 4 otazky z dvaceti, priznive jevy (15 nad 3) // protoze si taham 3 otazky z tech, co umim a nepriznive (5 nad 1) // protoze si taham jednu co neumim
P(X=k) = (K nad k) * (N-K nad n-k) / (N nad n), kde N je celkovy pocet objektu, vybiram z nich pouze n objektu, K objektu ma priznivou vlastnost a vybiram k priznivych objektu
Znaceni:
X~HypGe(N,K,n)
EX = nK/N
varX = (nK/n)(1-K/N)(N-n/N-1)
Pet typu rozdeleni diskretnich nahodnych velicin
- Alternativni - pocet uspechu v jednom pokusu
- Binomicke - pocet uspechu v n pokusech
- Poissonovo - pocet nezav. vyskytu v case/plose
- Geometricke - pocet neuspechu pred prvnim uspechem
- Hypergeometricke - pocet vybranych priznivych jevu ku vsem
- Hazeni kostkou - pst ze padla sestka (p=1/6)
- Hazeni kostkou - pst ze pri n hodech padlo x sestek (n=n, p=1/6)
- Praskani zarovek - pst ze za mesic praskne x zarovek (lambda=cas*x)
- Hazeni kostkou - pst ze nejpozdeji 5. hod padla setka (p=1/6), tj pst, ze 6krat nepadla sestka: 1-(5/6)^6
- Tahani otazek - pst ze vytahnu 4 otazky z 20 a umim prave 3 z nich (N=20, K=15, n=4) //celkem 20 otazek, umim 15, taham 4
Vsechny nah. veliciny nabyvaji totiz celych hodnot
Rovnomerne rozdeleni
Napriklad X…doba cekani na bus s intervalem 10 minut
Vetsinou popisuje dobu cekani ROVNOMERNOU se znamym maximem, tj vsechny hodnoty jsou nabyvany rovnomerne na intervalu (a,b)
Vyjadreni:
Distribucni fce je roustouci primka od A do B, od B a dal je rovna 1. Rovnice primky je dana zapisem: x-a/b-a, kde b-a je smernice
Hustota pravdepodobnosti je konstantni od A do B ve sysce (1/ B-A) aby jeji plocha pod grafem byla rovna 1. Jinak vsude 0.
Znaceni:
X~Ro(a,b) // rovnomerne rozdeleni psti od A do B
EX = a+b / 2, tj obycejny prumer
varX = (b-a)2 / 12
Exponencialni rozdeleni
Napriklad X…doba cekani na prasknuti zarovky, kdyz mesicne praskne prumerne 3.
Vetsinou se bavi o dobe cekani na nejakou udalost bez maxima, ale s nejakym parametrem lambda - urcuje “intenzitu” udalosti za jendotku casu, tj 3 zarovky mesicne, nebo 3 diry na vozovce na kilometr atd…
Je pevne provazane s Poissonovym rozdelenim:
Poisson urcuje pocet udalosti za cas (tedy intenzita * doba: lmabdat), doplnkova informace je doba cekani na dalsi udalost - tedy exponencialni rozdeleni s parametrem pouze lambda (intenzita).
Jsou vzajemne zamenitelne napriklad:
Prumerne praskne 1 zarovka mesicne: lambda=1
Jaka je pravdepodobnost, ze a dalsi prasknuti budeme cekat alespon 2 mesice?
Exponencialni - X…doba cekani na dalsi prasknuti (lambda=1)
Possionovo - Y…pocet prasklych za 2 mesic (lambdat = 1*2)
P(X >= 2) = P(Y = 0) - tedy pst, ze budeme cekat alespon 2 mesice znamena, ze za 2 mesice nepraskne ani jedna zarovka. Possion vyuzivat stejne intenzity, ale jakozto pocet to nasobi jeste casovym intervalem
Obecne tedy plati:
Doba cekani na udalost je exp(l) p.t.k pocet takovych udalosti za dobu je po(l*t)
Vyjadreni:
Distribucni fce: F(t) = 1-e^(-lambdat) je to jako logaritmicka podoba
Hustota pravdepodobnosti: f(x) = lambdae^(-lambda*x), klesajici exponenta
Znaceni:
X~Exp(lambda)
EX = 1/lambda
varX = 1/labda^2
Rozdeleni je bez pameti, co to znamena?
Rika to, ze nezavisi na tom, jak dlouho uz na udalost cekam (proto to nema pamet), je jedno, ze na zakaznika cekam uz 5 minut, nic to nemeni na tom, za jak dlouho prijde, tedy pst, ze budu cekat S minut, kdyz uz cekam T minut, je stejna, jako pst ze budu cekat S minut:
P(X>t+s | X > t) = P(X>s),
tedy udalosti jsou nezavisle a doba cekani mezi nimi nijak nezmensuje pravdepodobnost.
Plati to pro exponencalni rozdeleni
Normalni rozdeleni
Jedno z nejcastejsich rozdeleni realneho sveta, kdy nejvetsi hustota pravdepodobnosti vyskytu je kolem stredni hodnoty a klesa do krajinich hodnot.
X~N(mi, sigma^2), //kde mi je stredni hodnota EX, sigma^2 = smernodatna odchylka^2 = varX, takze (EX, varX)
Hustota pravdepodobnosti je gaussova krivka, kde vetsi sigma^2 znamena vetsi roztyp -> nizsi vrchol a cely graf je min prudky, klesa pomaleji, je zaoblenejsi. Nizsi varX znamena “uzsi” graf, spicatejsi vrchol a rychlejsi pokles. Hodnota uprostred NENI 0 ALE STREDNI HODNOTA MI.
Predpis pro f(x) a F(x) je neprehledny, proto se transformuje na prehlednejsi normovany tvar.
Transformace na normovane normalni rozdeleni
Je postup, jak ziskat trochu prehlednejsi predpisy pro f(x) a F(x) normalniho rozdeleni a hlavne dostat EX=0 a varX=1. Nova F(X) uz je znama a ma kanonickou znacku velke recke fi a ma tabulkove hodnoty.
Transformace n.v. s normalnim rozdelenim ZACHOVAVA NORMALNI ROZDELENI - tedy nova n.v. je taky normalni a uz i normovana
Postup:
Mam zadanou na. velicinu:
X~N(EX, varX) // totez jako (mi, sigma^2)
Abych vynormoval musim od X odecist EX a vydelit odmocninou varX:
(X-EX) / (varX)^1/2, to totez jako (X-mi)/sigma
Tim jsem dostal nove nah. cislo Z~N(0,1) se kterym mohu pocitat. Tuto stejnou upravu ale musim provest i na prave strane nerovnice, abych zachoval smysl co pocitam.
PRIKLAD:
Doba zpracovani dat algoritmem A je n.v. X~N(30,25). Jaka je pst, ze algoritmus bude bezet alespon 27 sekund?
Ptam se tedy na:
1. P(X >= 27), provedu HNED transformaci
2. P(X-30/25 >= 27-30/25), od X odectu EX a vydelim sigmou, i pro 27
3. Ziskal jsem nove Z~N(0,1)
4. P(Z >= -3/5) chci zjistit nove, prevedu na distribucni tvar pro <
5. 1 - P(Z < -3/5), coz se uz zapise jako
6. 1 - Fi(-3/5), pro normovane normalni rozdeleni plati
VSUVKA
Fi(-a) = 1 - Fi(a), protoze normalni rozedelni je symetricke, tudiz
7. 1 - (1 - Fi(3/5)
8. Fi(0,6) = najdu odpovidajici hodnotu v tabulce
Pro n.v. X~N(EX, varX) a Y~N(EY, varY) delam transformaci Z jako X+E…
Pak vysledek Z~N(EX+EY, varX+varY)
ALE PRO X-Y JE TO SKORO STEJNY JEN
Z~N(EX-EY, varX PLUS varY)
Nezavislost nah. velicin X,Y
Dve nahodne veliciny X,Y jsou nezavisle p.t.k:
P(X<=i ZAROVEN Y<=j) = P(X<=i) * P(Y <=j) ProVsechna i,j.
Tedy analogicka situace jako u nezavislosti nahodnych jevu.
Konvoluce nahodnych velicin
Je takova na.h velicina, ktera vznikla souctem dvou nezavislych nah. velicin:
Z = X + Y, kde X,Y jsou nezavisle
Treba X..vyhrava kostka pri hodu
Y…vyhrava mince pri hodu
Z…celkova vyhra (dana jako vyhra kostky + vyhra minci)
Padne 1,2,3 = vyhraju 1 euro
Padne 4,5 = vyhraju 2 eura
Padne 6 = vyrhaju 3 eura
Padne panna = vyhraju 1 euro
Padne orel = vyhraju 2 eura
Pst, ze vyhraju 5 euro:
P(Z = 5) = P(X=1)P(Y=4) + P(X=2)P(Y=3) + P(X=3)*P(Y=2) …
tedy vzdy vezmu vsechny hodnoti Xi a k nim dopocitavam hodnoty Yi aby v sume daly pozadovanou hodnoty Z, tedy Y se PRIZPUSOBUJE X -> konvoluje
Pro diskretni pripad je to soucet pravdepodobnosti, pro spojity je to Integral f(x)*(g(z-x)) tedy analogicky beru hustotu pravdepodobnosti pro X a k tomu dopocitavam zbytek od hustoty pravdepodobnosti Y
Co plati pro konvoluce dvou alternativnich/binomickych/possionovych/normalnich rozdeleni
Jsou zachovava stejny typ (az na dvojnasobek alt) a jen sectu parametry:
Jsou binom(2,p)/binom(n1+n2, p)/po(l1 + l2)/nor(mi1+mi2, var1+var2)
Nahodny vektor
Je vekto nah. velicin, a muze znamenta 2 typy:
X = (X1, X2, X3,…Xn)
- Sleduje N znaku na 1 objektu (napr vek, pohlavi, vzdelani 1 cloveka)
nebo - SLeduje 1 znak na N objektech (napr vyska N lidi)
slouzi pro statistickou analyzu, zda treba X1 ovlivnuje X2,X3. atd…
Vektor spojitych nah. velicin
Je zadan hustotou pravdepodobnosti ale vice promennych, tedy uz pro dve veliciny se musim divat do 3D grafu a chtit od husotty pravdepodobnosti JEDNOTKOVY OBJEM
Marginalni rozdeleni diskretniho nah. vektoru
Je rozdeleni jednotlivych slozek vektoru nah. velicin, nebo jeho podvektoru.
Priklad pro nah. vektor:
P(X=0, Y=0, Z=0) = 1/4
P(X=0, Y=1, Z=0) = 1/4
P(X=0, Y=1, Z=1) = 1/4
P(X=1, Y=0, Z=1) = 1/8
P(X=1, Y=1, Z=2) = 1/8
Marginalni rozdeleni X:
Kouknu jakych hodnot nabyva samotne X a S JAKYMI PSTMI:
P(X=0) = 1/4 + 1/4 + 1/4 = 3/4
P(X=1) = 1/8 + 1/8 = 1/4
Tedy X~Alt(1/4)
Marginalni rozdeleni Y:
P(Y=0) = 1/4 + 1/8 = 3/8
P(Y=1) = 1/4 + 1/4 + 1/8 = 5/8
Tedy Y~Alt(5/8)
Marginalni rozdeleni Z:
P(Z=0) = 1/4 + 1/4 = 1/2
P(Z=1) = 1/4 + 1/8 = 3/8
P(Z=2) = 1/8
Nema zadne modelove rozdeleni
Marginalni rozdeleni PODVEKTORU (X,Y):
Kouknu na vsechny nastavajici kombinace a S JAKYMI PSTMI:
P(X=0, Y=0) = 1/4
P(X=0, Y=1) = 1/4 + 1/4 = 1/8
P(X=1, Y=0) = 1/8
P(X=1, Y=1) = 1/8
Marginalni rozdeleni spojiteho nah. vektoru
Mam zadanou hustotu pravdepodobnosti f(x,y) treba.
Nejdriv zjistim jeji predpis a hranice, nebo analyticke vyjadreni pro x a y.
Abych zjistil marginalni rozdeleni X (tedy chci ze spolecne husototy dostat pouze samotne X) tak integruju f(x,y) PODLE Y (tedy krajni meze fixuju x a delam rezy svisle odkud kam mi jede Y.
Naopak pokud chci amrginalni rozdeleni Y, tak integruju f(xy) PODLE X, tedy rezy vodorovne
Obecne tedy marginalni rozdeleni i-te slozky je integral z hustoty podle j-te slozky (pro priad Z=(i,j).
Vektor strednich hodnot
Je to vektor strednich hodnot jednotlivych slozek.Tedy
EX = (EX1, EX2, EX3)
Kovariacni/variacni matice
Je to matice NxN pro nahodny vektor o N slozkach, kde na pozici (i,j) je:
cov(Xi,Xj) = E(Xi-EXi)(Xj-EXj) = E(XiXj) - (EXiEXj), tedy kovariance dvou slozek nah. vektoru. Na diagonale je cov(Xi,Xi), coz je varXi.
Matice je symetricka, takze na diagonalu hodim varXi a pak dopocitam pouze polovinu jako cov(Xi,Xj).
E(XiXj) - toto se spocita jako vsechny mozne kombinace hodnoti Xi spolu s kombinacemi Xj vynasobeno jejich pravdepodobnosti, tedy vezmu marginalni rozdeleni podvektoru (Xi,Xj) a pocitam jeho stredni hodnotu jako nabyvane hodnoty OBE NARAZ * PST
Tedy priklad:
001/4 + 011/4 + 101/4 + 111/4 = E(XiXj) kde Xi a Xj nabyvaji hodnot 0|1 naprikald
Kovariacni matice nic moc nerika, jen jak moc jedna velicina spolupracuje s tou druhou
Korelace dvou nahodnych velicin
Je dana vztahem:
corr(X,Y) = cov(X,Y) / varX^1/2 * varY^1/2,
tedy je to kovariance(X,Y) delena soucinem odmocnin jejich rozptylu
Je v rozmezi -1 <= corr <=1
Urcuje linearni zavislost mezi X a Y jako:
Y = aX + b p.t.k corr(X,Y) = 1, pro a>0, neco jako prima umera (ale ne ona primo)
Y = aX + b p.t.k corr(X,Y) = -1, pro a<0
Korelacni matice
Je matice, kde na pozici (i,j) je corr(Xi,Xj).
corr(Xi,Xi) = 1, tedy na diagonale jsou jednicky a matice je symetricka, takze dopocitam jenom pulku.
Zbytek pozic pocitam jako:
corr(Xi,Xj) = cov(Xi,Xj) / varXi^1/2 * varXj^1/2
Ma vetsi vypovidajici hodnotu o vztahu lin. zavislosti mezi slozkami
Stredni hodnota spojite nah. veliciny
Je integral z x*f(x) //tedy mam zadanou hustotu jako proste predpis funkce, vynasobim to x a pocitma integral dx
Stredni hodnota E(XY) kde X,Y jsou spojite
Je dvojny integral:
IntegralIntegral xyf(x.y) dydx treba
Jevy A,B,C,D jsou nezavisle p.t.k.
Jsou nezavisle pro vsechny mozne kombinace ctverice, trojice, dvojice atd…
Tedy plati P(A,B,C,D) = P(A)P(B)P(C)*P(D) pro vsechny mozne kombinace
Nah. vel. A,B,C,D jsou nezavisle p.t.k.
P(A<=i,B<=j,C<=k,D>=l) = P(A<=i)P(B<=j)P(C<=k)*P(D<=l) a PLATI TO I RPO VSECHNY MOZNE KOMBIANCE
(Podle urcite vety ale staci vyzkouset tu nejvetsi prvni podminku a pak ostatni mensi kombinace jsou take splneny pokud je splnena ta nejvetsi)
Jak zjistit, zda nah. veliciny jsou nezavisle z tabulky?
Mam zadanou tabulku nabyvanych hodnot pro X,Y jako jejich hodnoty ve sloupcich a radcich a policku (i,j) je pst, ze (X=i,Y=j) jako priklad:
X/Y 1 2 3
1 1/12 1/6 1/12
2 1/6 1/3 1/6
X nabyva hodnot 1,2,3, Y nabyva hodnot 1,2
Suma i-teho sloupce je P(X=i)
Suma j-teho radku je P(Y=j)
Tedy
Suma sloupcu/radku jsou marginalni rozdeleni pro danou velicinu
Treba soucet prvniho sloupce:
1/12 + 1/6 = 1/4 je P(X=1)
pak soucet vsech sloupcu/radku ma dat ve vysledku 1 (v pravem dolnim rohu) jako marginalni rozdeleni X a Y
Potom musim projit VSECHNA policka a pro kazdy porovnat, zda jeho hodnota se rovna tomu, ze X=i a Y=j. Tedy:
Je P(X=1,Y=1) =? P(X=1)*P(Y=1)
1/12 =? 1/4 * 1/3 -> ANO, pokud toto plati pro vsechna policka, pak jsou veliciny nezavisle.
Pokud pro alespon jedno neplati, pak nejsou nezavisla
Co plati pro EXY a cov(X,Y), cor(X,Y) pro nezavisle X,Y
EXY = EX*EY
cov(X,Y) = 0 // protoze jsou nezavisle
corr(X,Y) = 0 // protoze jsou nezavisle
NEPLATI TO ALE OBRACENE:
pokud pro obecne n.v. vyjde:
cov(X,Y) = 0 pak jsou NEKORELOVANE ale neznamena to, ze jsou nezavisle a musim to overovat tabulkou
pokud:
cov(X,Y) != 0 , pak NEJSOU NEZAVISLE
Centralni limitni veta
Pokud n.v. vznikne jako soucet hodne n.v., pak z ni mohu ziskat novou n.v. transformaci, a bude se limitne blizit k normovanemu normalnihmu rozdeleni, neboli hodne n.v. daji Gaussovu krivku.
Necht X=Suma Xi, kde (EXi = mi, varXi = sigma^2).
Pak EX = nmi, varX = nsigma^2, X je tedy soucet hodne n.v.
Pak nova n.v. Zn, ktera vznikla jako:
Zn = X-EX / (varX)^1/2 ma EZn=0 a varZn = 1, tedy je to normovane normalni rozdeleni
Priklad na CLV
Jaka je pst, ze ve 120 hodech kostkou je pocet sestek vetsi nez 15, ale mensi nez 25?
- Za n.v. X prohlasim Sumu (1->120) z Xi, kde Xi je pocet sestek v jednom hodu, tedy X=1|0, tedy Xi~Alt(1/6).
- EXi = mi = 1/6
- varXi = sigma^2 = 5/36
- Resim nerovnici: P(15 < SumaXi < 25)
Pouziju CLV: SumaXi nahradim novou n.v. tak, ze od ni odectu EXin a vydelim odmocninou z nvarXi, to same udelam pro obe strany nerovnice a dostavam: - P( [15 - nmi/(nsigma^2)^1/2] < Z < [20 - nmi/(nsigma^2)^1/2], dosadim a dostanu:
- P( [15 - 1201/6 / (1205/36^2)^1/2] < Z < [20 - 1201/6/(1205/36)^1/2], tedy za n jsem dosadil 120 hodu, pak mi=EXi, sigma^2 = varXi
- P(-1,25 < Z < 1,25) = P(Z < 1,25) - P(Z <= -1,25) = Fi(1,25) - Fi(-1,25) = Fi(1,25) - (1 - F(1,25) = 2Fi(1,25) - 1 ~~ 0,8, pouze priblizny vysledek
Chi-kvadrat rozdeleni
Pouziva se ve statistice, je to suma Xi^2, kde Xi je n. velicina s normovanym normalnim rozdelenim.
Parametr n - pocet vstupnich dat, “stupen volnosti” - kolik volnych parametru vstupuje na zacatku
Hustota vypada jako kopecek z bodu 0,0 ktrey roste a pak rychleji klesa
Studentovo rozdeleni
Neboli t-rozdeleni je dano vztahem:
Z = X*n^(1/2) / y^(1/2), kde X~N(0,1), Y~ChiKvadrat(n)
Vypada jako Gaussovka, ale je placatejsi pro jakekoliv n, pro n->limitne do nekonecna se blizi gaussovce
Z~t(n)
Fisherovo rozdeleni
Je dano jako podil dvou ChiKvadrat n.v.:
W = (U/n) / (V/m), kde U~ChiKvadrat(n), V~ChiKvadrat(m)
W~F(n,m)
Nahodny vyber
Je vektor nahodnych nezavislych stejne rozdelenych velicin
Treba X=(X1,…Xn), kde Xi je vyska nahodne osloveneho cloveka
Vyberovy prumer
Je nahodna velicina, ktera se spocita jako aritmeticky prumer n.v. (treba z nahodneho vyberu)
Neni to pevna jedina hodnota jako prumer, protoze kazdy clovek si muze nasbirat ruzny nahodny vyber a kazdemu vyjde i ruzny vyberovy prumer, tedy vyberovy prumer je take nahodna velicina
Xn| = 1/n SumaXi, kde Xn| je X s carkou nahore o n hodnotach
Vyberovy rozptyl
Je rozptyl nahodne sesbiranych hodnot
varX = S^2 = (1/n-1) * Suma(Xi - Xn|)^2, tedy je to kvadrat odchylky Xi od prumeru
Vyberova smerodatna odchylka
Je odmocnina z varX
S = varX^(1/2)
Beta-kvantil
Je takova Zb (na ose x hustoty pravdepodobnosti), ze nalevo od sebe zanecha prave Beta plochu.
Treba beta=0,7. Pak Beta-kvantil je takova hodnota A na ose x z hustoty pravdepodobnosti spojite funkce, ze plocha pod grafem nelvo od A je rovna 0,7, napravo 0,3.
Pro distribucni fci plati:
F(Zb) = beta
Jak v grafu hustoty pravdepodobnosit vymezit symetrickou plochu treba kolem nuly o velikost (1-alfa)?
Chci tedy uriznout levy a pravy kraj dohromady o hodnotu alfa. Kazdy z nich tedy ma velikost alfa/2.
Levy konec uriznu alfa-vantilem: Z(alfa/2), pravy je doplnek z 1: Z(1-alfa/2).
Tedy na oobu stranach jsem uriznul alfa/2 plochu, akorat ten parvy je doplnek z celkove plochy=1.
Empiricka distribucni funkce
Je to analogie s obycejnou distribucni funkci, tedy je to pst, ze nahodne vybrana hodnota z nahodneho vyberu je mensi-rovna nez pevne zvolena hodnota z nah. vyberu
Tedy mam treba cila nasbirana (2,4,7,7,8) a beru jedno z nich nahodne a ptam se, jaka je pst, ze nahodne vybrane cilo je mensi-rovno nez 2,4,7,8?
Je to obycejna distribucni funckce v bodech 2,4,7,8
Kvartily
Jsou to takove hodnoty z nahodneho vyberu, ktere pod sebou nechaji 1/4, 1/2, 3/4 nebo 4/4 dat z nahodneho vyebru:
- kvartil = “je vetsi nebo rovno” nez 1/4 dat
- nez 1/2 = MEDIAN
- nez 3/4
- nez 4/4
nemusi byt cela ani patrit do nah. vyberu (musi byt ale v intervalu vyberu)
Modus
Hodnota z nnahodneho vyberu, ktera se vyskytuje nejcasteji
Bodovy odhad parametru pro nasbirana data - co dela?
Mam nasbirany nahodny vyber dat.
Prohlasim, ze si myslim, ze data maij napriklad rovnomerne rozdeleni. Tedy X~Ro(0, b), neznam ale b. tak se ho snazim najit ALE POUZE PRIBLIZNE, protoze plati jenom pro moje data, tedy to odhadovane b ma nad sebou strisku a neni to jedine teoreticke spravne b.
Nestrannost odhadovaneho parametru
Kdyz pro svoje nasbirana data a zvolene rozdeleni prohlasim, ze b je odhadovany parametr, pak pro nej musi platit nestrannost takova, ze stredni hodnota parametru je i stredni hodnota mnou zvoleneho odhadu.
Tedy pokud reknu, ze muj parametr b je:
b~= 2prumer_dat,
pak musi platit:
Eb~ = b = E(2prumer_dat), pokud toto se rovna, pak je muj odhad nestranny a je roven (priblizne) skutecnemu parametr
Pozadavky na bodovy odhad parametru:
- Nestrannost: Eb~ = b //tedy stredni hodnota mi vyjde jak muj odhad
- Konzistence: lim(Eb~) = b pro n->nek && lim(var(b~)) = 0
- Efifience - ze dvou odhadu beru ten, jehoz rozptyl rychleji konverguje k 0
Metoda momentu
Pro odhad parametru zvoleneho rozdeleni X pouziju zname vzorce EX a varX a dosadim do nich primo namerene hodnoty a vyjde mi soustava rovnic kde EX = kombinace parametru = dosazena hodnota, varX = kombinace parametru = dosazena hodnota
PRIKLAD NA METODU MOMENTU:
V 5 poslucharnach se psal test. V kazde je n studentu, pst ze student projde testem je p.
Pocet uspesnych studentu v kazde posluchanre je (81,19,23,18,22). Urcete model pro nah. vel. X popisujici “pocet uspesnych studentu v poslucharne” a odhadnete jeho parametry metodou momentu.
- X~Binom(n,p) // protoze mam n pokusu pro uspech
- Pak vim, ze EX = np, varX = np(1-p).
- Hledam parametry n,p tedy je porovnam s EX a varX
- Pocitam EX primo z namerenych hodnot jako prumer:
18+19+23+18+22 / 5 = 20. - Pocitam varX z namerenych hodnot jako vyberovou odchylku:
varX = s^2 = 1/n-1 * Suma(Xi - Xn|)^2 = 1/4 * (4 + 1 + 9 + 4 + 4/4) = 11/2. - Tedy vim, ze EX = np = 20 a varX = np(1-p) = 11/2
7, Vyresim soustavu dvou rovnic a mam parametry n,p ale jsou to pouze odhady, takze jsou se striskou.
OBECNY POSTUP
1. Zjistim rozdeleni a kolik chci parametru.
2. Podle druhu rozdeleni pak polozim rovno EX=kombinace parametru, varX=kombinace parametru.
3. Zaroven Metoda Momentu mi rika, ze:
EX = prumer namerenych dat,
varX = vyberova odchylka
4. Spocitam prumer a vyberovou odchylku namerenych dat
5. Resim soustavu rovnic, kde pocet rovnic je pocet hledanych parametru a EX=prumer=kombinace parametru,
varX=odchylka=kombinace parametru
Metoda Maximalni Verohodnotsti
Pro odhad parametru zvoleneho rozdeleni namerenych dat pri statisticke analyze.
Hlavni myslenka je “to, co jsme namerili, je nejpravdepodobnejsi”
Tedy moje namerena data (x1,x2,x3,…xn) maji maximalni pravdepodobnsoti:
P(X1=x1, X2=x2…Xn=xn) = max, tedy P(X1=x1)…P(Xn=xn) protoze jsou nezavisle.
Vznikne mi tedy soucin:
P(X1=x1)* … *P(Xn=xn) a hledam takovou funkci s neznamym parametrem rozdeleni, ze jeji derivace je nulova (extrem).
Tuto funkci L(theta) nazvu Verohodnostni funkci.
Pak udelam mezikrok takovy, ze zlogaritmuju L(theta) abych se soucinu pravdepodobnosti dostal soucet.
l(theta) = ln(L(theta).
Pak derivuju novou pomocnou funkci male f a prolozim = 0. Vyjadrim si parametry.
PRIKLAD NA MEMOTU MAXIMALNI VEROHODNOSTI
V krabici mam cerne a bile kulicky. Vytahl jsem 50krat kulicku a vratil ji tam. Vzdy jsem zaznamenal barvu. Celkem jsem vytahl 30 cernych a 20 bilych kulicek. Odhadnete podil cernych ku bilym kulickam MMV.
- Hledam rozdeleni - X~Alt(p), X=1 -> vytahl cernou, 0 bilou
P(X=1) = p, P(X=0) = 1-p - Sestavim soucinovy tvar jako: vytahl jsem 30krat cernou a 20krat bilou:
L(p) = ppp…p * (1-p)(1-p)… = p^30 * (1-p)^20 //30krat uspech a 20krat neuspech. - Sestavim pomocnou funkcni f(p) = ln(p^30) + ln((1-p)^20)
- Derivuju f(p) = 30/p - 20/1-p.
- Hledam max -> derivace = 0:
30/p - 20/1-p = 0 - Vyjadrim si p
Treba mam namerene hodnoty (1,2,3,4) a P(X=1)=p/4, P(X=2)=p/4, P(X=3)=p/4, P(X=4)=p/4
OBECNY POSTUP:
1. Zjistim rozdleni a P(X=i) = neco.
2. Rozepisu L(theta) = soucin vyskytujicich se hodnot s jejich pravdepodobnostmi, treba tady:
L(p) = (1p/4) * (2p/4) * (3p/4) * (4p/4)
nebo pro spojity pripad:
beru hustotu a za promennou dosazuju nasbirana data
3. Logaritmuju F(theta)
4. Derifuju pomocnou funkci
5. Polozim pomocnou funkci = 0
Intervalovy odhad parametru
Intervalovy odhad mi rika:
“S takovou pravdepodobnosti mi stredni hodnota nejakych nasbiranych dat spadne do intervalu +- horni/dolni odhad.”
Mam nasbirana data X1…Xn a vsechna jsou ~No(mi, sigma^2).
Zajima me, jaky je prumer tehcto dat:
X| = mi, varX| = simga^2 / n
Ale arit. prumer nasbiranych hodnot je take nah. velicina, protoze se spocetla pouze z mych dat a nekdo jiny muze prijit s jinymi daty.
Takze X|~No(mi, sigma^2 / n).
Zajima me ale, s jakou pravdepodobnosti muj aritm. prumer je skutecnym parametrem stredni hodnoty, tedy ptam se:
“S jakou pravdepodobnosti muj specificky prumer spadne do jisteho INTERVALU horniho a dolniho odhadu”.
VZOREC:
(1-alfa)*100 = (X| += u(1-alfa/2) * sigma/n^(1/2))
Kde alfa je procento jistoty (tedy pokud chci 95%, tak alfa je 0,05),
takze chci vymezit plochu v grafu Gaussovky jako 95% plochy a ocasky vlevo a vpravo uriznout,
u(1-alfa/2) je kvantil, ktery mi urizne alfa/2 ocasek vpravo (plati zase symetrie kvantilu)
Tedy vysledek mi rekne, ze s pravdepodobnosti treba 95% je stredni hodnota v intervalu (dolni odhad : horni odhad)
PRIKLAD NA INTERVALOVY ODHAD
V pristavu spravec dostava dotaci, pokud kotvene lode maji v prumeru alepon 12m delku. Sestrojte 95% interval pro stredni hodnotu z namerenych lodi:
11.5, 10.5, 11.2, 12.5, 11.2, 11.5, 12.5, 10.5, 12.1
- Vzorec:
95% int. spolehl = (X| +- t[(n-1), (1-alfa/2)] * S/n^(1/2))
Tedy nahradim obecny vzorec studentovym rozdelenim, kde pouiju studentuv kvantil (S N-1 STUPNI VOLNOSTI) a misto rozptylu pouziju smerodatnou dochylku. - Pocitam prumer: X| = namerene hodnoty / 9 = 11,5
- Pocitam smerodatnou odchylku jako odmocninu z vybereoveho rozptylu:
Rozptyl: var = (1/n-1) * Suma(xi - X|)^2 = 0,5675.
Smer. odchylka = odmocnina z var = ~0,75 - Pocitam t-kvantil: potrebuju n-1 stupnu volnosti, takze 8,
hodnota pro (1-alfa/2) pocitam jako:
chci pst 95%, tedy zbytek je alfa=5%, alfa/2=2,5%, tedy 1-0,025 = 0,975 - Sestrojim vyslednou rovnici:
95% int. spolehl = (X| +- t[8, 0,975] * S/n^(1/2)) - Hodnotu pro t[8, 0,975] kvantil o 8 stupnich volnosti najdu v tabulce = 2,31
- Dosadim a dopocitam interval:
95% int. spolehl = (11,5 +- 2,31* 0,75/3) = (10,9 ; 12,065)
T-Testovani hypotez obecne
Necht mam interval stredni hodnoty (a,b) s psti 95%.
Stanovim Hypotezu0: EX lezi v intervalu
Protihypoteza HA = EX nelezi v intervalu
Testovaci hypoteza ma rozdeleni:
T = X| - EX*sqrt(n) / smerod. odch.
Dosadim moje hodnoty nasbirane do T0:
vyjde mi nejake cislo
Divam se, zda toto cislo spadlo do vymezeneho pravdepodobnostniho prostoru grafu Gaussovky, nebo uz lezi v kvantilu. Kvantil mi vymezi kriticky obor, od ktereho uz jsou hodnoty moc vzdalene od meho predpokladu
Hypotezu0 zamitam/nezamitam ve prostepch protihypotezy. na hladine alfa, kde alfa je pripoustena chyba - chyba prvniho typu - false positive - hypoteza neplati, ale nas test ji povoli
Pearsnuv test dobre schody ChiKvadrat
Obecne se pouziva pro testovani hypotezy typu:
H0: marginalni rozdeleni vsech hodnot je stejne
Ha: alespon jedna pravdepodobnost je jina
Priklad:
hodil jsem kostkou 120krat a napozoroval kolikrat padl kazdy pocet puntiku;
Testovaci statistika ma vzorec:
ChiKvadrat = Suma(pres pocet moznych hodnot) (xi - npi)^2 / npi,
kde xi je namerena hodnota pro i-tou. moznost a pi je jeji pravdepodobnost PODLE H0.
Tedy v prikladu kostkou je to:
(kolirkat_padla_1 - celkem_hodu1/6)^2 / celkemm_hodu_1/6 + …
…+ (kolikrat_padal_6 - celkem_hodu1/6)^2 / celkem_hodu*1/6
Vyjde mi z toho cislo a musim zkontrolvat, zda se trefilo do vymezene oblasti ChiKvadrat kvantilu o N-1 STU;NICH VOLNOSTI na testovane hladine (1-alfa).
Tedy pokud mam 6 puntiku na kostce, tak stupen volnosti je 5. Pokud mam testovaci hladinu 5% (velikost pripadne chyby), tak ChiKvadrat kvantil je tvaru:
ChiKvadrat(5, 0,95) = podle tabulek = nejake cislo.
Pokud je kvantil vetsi nez moje testovaci hypoteza -> zamitame H0
Test nezavislosti velicin v kontingencni tabulce
Testuje, zda nejaka vlastnost je zavisla na parametrech (treba BMI na pohlavi).
Do tabulky se zapisou hodnoty dane vlastnosti (treba BMI <10, 10-25, >25) a pozorovane skupiny (treba muzi, zeny).
Testuju, zda BMI a pohlavi jsou zavisle.
Pro dve veliciny plati, ze jsou nezavisle, p.t.k. P(X=i)*P(Y=j) = P(X=i,Y=j) pro kazde i,j v tabulce.
testuju, zda vyraz:
Suma(pres i,j) z [ (nij - (ninj)/n)^2 / (ninj/n)] = 0
Tedy dvojita suma pres vsechna i,j z hodnoty na pozici i,j minus marginalni rozdeleni i-teho sloupce a j-teho radku lomeno celkovy pocet. To cele na druhou a jeste normovano.
Postup:
Pro kazde policko v tabulce spocitam:
[hodnota_policka - (marginalni_rozdeleni_sloupcemarginalni_rozdeleni_radku/celkovy_pocet)]^2 / (marginalni_rozdeleni_sloupcemarginalni_rozdeleni_radku/celkovy_pocet)
Vyjde mi nejaky vysledek pro dane policku, sectu to pro vsechna policka.
Vysledek porovnam s t-kvantilem, kde stupen volnosti je (pocet_radku-1)(pocet_sloupcu-1) a hladinou treba alfa=1, tedy t(c-1r-1, 0.99).
Pokud moje suma je mensi nez kvantil, tak plati H0.
Nahodny proces
Je vyvoj nahodne veliciny v case.
Treba teplota, kurz meny, pocet telefonatu, pojistni trida…
Stav nahodneho procesu
Je nabyvana zrovna hodnota. Bud diskretni nebo spojity stav.
Teplote je treba spojita, kurz jednou denne je diskretni, platova trida je diskretni
Stacionarita procesu
Je vlastnost, ze se proces chova stejne/podobne v case, tj neco jako invariant
Slaba stacionarita procesu
Proces v casech s a t se chova stejne jako v casech (s+h, t+h), tj jeho chovani v prvnich casech je stejne jako po uplynuti nejake doby, nezavisle na tom. Treba proces ktery skace do stejnych hodnot nejak periodicky
Silna stacionarita procesu
Proces je silne stacionarni p.t.k. ma stejnou distribucni funkci ve VSECH posunutych casech.
Priklad:
Treba posloupnost nezavislych stejne rozdelenych nah. velicin
Silna stacionarita hned implikuje i slabou
Rozdil mezi silnou a slabou stacionaritou
Silna mi rika, ze proces se vyviji kolem nejake jedne hodnoty a moc se od ni nevzdaluje.
Slaba mi rika, ze proces klidne muze mit nejaky trend a utikat nahoru/dolu, ale ten trend je jen pricteni konstanty treba, ze se proces chova podobne podel trendu
Markovsky retezec s diskretnim casem
Je retezec stavu {Xn ; n je prirozene} takovych, ze plati:
P(X(n+1) = j | Xn=i, X(n-1)=i(n-1)…} = P(X(n+1) = j | Xn=i)
Tedy je takovy proces, ktery nepotrebuje minulost/predchozi stavy/pamet. Tedy kazdy nasledujcii krok je odvozen pouze z aktualniho stavu a nepotrebuje vedet, co vsechno bylo pred tim.
Priklad:
Pojistne tridy - kdyz jsem ve tride 3. a mam bouracku, tak klesnu do tridy 2. NEZAVISLE NA TOM, kde jsem byl pred tridou 3. a jak se tam dostal. Tedy dalsi krok (pokles) zavisi pouze na aktualnim stavu.
Markovsky proces je proces splnujici tuto vlastnost.
Matice pravdepodobnosti prechodu
Je matice, kde radky a sloupce jsou nabyvane hodnoty, a do policka piseme pst, ze se dostanu z stavu X do stavu Y.
// V podstate matice incidence, kam pisu pst, s jakou prejdu do dalsiho stavu
Priklad vyuziti pravdepodobnostni matice prechodu pro vypocet konkretni pravdepodobnosti vyvoje Markovskeho procesu
Tedy mam zadanou matici se stavy treba stav_1, stav_2, stav_3 jako radky a sloupce a hodnoty na policku i, je pst, ze prejdu ze stavu_i do stavu_j.
Nekdo mi zada konkretni vyvoj - tedy konkretni kroky/prechody ktere nastanou po sobe a chce spocitat s jakou psti k tomu dojde.
Tedy:
P(X0 = stav_1, X1 = stav_2, X2 = stav_1, X3=stav_3, Xn…=stav 2), tedy pst ze dojde k takove posloupnosti prechodu.
Podle vety o nasobeni pravdepodobnosti je P(posledni, za podminky, ze plati vsechny predchozi).
Ale jelikoz se jedna o Markovsky proces, tak na minulosti nezalezi, pouze na predchozim stavu. Tedy historii mohu zapomenou a jenom vynasobim mezi sebou pravdepodobnosti prechodu.
Plati to tedy i intuitivne, ze celkova pravdepodobnost konkretnich vyvoje spocitam jako pronasobeni pravdepodobnosti kazdeho kroku, tedy:
P(zacnu v nejakem vychozim boede) * P(prejdu do stavu_1) * P(ze stavu_1 - > do stavu_2) * P(ze stavu_2 -> do stavu_1) * atd vsechny prechody, kde jejich P vidim v matici…
Priklad vyuziti matice prechodu pro zjisteni nejpravdepodobnejsiho stavu ve vynechanem retezci Markovskeho procesu.
Tedy mam zadanou matici se stavy treba stav_1, stav_2, stav_3 jako radky a sloupce a hodnoty na policku i, je pst, ze prejdu ze stavu_i do stavu_j.
Nekdo mi zadal retezec zaznamenanych stavu:
X(n-2) = 1, X(n-1) = i, X(n) = 2, tedy nevim, jaka hodnota byla treba vcera a ptaji se me, co je nejvic pravdepodobne, ze bylo vcera?
P(X(n-2) = 1, X(n-1) = i, X(n) = 2).
Chci tedy spocitat prechody stav_1 -> neznamy_stav -> stav_2.
Dosadim tam tedy vsechny mozne stavy 1,2,3 a kouknu, co je nejpravdepodobnejsi:
- P(zacnu ve stavu_1) * P(ze stavu_1-> stavu_2)
- P(zacnu ve stavu_1) * P(ze stavu_2-> stavu_2)
- P(zacnu ve stavu_1) * P(ze stavu_3-> stavu_2)
Konstantu P(zacnu ve stavu_1) mohu anhradit treba “c” protoze je stejna pro vsechny a mam vysledky treba:
1. = 0,08c
2. = 0,03c
3. = 0,02c
Tedy nejpravdepodobnejsi stav vcera byl 1.
Podobny princip:
Kdyz vim jaky je tav dnes, jaky byly stavy pred dvema dny?
Pocitam pravdepodobnosti vsech moznych variant co mohly nastav pred dvema dny…
Priklad vyuziti matice prechodu pro zjisteni pravdepodobnosti prechodu za N KROKU v Markovskem procesu.
Tedy mam zadanou matici se stavy treba stav_1, stav_2, stav_3 jako radky a sloupce a hodnoty na policku i, je pst, ze prejdu ze stavu_i do stavu_j.
Nekdo mi zada pocet kroku a pta se, jaka je pst, ze z vychoziho bodu se za tolik kroku dostanu do nejakeho vybraneho stavu.
Spocitam to jako SUMA VSECHNY MOZNE CESTY DELKY N KROKU z vychoziho bodu do koncoveho bodu. Suma protoze vsechny cesty jsou disjunktni a mohu si vybrat, kterou pujdu.
Tedy intuitivne mi to rika:
“Jak se za dva kroky dostanu z bodu A do bodu B?
Vezmu vsechny mozne cesty ktere vedou z A do C a z C do B a sectu jejich pravdepodobnosti, tedy pujdu z A do C, pak z C do B NEBO z A do D, pak z D do B, nebo z A do E, pak z E do B, NEBO…”
P(X(n+2) = j | Xn = i) = S(prechod z A do K) * (prechod z K do B), pro vsechna K = P(i,j)^2 // K je zprostredkovatel
Tedy mohu udelat novou matici prechodu, ktera mi bude UKAZOVAT PST PRECHODU ZA 2 KROKY. //tedy kazde policko i,j mi ukazuje pravdepodobnost prechodu ze stavu_i do stavu_j ZA DVA KROKY.
Tuto matici dostanu jako jeji druhou mocninu.
Obecne pro N kroku je to matice prechodu v N-te mocnine
Stacionarni rozdeleni Markovskeho procesu
Ukazuje pomerove/pravdepodobnostni rozdeleni stavu. Tedy mi to rika, jak se stavy po n-prechodech (limitne k nekonecnu) USTALI (proto stacionarni), jak se rozdeli v pomeru mezi sebou.
Pokud bych udelal n-tou mocninu matice prechodu, tak mi ukaze pravdepodobnosti prechodu za n kroku. Kdybych to limitne poslal do nekonecna, tak i-ty sloupec mi reprezentuje urcity stav a jeho suma mi da tedy marginalni rozdeleni tohoto stavu. Tedy pst, ze nastane prave tento i-ty stav obecne, nezavisle na predchozich podminkach. (treba predpoved pocasi, priletim do letoviska a stacionarni rozdeleni mi rekne, ze bude slunecno/zatazeno/prset s pravdepodobnosti XYZ… jako marginalni rozdeleni techto variant z n-prechodu z:
slunecno->slunecno +(nebo) destivo->slunecno + zatazeno->slunecno = pst(je slunecno obecne)
Znaceni:
pi = (p1, p2,…pn).
p1 = p1(pst prechodu 1->1) + p2(prechod 2->1) + p3(prechod 3->1)
p2 = p1(pst prechodu 1->2) + p2(prechod 2->2) + p3(prechod 3->2)
p3 = p1(pst prechodu 1->3) + p2(prechod 2->3) + p3(prechod 3->3)
Tedy ustaleny stav p1 se vytvori jako:
“Uz v nem jsem A zustanu v nem NEBO jsem ve stavu 2 A prejdu do 1, NEBO jsem ve stavu 3 A prejdu do 1”
Parametry p1,p2,p3 pocitam jako soustavu rovnic o 3 neznamych, kam dosazuju hodnoty z matice prechodu (1 mocniny) PLUS PLATI p1+p2+p3 = 1, protoze je to psti rozdeleni
JINA MOZNOST:
priklad s presypanim kulickem mezi nadobami:
mam na zaatku nejake initial rozdeleni a matici prechodu. Stacionarni rozdeleni mohu hledat tak, ze vychozi hodnoty vynasobim matici prechodu -> VZNIKNE MI VYSLEDEK PO 1 KROKU/PRECHODU -> novy vysledek nasobim matici -> MAM VYSLEDEK PO DVOU PRECHODECH -> nasobim tak dlouho, dokud nasledujcii rozdeleni neni stejne jako nynejsi:
tzn:
(vektor rozdeleni) = (vektor rozdeleni)*(matice prechodu)^n
Pak jsme tudiz dokonvergovali do stacionarniho rozdeleni, ktere se uz s zadnym prechodem nezmeni.
Stochasticka matice, definice a priklad
Je takova matice, jejiz soucet radku je 1.
Treba matice pravdepodobnosti prechodu - kazdy radek je rozdeleni pravdepodobnosti, ze prejdem do jinych stavu, tedy celkvoe musi dat 1
Musi markovsky proces vzdy dokonvergovat do stacionarniho rozdeleni?
Ne, pokud matice prechodu ma periodu, tzn treba:
P^2 = P^4…
P = P^3…
Tedy vzdy se rozdeleni zmeni, ale treba ob dva kroky, jako kdybych mel 2 stacionarni/oscilujici rozdeleni a nevim, v jakem z nich skoncim
Jak najit stacionarni rozdeleni pro nezavisle komponenty markovskeho retezce?
Tzn mam dve komponenty souvislosti. Spocitam uvnitr nich stacioanrni rozdeleni, jako kdyby nesouvisely. Matice prechodu je taky rozbita na 2 bloky.
Treba mam 5 stavu a vyslo mi:
pi1 = (x,y, 0, 0, 0) //protoze na 3 ostatni nevidi z komponenty
pi2 = (0, 0, a, b, c) // protoze na 2 prvni nevidi z komponenty
Na zacatek pridam NULTY STAV, ze kterho s prevadepodobnosti C vyrazim do 1. kommponenty a s pravdepodobnosti (1-c) vyrazim do 2. komponenty. Tedy vysledne stacioanrni rozdeleni je:
pi = c(x,y,0,0,0) + (1-c)*(0,0,a,b,c,)
Tedy intuitivne mi to rika:
S psti C pujdu do 1. komponenty a tam uz zustanu se stacionarnim rozdelenim jejim NEBO pujdu do 2. komponenty a ta ma svoje rozdeleni
Pokud ale k pridanemu nultemu stavu pridam i pst, ze se tam muze tocit a pak az odejit do nejake komponenty, tak C nahradim pomerem. Treba do komponenty 1. = 1/2, do 2.=1/4. Tedy do 1. komponety odchazi v prumeru 2krat casteji nez do 2., tedy pomer 2/3 ku 1/3. Tedy C pro 1. komponenty je 2/3 a pro 2. komponentu 1/3
Prechodny stav Markovskeho retezce
Takovy stav, do ktereho se nemuzu vratit, pokud jsem z neho odesel. Plati to i pro “polovicni” pripad - stav ma Leveho a Praveho sousede, muzu preskakovat tam a zpatky do Leveho, ale jamkmile skocim do Praveho, tak uz se nevratim -> i v takovem pripade je to prechodny stav.
//nejak jsem tam terba dosel, pak se v nem treba tocim, pak odejdu A UZ NENI CYKLUS ZPET z ALESPON JEDNOHO Z JEHO SOUSEDU
Trvaly/absorpcni stav
Takovy stav, do ktereho treba vedou cesty, ale uz zadna nevychazi ven, jen se muze tocit v sobe, na diagonale matice prechodu ma u sebe jednicku
Stredni hodnota stavu definice
Je stredni doba navratu - pocet kroku do navratu, treba 10. Pak pst, ze za n kroku budu zpatky je 1/10, protoze v prumeru cekam 10 kroku na navrat.
V pripade periody d je to d/10
Zpusob hledani prdepodobnosti, ze v markovskem retezci zacnu v nejakem stavu a skoncim v absorpcnim
PRVNI Zpusob:
1. Sestavim matici prechodu klasickou - treba 1,2,3,4,5
2. Preskupim ji do tvaru na 4 bloky:
( I 0)
(R Q),
kde I tvori absorpcni stavy - treba 1,5 a pak az dalsi stavy
Matice 0 mi ukazuje skoky z absorpcnich do prechodnych stavu - tedy jsou to same nuly
Matice R mi ukazuje skoky z prechodnich stavu do absorpcnich
Matice Q mi ukazzuje skoky mezi prechodnymi stavy
3. Tuto novou matici poslu do nekonecna - P^nek, jakozto matici, ktera mi ukaze psti prechodu za nekonecno korku (jako kdyby se ustalila).
4. Tim mi zmizi matice Q (protoze prechodne stavy za nekonecno mnoho kroku konci v absorpcnich, tedy jeji vzajemny prechody jsou 0)
5. Na miste matice R mi vznikne nova matice M, ktera mi ukaze pst, ze pokud acnu v prechodnym nejakem stavu, tak za N prechodu skoncim v absorpcnim - tedy je to presne to co po mne chce zadani.
6. Matici M spocitam jako:
F*R, kde F se nazyva fundamentalni matice a spocita se jako:
F=(jednotkova_o_velikosti_Q - Q)^-1, tzn inverze rozdilu jednotkove matice a matice Q. Vynasobim ji matici R a nova matice M mi ukazuje potrebne pravdepodobnosti.
OBECNY POSTUP:
1. Sestavim matici prechodu
2. Preskupim na tvar: absorpcni stavy prvni, pak zbytek
3. Matice se mi rozbila na I, 0, R, Q
4. Hledam matici M jako: (I_velikost_i_Q - Q)^-1 * R
5. V matici M najdu potrebny vychozi a koncovy bod.
DRUHY ZPUSOB:
Zajima je pravdepodobnost, ze skoncim ve stavu absorpcnim, z podminku, ze jsem zacal v nejakem pocatecnim. Tedy:
Ai = P(Skoncim v A | zacnu v i), tedy A4 je pst, ze ze 4 skoncim v A…
sestavuju rovnice jako pozpatku - beru predposledni stav a pst, ze z nej skocim do A je pst prechodu NEBO skocim o krok zpet a nasobim to pravdepodobnosti A(i-1), tedy psti, ze se do A dostanu ze stavu o jeste jeden dal. Takto rekurzivne pokracuju pozpatku az narazim na prvni stav, odkud vlastne mohu zacit cestu.
Priklad cesty
1 abs 2<->3<->4->5 (abs), tedy
A2=P(skok_2-3)A3 //skok 2-3 * pst(dostanu se do A z 3)
A3=P(skok_3-4)A4 //skok 3-4pst(dostanu ze do A z 4)
A4=P(skok_4-5)A5 //skok 4-5*pst(dostanu se do A z 5)
Podle zadnai si vyjadrim patricne Ai a je to pst, ze se z i-teho stavu v nekonecnu dostanu do A stavu (treba vyherni)
