kjko Flashcards
Entropija
Neurejenost oz. nedoločenost sistema
Entropija vira
Predstavlja povprečno informacijo vseh sporočil vira.
Poskus
Praktična izvedba množice pogojev
Izid
Rezultat poskusa oz. ena izmed možnih izidov
Elementarni dogodek
Posamezni element vzorčnega prostora
Vzorčni prostor
množica vseh elementarnih dogodkov poskusa
Sestavljen dogodek
Množica vseh elementarnih dogodkov
Verjetnost (klasična def.)
Vsi izdi enako verjetni
Verjetnost (statistična def.)
Veliko št. poskusov
Verjetnost (matematična def.)
Pozitivna vrednost
Naključna spremenljivka
je rezulat nekega poskusa (izida)
Zvezdna in diskretna naključna spremenljivka
Diskretna končni ali števni prostor (met kocke)
Gostota verjetnosti
Verjetnost
Verjetnost
Integirramo gostoto verjetnosti med A in B in dobimo verjetnost med menaja
Kumulativna verjetnost
Verjetnost
Povprečna vrednost
Dogodek1Verjetnost1 + Dogodek2Verjetnost2 … Enosmerna komponenta
Srednja vrednost
Dogodek1^2Verjetnost1 +Dogodek2^2Verjetnost2 … Celotna moč signala
Varianca
Spremenljivki odštejemo povp. vrednost — Izmenična komponenta signala
Centralno limitni teorem in razložiti zakaj je pomemben
Porazdelitev naključne spremenljivke
Naključni proces
Izid poskusa je signal
Naključna spremenljivka
rezultat enega samega poskusa
Stacionarnost
Pogoji
Ergodičnost
Met kocke
Avtokorelacija
pridemo do info. kako se signal s časom spreminja oz. kako so vzorci med seboj
Močnostispekter
Srednja kvadratična vrednost funkcije f(t) (moč) je enaka vsoti kvadratov
LTI
Linearen časovno nesprejemljiv sistem - Vedno velja linearnost - Če vhodni signal povečamo za
Enotni impulz (Diractov imppulz)
Spekter je konstanten
Lahko določamo in ne moramo pri LTI
Močnostni spekter in amplitudno porazdelitev
Beli šum
Najbolj naključen možen signal
Frekvenčna omejitev naključnega signala
Moč se zmanjša
Normalizirana razporeditev
Limita vsote spremenljivk s poljubnimi porazdelitvami
Glavni cilj teorije informacij
Max. teoretično hitrost in kako ponestaviti signal brez izgube.
Količina informacije
kombinacij 2^m
Informacijski vir
je generator naključnih simbolov iz vzočnega prostora
Brezpominski vir
Trenutni simbol ni odvisen od prejšnjih simbolov (poljubni zvoki)
Spominski vir
Govor
Entropija
Neurejenost oz. nedoločenost sistema
Entropija vira
Nedoločenost vira
Maksimalna entropija vira
Ko so verjetnosti simbolov enake.
Kodiranje
Prevajanje znakov ene abecede v drugo abecedo
Lastnosti po katerih razvrščamo kodiranja
Predponska in nepredponska
Enolično dekodiranje
Algoritem Sardinasa in Pattersona
Absolutno in relativno redundanco vira in izračun
Redundanca vira predstavlja razliko med
Našteti prednosti enakomernih in neenakomernih kod
Prednost: lahko je gospodarnejša