teorija informacije + teorija detekcije signala Flashcards
osnovna razlika izmedju kibernetike i teorije informacija
kibernetika je siri pojam (nauka o upravljanu nekim sistemima) dok je teorija informacije deo teoretske kibernetike
sta je bit
jedinica kolicine informacija i odgovara jednom opredeljenju izmedju dve jednako verovatne mogucnosti
sta je entropija
prosecna kolicina informacije koju emituje neki izvor
determinisani sistemi nose kolicinu informacije od h = 0 bita, zasto?
zato sto ne postoji mogucnost promene, sistem je u samo jednom mogucem stanju
kom sistemu pripadaju kberneticki sistemi i zasto
verovatnim zato sto dozvoljavaju mogucnost vise ishoda
kolicina informacije koju odredjeni dogadjaj nosi stoji u ? odnosu sa verovatnocom njegove realizacije
obrnuto proporcionalnom
kolicina informacije je ? proporcionalna broju alternativnih dogadjaja unutar datog sistema
upravo
dva sistema sa podjednakim brojem mogucih ishoda imace istu entropiju samo pod jednim uslovom
pod uslovom da je verovatnoca odigravanja svakog od tih dogadjaja podjednaka u oba sistema
transmisiona situacija: Hx ? Hy ? T ?
sekvenciona situacija: Hx ? Hy ? T ?
trans.
hx - prosecna kolicina inf u ulazu
hy - pros kol inf u izlazu
t - kol prenesene inf
sekv.
hx - pros kol inf u prethodnim sekvencama
hy - pros kol inf u dogadjaju koji sledi
t - redudansa(suvisna inf)
sta je redudansa
sekv. - kolicina suvisne inf
trnas - preneta inf iz ulaznom u izlazni sistem
sta je ekvivokacija po komunikacionom modelu Milera
kolicina inf koja se izgubi u transmisiji tj. inf iz stimulacije koja nije preneta
sta treba minimizovati da bi komunikacija izmedju dva sistema bila sto uspesnija
treba maksimalno umanjiti efekat suma i ekvivokaciju
Polak je merio kapacitet kanala za ? i nasao da on iznosi ?
Garner je merio kapacitet kanala za ? i nasao da on iznosi ?
Polak - visina tona 2.5 bita
Garner - glasnost tona 2.3 bita
sta nam govori Milerov broj 7+-2
propusna moc kanala je oko 7 nezavisnih alternativa tj nasa cula mogu uspesno da diferenciraju oko 7 razlicitih stimulusa uz odstupanje +-2
trojica istrazivaca koji su prvi primenili teoriju detekcije signala?
Taner, Svets; Grin