XIII - osnovni principi konekcionističkog modeliranja memorije i procesa pamćenja

Question 1

Torndajk - konekcionizam

Answer 1

• opis IU

Question 2

matematičko modeliranje 60s

Answer 2

• Uč nije proces sve/ništa
• Uč je proces postepenog jačanja asoc. veze

Question 3

digitalni računari

Answer 3

• Uč = snimanje
• izvlačenje = vraćanje na lokaciju na kojoj je zapis
• procesi Pa vrlo laki, izvlačenje sve ništa?
• računari redno, neuroni paralelno?
• neuroni sporiji od komponenti računara?

Question 4

računari

Answer 4

• mozak radi drugačije

Question 5

programi za simulaciju prepoz. viz. složaja

Answer 5

Rozenblatov percepton - osn. prinicipi konekcionizma

Question 6

percepton

Answer 6

• povezuje detektorsku jedinicu analognu retini, sa nizom ulaznih jedinica, a ove se nizom izlaznih jedinica koje treba da daju percept.

Question 7

princip perceptona/najprostije neuralne mreže

Answer 7

• ulaz (na retini)
• ulazne jedinice
• izlazne jedinice
• izlaz (percept)
• problem: znamo kada je ulaz 1/0, ali možda je akt. i druga ulazna jedinica

Question 8

konekcionizam

Answer 8

• arhitektura mreže
• dinamička svojstva mreže: tip i intenzitet između čvorova (ponderi)

Question 9

rešenje problema:

Answer 9

• uvođenje sloja skrivenih jedinica
• ulaz
• ulazne jedinice
• skrivene jedinice
• izlazne jedinice
• ALI - znamo kada je aktivan samo jedan, ali ne i oba ulaza.

Question 10

uvođenje skrivenih jedinica omogućava

Answer 10

• da mreže uče

Question 11

kako mreža uči

Answer 11

• povratno širenje greške
  — akt. se širi kroz Si od ulaza ka izlazu
  — izlaz iz mreže seporedi sa ciljanim izlazom

Question 12

povratno širenje greške - pt2

Answer 12

• sloj mreže najbliži brhu (izlazi) se na slučajan način modif. -> do momenta dok se ne postigne najmanja razlika izlaza i ciljanog izlaza
• veze u tom sloju se stabilizuju, a ista operacija kreće na sledećem sloju ispod
• tako sve do uzlaznog sloja

PROBLEM: povratno širenje greške je spor algoritam

Question 13

primena ideja o paralelnoj obradi - percepcija

Answer 13

• Selfridžov Pandemonijum
• model čitanja Mek Klikenda i Rumelharta

Question 14

kako pamti računar

Answer 14

• izvlačenje sve/ništa
• za pristup sadržaju je neophodna kompletna info
• zab. nema, ono može nastupiti kao posledica fiz. oštećenja mem. i onda je kompetno

Question 15

kako Pa čovek

Answer 15

• može delimično izvlačenje
• sadržaju memorije se može pristupiti i pomoću delimičnog opisa - sadržaj je adresabilan
• zaboravljanje nije sve/ništa -> postepena degradacija

Question 16

modeliranje Pa, pobuđivanje čvora Sem

Answer 16

• aktivira i ostale čvorove u kojima su pohranjena njihova pojedinačna svojstva

1. sve jedinice untar jednog oblaka se uzajamno inhibiraju
2. = uzajamna ekscitacija

Question 17

šta mreže mogu?

Answer 17

• postepena degradacija - ako se uništi jedna od jedinica, celokupna info se ne gubi, već može da se aproksimira
• obezbeđivanje tipične vrednosti - ako ne znamo svojstva Sema, mreža taj podatak zamenjuje tipičnom vrednošću za čvorove slične Semu
• spontana generalizacija - pobuđivanje jedne jedinice skopčane sa Džetsima, aktivira ostale, čija akt. pobuđuje ostale sa svojstvima Džettsa i tako pravi stereotip pripadnika Džetsa

Question 18

svojstva ljudskog Pa koja se mogu modelirati neuralnim mrežama

Answer 18

1. adresabilnost
2. nadomeštavanje nedostajućih podataka
3. izvođenje stereotipa

Question 19

info nije sačuvana u čvorovima (jedinicama mreže)

Answer 19

• već u tipu i jačini veza između njih.

Question 20

primeri primene neuralnih mreža

Answer 20

• precepcija govora
• prepoz. viz. složaja
• modeliranje deficita u amneziji
• formiranje strategije nekih igara
• alternative: produkcioni sistemi

Question 21

prednosti konekc. modela

Answer 21

• modeliranje ne zahteva posebno specifikovanje i pohranjivanje pravila delovanja modela
• jedino što treba znati jeste vrednost ulaza i ciljana vrednost izlaza

Question 22

nedostaci konekc. modela

Answer 22

• inkluzivnost - uz dovoljno adaptiranja arhitekture mreže i dovoljan br. ciklusa Uč -> može se modelirati skoro sve -> problem ps. plauzibilnosti
• rez. su manje spektakularni u modeliranju k. penetrabilnih sistema.