Nevrosnke mreze (NEO)

Question 1

Kaj je nevronska mreža?

Answer 1

Nevronska mreža je povezava več umetnih nevronov, ki delujejo skupaj, da obdelujejo podatke in izvajajo različne naloge, kot so razpoznavanje vzorcev in odločanje.

Question 2

Kako je sestavljen umetni nevron?

Answer 2

Nevron je sestavljen iz dveh komponent:

• Vhodna funkcija (f): Linearna komponenta, ki predstavlja seštevek produktov vhodov in uteži.
• Aktivacijska funkcija (o): Funkcija, ki pretvori izhod vhodne funkcije v diskreten ali analogen izhod (npr. sigmoidna funkcija).

Question 3

Kaj je topologija nevronske mreže?

Answer 3

Topologija nevronske mreže določa število in način povezave nevronov v mreži. Delimo jih na:

• Mreže s povezavami nazaj (rekurentne).
• Mreže s povezavami naprej (feedforward), kjer:
  + Povezave med nevroni na istem nivoju niso dovoljene.
  + Povezave nazaj na prejšnje nivoje niso dovoljene.
  + Preskakovanje nivojev pri povezavah naprej ni dovoljeno.

Question 4

Kakšne so zmogljivosti nevronskih mrež glede na število nivojev?

Answer 4

• Brez skritih nivojev: Mreža lahko loči prostor na dve polravnini (perceptroni).
• Z enim skritim nivojem: Lahko omeji poljubno konveksno področje.
• Z dvema skritima nivojema: Lahko omeji poljubno področje.

Question 5

Kakšne so razlike med feedforward in rekurentnimi nevronskimi mrežami?

Answer 5

• Feedforward mreže:
  + Izhodi nevronov se prenašajo naprej (od vhodov proti izhodom).
  + Povezave nazaj niso dovoljene.
• Rekurentne mreže:
  + Povezave so lahko v obe smeri.
  + Bolj posnemajo delovanje bioloških nevronskih mrež.

Question 6

Naštej tipe učenja v nevronskih mrežah.

Answer 6

• Nadzorovano učenje (supervised learning): Sistem učenja z učiteljem, ki mreži poda pravilen odgovor.
• Nenadzorovano učenje (unsupervised learning): Mreža se organizira sama brez idealnih odgovorov.
• Prisilno učenje (reinforcement learning): Mreža dobi oceno uspeha občasno, ne za vsak učni objekt.

Question 7

Katere vrste aktivacijskih funkcij poznamo?

Answer 7

• Linearna
• Stopnicasta
• Sigmoidna

Question 8

Pojasni postopek učenja z metodo backpropagation.

Answer 8

1. Določimo topologijo mreže.
2. Za vsak učni objekt primerjamo izhod mreže (y) s pričakovanim rezultatom (t).
3. Če sta y in t različna, popravimo uteži, da zmanjšamo napako E.
4. Ponavljamo, dokler napaka ni dovolj majhna ali ne dosežemo največjega števila ciklov.

Question 9

Kakšni so cilji metode backpropagation?

Answer 9

• Zmanjšati napako
  E tako, da optimiziramo uteži mreže.

-Izboljšati ujemanje med izhodnim vektorjem y in pričakovanim rezultatom t

Question 10

Kaj so Hopfieldove nevronske mreže in za kaj jih uporabljamo?

Answer 10

• So organizirane kot asociativni pomnilnik.
• Shrani množico učnih objektov kot stabilna stanja.
• Uporabljajo se za razpoznavanje vzorcev in konvergirajo k najbližjemu stabilnemu stanju.

Question 11

Kako delujejo Kohonenove nevronske mreže?

Answer 11

• Delujejo na podlagi samoorganizacije in nenadzorovanega učenja.
• Nevroni tekmujejo, zmagovalci krepijo uteži, poraženci jih oslabijo.
• Po dovolj iteracij klasificirajo podatke v skupke (clusters).

Question 12

Kako izberemo ustrezni model nevronske mreže za problem?

Answer 12

• linearno locljivi problemi - (perceptroni, nm brez skirtih nivojev)
• linearno nelocljivi problemi -> (vecnivojske backpropagation nm)
• razpoznavanje vzorcev -> (hopfieldove nevrosnke mreze)
• nenadzorovano, samoorganizirano, tekmovalno ucenje -> (kohonenove nm)
• razpoznavanje objektov (velike kolicine podatkov) -> globoke nevronske mreze

Question 13

Kaj sta parametra
η (hitrost učenja) in
α (moment) pri metodi backpropagation?

Answer 13

η: Določa hitrost prilagajanja uteži; z manjšimi spremembami lahko preprečimo, da se mreža ujame v lokalni minimum.

α: Doda vztrajnost pri spreminjanju uteži, da se izognemo prevelikim oscilacijam.

Question 14

Kakšni tipi vhodnih spremenljivk obstajajo v nevronskih mrežah?

Answer 14

• Binarni (0 ali 1).
• Bipolarni (-1 ali 1).
• Realna števila.

Question 15

Kako deluje feedforward v metodi backpropagation?

Answer 15

Feedforward pomeni, da se vrednosti premikajo od vhodnega nivoja preko skritih nivojev do izhodnega nivoja. Na vsakem nivoju izračunamo izhod vsakega nevrona.

Question 16

Kakšne omejitve ima feedforward topologija?

Answer 16

• Povezave med nevroni na istem nivoju niso dovoljene.
• Povezave nazaj na prejšnje nivoje niso dovoljene.
• Ni možno preskakovanje nivojev pri povezavah naprej.

Question 17

Kaj pomeni, da so Hopfieldove nevronske mreže enodimenzionalne?

Answer 17

To pomeni, da so nevroni v Hopfieldovi mreži razporejeni v eno dimenzijo, kar zahteva, da vsak vzorec predstavimo kot enodimenzionalni vektor.

Question 18

Kako Kohonenove nevronske mreže definirajo sosesko za določen nevron?

Answer 18

Soseska se določi glede na radij r, ki je odvisen od dimenzij mreže (enodimenzionalna, dvodimenzionalna ali trodimenzionalna). Soseska vključuje nevrone, ki so v določenem radiju okrog izbranega nevrona.

Question 19

Kaj je asociativni pomnilnik in kako je povezan s Hopfieldovimi mrežami?

Answer 19

Asociativni pomnilnik omogoča, da mreža shrani več vzorcev kot stabilna stanja. Če mreža prejme nov vzorec, bo konvergirala k stabilnemu stanju, ki je najbližje temu vzorcu.

Question 20

Kako Kohonenove nevronske mreže razvrstijo podatke?

Answer 20

Z učenjem mreža spreminja uteži nevronov glede na pogostost pojavljanja vhodnih vzorcev. Po zadostnem številu iteracij razvrsti podobne vzorce v skupke (clusters).

Question 21

Zakaj perceptroni ne morejo rešiti linearno neločljivih problemov?

Answer 21

Perceptroni lahko ločijo podatke le z eno linearno mejo. Linearno neločljivi problemi zahtevajo nelinearne meje, ki jih lahko ustvarijo samo mreže z vsaj enim skritim nivojem.

Question 22

Kakšne prednosti imajo večnivojske nevronske mreže pred enonivojskimi?

Answer 22

Večnivojske mreže lahko:

• Razlikujejo bolj kompleksne vzorce.
• Rešujejo linearno neločljive probleme.
• Ustvarijo poljubno kompleksne ločilne meje.

Question 23

Kako deluje tekmovalno učenje v Kohonenovih mrežah?

Answer 23

Tekmovalno učenje pomeni, da nevroni tekmujejo za aktivacijo pri določenem vhodu.

• Zmagovalni nevron prilagodi svoje uteži, da se bolje prilega vhodnemu vzorcu.
• Preostali nevroni zmanjšajo svoje uteži.

Question 24

Kakšne so glavne razlike med nadzorovanim in nenadzorovanim učenjem?

Answer 24

• Nadzorovano učenje: Mreža prejme učni vzorec in pričakovani rezultat, da prilagodi svoje uteži.
• Nenadzorovano učenje: Mreža prejme le učni vzorec in sama organizira svoje uteži glede na podobnosti med podatki.

Question 25

Kaj pomeni “lokalni minimum” pri metodi backpropagation in kako ga lahko premagamo?

Answer 25

Lokalni minimum je točka, kjer napaka
E ni globalno najmanjša, ampak se zdi optimalna za trenutno stanje. Premagamo ga z:

• Spremembo parametra
  η (hitrost učenja).
• Dodajanjem parametra
  α (moment).

Question 26

Zakaj so Kohonenove nevronske mreže primerne za klasifikacijo podatkov?

Answer 26

Ker delujejo na podlagi samoorganizacije in klasificirajo podatke v skupine glede na podobnost, brez potrebe po nadzoru ali idealnih odgovorih.

Question 27

Kaj je vektor značilk in kakšna je njegova vloga v nevronskih mrežah?

Answer 27

Vektor značilk je niz vhodnih podatkov (atributov), ki se poda v nevronsko mrežo za obdelavo. Predstavlja opis objekta, ki ga mreža obravnava.

Question 28

Kakšna je razlika med sigmoidno in stopničasto aktivacijsko funkcijo?

Answer 28

• Sigmoidna funkcija: Ima gladek prehod med vrednostmi in vrača rezultate med 0 in 1 (ali med -1 in 1).
• Stopničasta funkcija: Ima oster prehod in vrne diskretne vrednosti (npr. 0 ali 1).

Question 29

Kako Hopfieldove mreže shranjujejo vzorce in zakaj jih po enem učenju ne spreminjamo več?

Answer 29

Hopfieldove mreže shranjujejo vzorce z nastavitvijo uteži glede na matriko povezav. Ko so uteži določene, jih ne spreminjamo več, da ohranimo stabilna stanja za shranjene vzorce.