Neurális hálók Flashcards
Mutassa be hogyan működik a neurális háló egy neuronja!
A neurális hálók (neural networks) nem mások, mint sok paraméterrel rendelkező, komplex nemlineáris függvények. Paramétereiket zajos adatok alapján tanulhatják meg.
Egy neuron kiszámítja a bemeneti jelek súlyozott összegét, amelyet a súlyokkal szorozva és összeadva kapunk. Ezután alkalmazhatunk egy aktivációs függvényt a súlyozott összegre, amely meghatározza a neuron kimenetét.
Milyen aktivációs függvényeket ismer és mik a különbségek?
(a) A küszöb aktivációs függvény, amely 1-et ad a kimeneten, ha a bemenete pozitív, különben pedig 0-t.
(b) A szigmoid, vagy logisztikus függvény: sima görbét eredményez, és a kimenetet a [0, 1] tartományba skálázza
Milyen neurális háló struktúrákat ismer és mik a különbségek?
Neurális hálóstruktúrák két fő csoportja: a hurokmentes vagy előrecsatolt hálók (feedforward network) és a visszacsatolt vagy rekurrens hálók.
- Az előrecsatolt háló a pillanatnyi bemenet függvényét reprezentálja, azaz nincs semmilyen más belső állapota, csak maguk a súlyok. A rekurrens háló viszont a kimeneteit visszacsatolja a bemeneteire.
- Ezenfelül a háló egy adott bemenetre adott válasza a kezdeti állapotától függ, amely a korábbi bemenetektől függhet. Ennélfogva a rekurrens hálók (ellentétben az előrecsatolt hálókkal) rövid távú memóriát is biztosíthatnak. Ezáltal érdekesebbé válnak mint agymodellek, de egyben nehezebben is érthetők.
Egy egyszerű példán keresztül mutassa be, hogyan működik egy egyrétegű előrecsatolt neurális háló!
rajz
Hogyan tudjuk tanítani a neurális hálónk súlyait? Milyen módszer ismert rá és mi a módszer alapelve?
a perceptron tanulása egy konzisztens függvényhez konvergál: minden lineárisan szeparálható adathalmaz esetén
- a perceptron a többségi függvényt gyorsan megtanulja, a döntési fa képtelen
- a vendéglői függvényt a döntési fa jól tanulja, a perceptron nem képes ábrázolni
Milyen típusú tanulási módszereket ismer és mik a különbségek? Miként különböznek diszkrét és folytonos esetben?
többrétegű előrecsatolt neurális hálók (TEN): a rétegek rendszerint teljesen összekötöttek
a rejtett rétegek és egységek számának meghatározására nincs módszer
hiba-visszaterjesztéses tanulás (back-propagation)
tanulási görbe:
- a tanuló algoritmus minden egyes mintára kiszámolja a hálót, és kissé módosítja a súlyokat
Mutassa be a konvolúció műveletét!
Azt mondjuk, hogy a h függvény az f és a g függvények konvolúciója (convolution) (amit h = f ∗ g alakban írunk), ha
Milyen módon és milyen függvények közelíthetőek neurálsi hálók segítségével?
Neurális hálók különböző függvényeket közelíthetnek, például lineáris regressziót vagy osztályozást segítő szigmoid és ReLU aktivációs függvényeket.
Sok dudorral minden függvény közelíthető.
Milyen hiba függvényt alkalmazhatunk regressziós problémák megoldásához?
Regressziós problémák megoldásához gyakran alkalmazunk átlagos négyzetes hiba (MSE) vagy átlagos abszolút hiba (MAE) hiba függvényeket.
