Lernen Flashcards
Was versteht man unter Lernen?
Den absichtlichen, beiläufigen, individuellen oder kollektiven Erwerb von geistigen, körperlichen und sozialen Kenntnissen und Fertigkeiten
Unüberwachtes vs Überwachtes Lernen
Unüberw:
- häufig selbst organisierend genannt
- kein Lehrer vorhanden
Überw:
- Korrekte Ausgabewert ist vorhanden
- “Teaching Vector”
- Lernen durch Unterweisung
Vorgehen Überwachtes Lernen
- Eigenschaften einer zu lernenden Funktion
a) Abbildungsvorschrift, y = x1 AND x2
b) Repräsentanten der lernenden Funktion (Teaching Samples) y=1 wenn x1 = 1 und x2 = 1, etc. - Auswahl eines Netzes und seiner Topologie (Layer Struktur)
-Anzahl layer, Neuronen etc. - Auswahl Lernverfahren
- Gewichte setzen
- Lernphase - Test
- Testsamples
- Ergebnis einordnen
Bestandteil der Lernphase
- Auswahl Teaching Samples
- berechnung der zugehörigen Ausgangswertes
- Vergleich mit Zielwert
- Korrektur Berechnen
- Veränderung der Gewichte
- Auswahl eines neuen Teaching Samples
Adaline Regel
Erweiterung des Perzeptrons
- nutzt Delta-Regel zur Anpassung der Gewichte
- Fehler wird vor der Aktivierung berechnet
- Bildet Grundlage für mehrschichtige neuronale Netze und das Gradientenabstiegsv.
Adaline (Delta-Regel vs. Perzeptron
Aktivierungsfunktion
Fehlerberechnung
Lernalgorithmus
Konvergenz
Perzeptron Lernen: Wann müssen gewichte wie angepasst werden?
Ausgabe = Sollwert
-> keine Änderung
Ausgabe = 0 Sollwert = 1
-> inkrementiere die Gewichte
Ausgabe = 1 Sollwert = 0
-> dekrementiere Gewichte
Gewichtsänderung:
w_neu = w_alt + delta w
Wie passt Perzeptron Lernen Gewichte an?
Perzeptron-Lernen betrachtet den Fehler am Ausgang und führt auf dieser Basis eine Gewichtsänderung
der Gewichte durch
XOR Dilemma: Welches Lernverfahren?
Delta-Regel und Perzeptron-Lernen sind nicht für versteckte Neuronen geeignet
Problem: Lernverfahren muss gefunden werden, welches die Möglichkeit bietet, möglichst effizient alle Gewichte zu lernen
Lösung: Multilayer Perceptron mit Backpropagtion
