Überwachtes Lernen

Question 1

Basisidee Backpropagation

Answer 1

Basisidee ist der Gradientenabstieg

Question 2

Was ist das Gradienten-Verfahren?

Answer 2

Iterative Strategie zur Berechnung von Minima mehrdimensionaler Funktionen

Question 3

Suchstrategie des Gradientenabstiegs

Answer 3

1. Gegeben ist eine Funktion f(x)
2. Gesucht sei das Minimum x(k) = min(f(x))

Ziel: sukzessiv x(k) zu nähern mit f’(x(k))=0

Question 4

Hinreichende und notwendige Bedigungung für ein Minimum

Answer 4

f’(x) = 0
f’‘(x) != 0
f’‘(x) > 0

Question 5

Wofür wird beim Gradientenabstieg der Gewichtungsfaktor “σ” genutzt?

Answer 5

σ = Lerntate
-> bestimmt wie weit gesprungen wird
delta w_ji = σ * delta a

• Skalierungsmaß für die
• Korrekturschritte auf der
• Suche nach dem Minimum der Funktion

-> Testen auf Konvergenz, Divergenz

Question 6

Was ist der Fixpunkt des Gradientenverfahrens?

Answer 6

Ein Fixpunkt ist ein Punkt, an dem sich die Lösung nicht mehr ändert. Das bedeutet, dass die Änderung der Gewichte Null ist und somit das Minimum der Funktion erreicht wurde.

Question 7

Backpropagation Methode

Answer 7

• Fehlerrückführung
• Rechenvorschrift, mit der Gewichte der versteckten Schicht modifiziert werden können
• Allgemeiner als Delta-Regel