Begriffe Flashcards
Was ist overfitting? und wie kann dies gelöst werden?
Es wird eine Funktion gefunden, die genau mit den Daten übereinstimmt, aber die zukünftige Ausgabe nicht gut vorhersagt.
Overfitting ist symptomatisch für instabile Lösungen; Eine kleine Störung in den Trainingssatzdaten würde eine große Variation in der gelernten Funktion verursachen. Es kann gezeigt werden, dass, wenn die Stabilität der Lösung garantiert werden kann, auch Verallgemeinerung und Konsistenz garantiert sind.
Regularisierung kann das Überanpassungsproblem lösen und dem Problem Stabilität verleihen.
Durch die Einschränkung des Hypothesenraums wird eine Überanpassung vermieden, da die Form der potenziellen Funktionen begrenzt ist und daher keine Funktion ausgewählt werden kann, die ein empirisches Risiko ergibt, das willkürlich nahe Null liegt.
Was ist supervised learning?
Lernen aus einem Trainingsdatensatz: Jeder Punkt im Training ist ein Eingabe-Ausgabe-Paar, bei dem die Eingabe einer Ausgabe zugeordnet ist. Das Lernproblem besteht darin, auf die Funktion zu schließen, die zwischen der Eingabe und der Ausgabe abgebildet wird, so dass die gelernte Funktion verwendet werden kann, um die Ausgabe von zukünftigen Eingaben vorherzusagen. je nach Art der Ausgabe Regressions-/Klassifizierungsprobleme
Neuronale Netzwerke
Parametrische Funktion, ein Modell mit vielen Parametern, die wir verändern können, sodass die Funktion sich so verhält wie wir wollen (Bsp.: 0 =Katze und 1 =Hund)
Sie lernen nicht von selbst. –> Optimierer trainiert das Netzwerk
Was sind Aktivierungfunktionen?
Es ist nur ein Element (Knoten), dass Sie zur Ausgabe eines neuronalen Netzwerks hinzufügen. Es wird auch als Übertragungsfunktion bezeichnet. Es kann auch zwischen zwei neuronalen Netzwerken angeschlossen werden.
Es wird verwendet, um die Ausgabe des neuronalen Netzwerks wie Ja oder Nein zu bestimmen. Es bildet die resultierenden Werte zwischen 0 zu 1 oder -1 zu 1 u.s.w. ab (abhängig von der Funktion).
Bias?
Bias ist die Differenz zwischen der durchschnittlichen Vorhersage unseres Modells und dem richtigen Wert, den wir vorherzusagen versuchen. Ein Modell mit hohem Bias schenkt den Trainingsdaten sehr wenig Aufmerksamkeit und vereinfacht das Modell zu stark. Es führt immer zu einem hohen Fehler bei Trainings- und Testdaten.
Varianz?
Die Varianz ist die Variabilität der Modellvorhersage für einen bestimmten Datenpunkt oder ein Wert, der uns die Streuung unserer Daten anzeigt. Ein Modell mit hoher Varianz schenkt den Trainingsdaten viel Aufmerksamkeit und verallgemeinert nicht auf Daten, die es noch nicht gesehen hat. Daher schneiden solche Modelle bei Trainingsdaten sehr gut ab, haben aber hohe Fehlerraten bei Testdaten.
