Vorlesung 11 Flashcards
Wie kann man unteres durch ein Neuron darstellen?
Wie kann man alle reellen Zahlen aus [0,1] darstellen?
Wie kann man mit neuronalen Netzen komplexere Entscheidungsgrenzen ermöglichen?
Mehrere Neuronen hinzufügen und Kombinieren ihrer Ausgaben durch ein weiteres Neuron
Was definiert ein Neuron in der ersten Schicht?
Eine Halbebene
Was kombiniert ein Neuron in der zweiten Schicht?
die Halbebenen
Wie kann man die Anzahl an Neuronen reduzieren?
Was ist eine Aktivierungsfunktion?
Eine Aktivierungsfunktion in neuronalen Netzen bestimmt den Wertebereich der Aktivierung eines künstlichen Neurons. Sie wird auf die Summe der gewichteten Eingangsdaten des Neurons angewandt. Die Aktivierungsfunktion zeichnet sich durch ihre Nicht-Linearität aus.
Wie kann man ein Neuron mathematisch darstellen?
Wie kann man eine Schicht in einem neuronalen Netz mathematisch darstellen?
Beschreib Backpropagation / Reverse Mode Autodiff
Was ist i.a. das größte Hinderniss beim Trainieren von NN?
Durch das bilden der Ableitungen durch Backpropagation kann zu hohen Speicherverbrauch führen, da die Zwischenergebnisse gespeichert werden müssen
Durch welche Optimierung beim Gradientenabstieg, kann man NNs optimieren?
Denn: Bei vielen Daten kann die Auswertung der Lossfunktion und ihres Gradienten viel Zeit in Anspruch nehmen
