Vorlesung 4 Flashcards
Beschreib robuste Regression
ist robust gegenüber Ausreißern
Durch was wird die l1-Norm häufig ersetzt?
durch andere Verlustfunktionen ersetzt, z.B. Huber-Loss, weil es dann schnellere und einfachere Verfahren zum Lösen gibt
Was ist der Gradient?
Der Gradient ist ein zentraler Begriff in der Vektorrechnung und bezeichnet den Vektor, der die Richtung des größten Anstiegs einer skalaren Funktion angibt. Er wird oft durch das Symbol “nabla” (ein umgedrehtes Delta) dargestellt. Der Gradient einer Funktion f ist definiert als der Vektor der partiellen Ableitungen der Funktion nach ihren Variablen.
Beschreib das Gradientenverfahren
Was ist das Problem beim Gradientenverfahren?
Es könnte in einem lokalen Minimum landen
Wie ist eine Konvexe Funktion definiert?
Was nutzt man anstelle des Gradientenverfahrens, wenn eine Funktion nicht diff ist?
Subgradientenverfahren
Was ist das Subgradientenverfahren?
An Stellen, an denen f nicht differenzierbar ist, kann man einfach den Gradienten von einem benachbarten Punkt wählen.