Vorlesung 8 Flashcards
Beschreib die Lineare/Binäre Klassifikation
Wodurch wird eine Gerade bei der binären Klassifikation beschrieben?
Durch die Hesse-Normalform
Gleiches gilt auch im R^d. Hier ist die Gerade eine Hyperebene, die durch den Normalenvektor w aus R^d und den Offset b aus R beschrieben wird als
Wie klassifiziert man nun anhand der Hesse-Normalform?
Welches Problem bekommt man, wenn man versucht die Verlustfunktion der binären/linearen Klassifikation zu minimieren?
Was ist die logistische Regression?
Was ist der Hinge Loss?
max(0,1 - t)
Was ist der quadratische Hinge Loss?
max(0,1 - t)^2
Nenn die verschiedenen Ansätze, um einen binären Klassifikator für Multiklassen-Klassifikationen zu benutzen
- Eins-vs-Rest
- Eins-vs-Eins
Beschreib den Eins-vs-Rest Ansatz
- Trainiere einen binären Klassifikator für jede Klasse, wobei sie als positiv und der Rest als negativ behandelt wird
- Vorhersage der Klasse mit der höchsten Punktzahl
Beschreib den Eins-vs-Eins Ansatz
Wozu führt ein großer Rand bei SVMs?
einer geringeren Komplexität des Klassifikators
Wie bestimmt man den vorzeichenbehafteten Abstand eines Punktes zu einer Hyperebene?
Wie klassifiziert man via SVMs?
Was ist Hard Margin SVM?
Klassifikator, bei dem keine fehlklassifizierten
Datenpunkte erlaubt sind
Was ist Soft Margin SVM
Was tun, wenn die Daten nicht linear trennbar sind?
- Dann können wir wieder den Basisfunktionen-Trick verwenden.
- Erweitere X um passende Basisfunktionen, z.B. Polynome
Was ist der Vorteil an Hard Margin SVMs?
Was ist der Nachteil an Hard Margin SVMs?
die Annahme, dass der Datensatz linear separierbar ist, ist etwas zu restriktiv
Was ist der Vorteil an Soft Margin SVMs?
Kann effizient gelöst werden, da es sich immer noch um ein konvexes Optimierungsproblem mit Nebenbedingungen handelt, aber nicht zu restriktiv ist (erlaubt Fehler)
