02 Active Learning

Question 1

Aktives Lernen allgemein

Answer 1

Lernmaschine die ggf. mit wenigen gelabelten aber wesentlich mit selektiv selbst gewählten ungelabelten Daten lernt

Annahme: Einige Daten enthalten wesentlich mehr Information als andere

Selective Labeling

Question 2

Lernszenarien / 3 möglichlichkeiten des aktiven Lernens

Answer 2

• Query Synthesis
  (Erzeugung synthetischer Daten)
• Selective Sampling
  (Selektive Entnahme aus Daten-Strom)
• Pool Based
  (Auswahl aus Daten-Pool)

Question 3

Unsicherheitsmaße

Answer 3

• niedrigste Konfidenz
• kleinster Rand / Margin
• größte Entropie

Für binäre Klassifikation sind diese Maße identisch sonst nicht

Question 4

Version Space (wdh)

Answer 4

Die Menge aller Hypothesen die konsistent sind mit den Daten

Annahme: Um so größer der Version Space v ist um so schlechter ist jede mögliche Hypothese (Klassifikator)

Ziel beim aktiven Lernen: Effektive Reduktion des Version Space

Question 5

Simpler (naiver) Version Space Algorithmus

Answer 5

Bestimme alle konsistenten Hypothesen (Oder bestimme |v| analytisch)

Optimales neues x reduziert die „Größe“ von v am stärksten

Formal als Erwartungswert

• über y (weil Label y zunächst unbekannt)
• über alle Lerndaten inklusive der neuen Daten

Diskussion

• Idealerweise lässt sich der Version Space halbieren
• Binäre Suche implementiert dies in 1D
• Problem – effiziente Realisierung
• • v kann sehr groß werden oder ist analytisch nicht beschreibbar
• • Idee: „Extremen“ des Hypothesenraums betrachten, wenn die Modelle sich „stark“ widersprechen –> Daten (mit hoher Unsicherheit) reduzieren v
• • Allgemeiner Ansatz: Query-by-Committee

Question 6

QBC - Query by Comittee

Answer 6

Allgemeiner Ansatz

• Trainiere eine Menge C von Maschinen (Klassifikatoren)
• C kann beliebiger Kardinalität sein
• Wähle neue Daten wenn die Hypothesen (Klassifikatoren) widersprüchlich sind

Selektive Entnahme

• …
• Beobachte neue Instanzen (Auswerten) Abfrage falls Widerspruch
• Neutrainieren, Iterieren

Pool-based Lernen

• …
• Messung des Widerspruchs für alle Instanzen x
• Ranking
• Abfrage der k widersprüchlichsten Instanzen
• Neutrainieren, Iterieren

Question 7

Ausreißerproblem

Answer 7

Eine Instanz kann widersprüchlich sein weil es sich um einen Ausreißer handelt

Ausreißer sind nicht geeignete Lerndaten

–> Gewichten der Unsicherheit einer Instanz x anhand der Dichte im Datenraum

Question 8

Aktives lernen mit SVM - Version Space

Answer 8

Gegeben ungelabelte Instanzen suchen wir diejenigen,
die den Versionsraum v maximal verringern

• -> Daten deren entsprechende Hyperebene die Hyperkugel gültiger Gewichtsvektoren möglichst zentral schneiden
• -> dies sind die Daten die am nächsten zur Trennhyperebene im Merkmalsraum liegen

Question 9

Simple Margin / MaxMin Margin / Ratio Margin

Answer 9

Simple Margin:
Daten deren entsprechende Hyperebene die Hyperkugel gültiger Gewichtsvektoren möglichst zentral schneiden.
Wenn v nicht symmetrisch ist und der Gewichtsvektor nicht zentral liegt – langsame Konvergenz

MaxMin Margin:
Für jeden Datenpunkt berechne den Rand m+ und m- nach potentieller Teilung in v+ bzw. v-
Abfragen der Instanz : arg max min(m+, m-)

Ratio Margin:
Für jeden Datenpunkt berechne den Rand m+ und m- nach potentieller Teilung in v+ bzw. v-
Abfragen der Instanz : arg max min(m-/m+ , m+/m-)

Question 10

Vor-/Nachteile Aktive SVM

Answer 10

Vorteile

• Anwendbar wenn SVM anwendbar
• Klar formuliertes mathematisches Rahmenwerk
• Berechnung des Randes jeweils nach Trainieren der SVM möglich
• Praktische Ergebnisse zeigen, dass aktive SVM besser als passive SVM

Nachteile
* MinMax und Ratio sind aufwändig in der Berechnung