Multiclass classification

Question 1

OVA

Answer 1

• Si allenano k classificatori
• Ogni classificatore vede tutto il training set
• Il classificatore i-esimo riceve tutti gli esempi della classe i con label positiva, tutti gli altri negativi
• Al tempo di test il classificatore che predice “positivo” vince
• Indirettamente ogni volta che la predizione è positiva, la classe i riceve un voto, se è negativa lo ricevono tutti gli altri
• I pareggi vengono sciolti casualmente, oppure vince quello con la maggior confidenza

Question 2

Differenza tra AVA e OVA, quanti classificatori ci sono in un caso e quanti nell’altro? Come faccio il train?

Answer 2

• AVA impara più classificatori, però vengono allenati su meno dati, quindi tende ad essere più veloce se le label sono equamente bilanciate
• Al tempo di test AVA è più lento perché ha più classificatori
• AVA allena data set bilanciati
• AVA ha più probabilità di errori perché più classificatori

Question 3

AVA

Answer 3

• Il classificatore riceve tutti gli esempi della classe i come positivi e tutti gli esempi della classe j come negativi
• al tempo di test, l’esempio viene processato da tutti i classificatori
• Ogni volta che Fij predice positivo, la classe i riceve un punto, altrimenti la classe j lo riceve
• Dopo aver passato tutti gli [K(K-1)]/2 classificatori la classe con più punti vince