WY1 - Perceptron

Question 1

Czym jest klasyfikacja binarna

Answer 1

przypisanie obiektów do jednej z 2 klas

Question 2

Czym są dane treningowe klasyfikacji binarnej

Answer 2

zbiór n przypadków x1, x2, . . . , xn, każdy
przypisany do jednego z dwóch zbiorów P (positive) lub N (negative)

Question 3

Czym jest uczenie klasyfikacji binarnej

Answer 3

procedura doboru wag w i wartości progowej w0 tak
aby perceptron zwracał wartość 1 dla wszystkich xi ze zbioru
P, zaś wartość 0 dla wszystkich xi ∈ N

Question 4

Uczenie perceptronu - idea

Answer 4

Niech x należy do zbioru P. Jeżeli perceptron popełnia błąd to ∑wixi + w0 < 0

Jak zmienić w i w0 aby zniwelować błąd?

• zwiększyć w0
• jeśli xi > 0 to
  zwiększyć wi
• jeżeli xi < 0 to
  zmniejszyć wi

Question 5

Definicja algorytmu kieszeniowego

Answer 5

uczenie perceptronu z zapamiętaniem wag dla których popełniono najmniej błędów

Question 6

Definicja algorytmu kieszeniowego z zapadką

Answer 6

modyfikacja algorytmu kieszeniowego, gdzie zapamiętywany jest zwycięzca tylko wtedy, gdy klasyfikuje poprawnie więcej przypadków treningowych

Question 7

Jakie problem potrafi rozwiązać perceptron binarny

Answer 7

Perceptron binarny potrafi rozwiązać wyłącznie problemy
liniowo separowalne

Question 8

Ile potrzeba perceptronów aby rozwiązać problem XOR?

Answer 8

Problem XOR można rozwiązać za pomocą 2 perceptronów
prostych

Question 9

Jakie są funkcje aktywacji?

Answer 9

identyczność
f (x) = x f 0
(x) = 1

funkcja liniowa - nieograniczona f (x) ∈ R
f (x) = ax + b
f’ (x) = a

progowa unipolarna (sigmoidalna) - nieciągła, nieróżniczkowalna
f (x) =
1, gdy x ≥ a
0, gdy x < a

progowa bipolarna (tangens hiperboliczny)
f (x) =
1, gdy x ≥ a
−1, gdy x < a

ReLU (Rectified Linear Unit) - fragmentami ciągła, brak
pochodnej w 0
f (x) = max(0, x) =
x, gdy x ≥ 0
0, gdy x < 0

f’ (x) =
1, gdy x > 0
0, gdy x < 0