College 5: Connectionisme Flashcards
Het connectionisme is een versie van
Het fysicalisme
Wat is connectionisme?
Een alternatief voor de klassieke seriële, stapsgewijze, regelgeleide kijk op intelligentie & informatieverwerking
Wat was het plan van de connectionisten?
Ze stellen dat ons brein een neuraal netwerk is, en dat als we een kunstmatig brein willen maken, dat we dan zo dicht mogelijk bij de architectuur van het brein moeten blijven als dat kan.
Units (connectionistisch netwerk)
Units zijn de AI “neuronen”, ze ontvangen input en verzenden output
Weights (connectionistisch netwerk)
De sterkte van output die een unit verzendt (gerelateerd aan een bepaalde input) is telkens anders: dit noemt met the weight (die kan zowel remmend als stimulerend zijn)
Connectionistisch netwerk verdeling
Parallel
Parallel
Elke unit kan in principe met elke andere unit verbonden worden
(oplossing voor schade gevoeligheid van serieel netwerk)
Connectionistisch netwerk bestaat uit
Input units - hidden units - output units
Laag van hidden units, functie
hierin wordt de input geïnterpreteerd en doorgestuurd naar de output units
Laag van output units, functie
Hierin wordt onderscheid gemaakt tussen de verschillende uitkomsten en kan je de informatie aflezen
Betekenis drempelwaarde van bijvoorbeeld 2.0
O wordt pas actief als hij van beide units input krijgt
Eenvoudig netwerk
2 input units, 1 output unit
Connectionistisch netwerk maken
Stap 1: de sterkte van de frequenties bepalen
Stap 2: voer dit in een PDP netwerk in
Stap 3: het systeem trainen (via backpropagation)
Backpropagation
Steeds iets aanpassen, kijken naar het effect op de uitkomst. Is het effect een vooruitgang richting de gewilde uitkomst? Dan houd je deze aanpassing. Is het geen vooruitgang dan doe je weer een stapje terug en probeer je weer iets anders.
–> We weten niet waarom dit het juiste antwoord is
Gradient descent learning
Dat het stapje voor stapje verloopt