College 5: Connectionisme Flashcards
Het connectionisme is een versie van
Het fysicalisme
Wat is connectionisme?
Een alternatief voor de klassieke seriële, stapsgewijze, regelgeleide kijk op intelligentie & informatieverwerking
Wat was het plan van de connectionisten?
Ze stellen dat ons brein een neuraal netwerk is, en dat als we een kunstmatig brein willen maken, dat we dan zo dicht mogelijk bij de architectuur van het brein moeten blijven als dat kan.
Units (connectionistisch netwerk)
Units zijn de AI “neuronen”, ze ontvangen input en verzenden output
Weights (connectionistisch netwerk)
De sterkte van output die een unit verzendt (gerelateerd aan een bepaalde input) is telkens anders: dit noemt met the weight (die kan zowel remmend als stimulerend zijn)
Connectionistisch netwerk verdeling
Parallel
Parallel
Elke unit kan in principe met elke andere unit verbonden worden
(oplossing voor schade gevoeligheid van serieel netwerk)
Connectionistisch netwerk bestaat uit
Input units - hidden units - output units
Laag van hidden units, functie
hierin wordt de input geïnterpreteerd en doorgestuurd naar de output units
Laag van output units, functie
Hierin wordt onderscheid gemaakt tussen de verschillende uitkomsten en kan je de informatie aflezen
Betekenis drempelwaarde van bijvoorbeeld 2.0
O wordt pas actief als hij van beide units input krijgt
Eenvoudig netwerk
2 input units, 1 output unit
Connectionistisch netwerk maken
Stap 1: de sterkte van de frequenties bepalen
Stap 2: voer dit in een PDP netwerk in
Stap 3: het systeem trainen (via backpropagation)
Backpropagation
Steeds iets aanpassen, kijken naar het effect op de uitkomst. Is het effect een vooruitgang richting de gewilde uitkomst? Dan houd je deze aanpassing. Is het geen vooruitgang dan doe je weer een stapje terug en probeer je weer iets anders.
–> We weten niet waarom dit het juiste antwoord is
Gradient descent learning
Dat het stapje voor stapje verloopt
Speelt geheugen een rol in de goede werking van het systeem?
Nee, de gezichtsherkenning werkte ook super goed bij het gebruiken van verschillende foto’s
Probleem
Snapshot reasoning
Snapshot reasoning
Tijd is uit het model gelaten.
Oplossing snapshot reasoning
Recurrent pathways,
Het model kan rekening houden met de input zelf en met de eerder gegeven input, een soort korte termijn geheugen
Goede dingen aan het connectionisme
Het is biologisch realistischer dan functionalisme
- Economische manier van representeren
- Schade tolerantie
- Patroonafmaking
- Gratis generalisatie
Economische manier van representeren
Je kan dezelfde units en verbindingen gebruiken om vele representaties op te slaan/te activeren
Schade tolerantie
Doordat het systeem parallel is en niet serieel kan je wel een unit missen en dan toch nog de juiste output verkrijgen
Graceful degradation
Het systeem gaat slechts langzaamaan stuk; het heeft dus een hoge tolerantie voor schade (damage tolerance).
Patroonafmaking
Zelfs als de input niet compleet is, is de output vaak toch nog wel correct,
patronen worden dus afgemaakt.
Gratis generalisatie
Als je een input A2 hebt, die lijkt op input A1, dan kan je adequaat handelen, zelfs als de situatie de facto nieuw is:
Problemen connectionisme
- Representaties in het brein
- Therapie
Representaties in het brein
Als representaties in het brein gedistribueerd (verdeeld) zijn, kunnen we dus niet langer zien als discrete entiteiten.
Dit houdt in dat propositionele attituden in de klassieke zin niet bestaan, want die worden als discrete entiteiten gezien.
Therapie
Wat probeer je bij therapie te veranderen? Het brein?
Je kan niet een ding veranderen zonder daar andere dingen mee te veranderen
Conclusie connectionisme
Connectionisme is dus biologisch realistischer dan klassieke AI / functionalisme
