Cours 11 - Modèles connexionnistes Flashcards
Origine
Selon Aristote:
384-322 JC
- Connaissance = association entre perceptions
- Complexification = réseaux associations
Origine
Turing propose quoi?
Machine universelle = réseaux unités traitement inspiré par neurones
Origine
Les opérations logique simples de Turing forment quoi?
Substrat cognition et peuvent être réalisés en format neuronal
Origine
Connexionnisme dans les années 1950:
- Tout expliquer par cognition (arrogance)
- Pas outils maths pour apprendre problème non-linéaires
Origine
Connexionnisme années 1970:
- Travaux concentrés sur perception & mémorisation
- Pionnier: Anderson, Kohonen, Rumelhart
Origine
Quand le connexionnisme revient en force?
1986 = Publication Parallel Distributed Processing
* variété architecture
* règles apprentissages complexes
* cadre théorique général
Impact publication = changement psycho
Origine
Connexionnisme après 1986:
- Présent congrès, départements
- Considéré comme changement paradigme
Origine
Validation du connexionnisme:
- Culturelle (ex: film)
- De masse –> technologies
Réseaux neurones
C’est quoi un réseaux?
= unités simples branchées entre elles
Réseaux neurones
Propriétés réseaux:
- Traitement info parallèle & distribué = fonctionne mieux
- Apprentissage continu & adaptation env = entrainement & règles
- Tolérance bruit = perte connexions/unité mais fct toujours
- Plausibilité biologique = compatible avec cerveau
Réseaux neurones
Élément des réseaux:
- Unité
- Connexion
- Topologie = organisation connexion
- Règles apprentissages
Réseaux neurones
Est-ce que les règles sont obligatoires?
Non –> optionnelles
Réseaux neurones
Unité:
- Intégration linéaire = neurone idéalisé
- Fonction sigmoïde/logistique
Réseaux neurones
Étapes unité:
- Sommation intrants = somme input
- Activation = f(x)
- Propagation
Réseaux neurones
Connexion:
- Élément nécessaire
- Multiplicateur activation = stimuler ou inhiber
Réseaux neurones
2 aspects importants connexion:
- Direction = uni/ bidirectionnel
- Valence = positif/négatif
Réseaux neurones
Organisation de base des connexions:
Unité branchées entre elles et se stimulent
* Intrant net = net(𝒾) = ∑w(𝒾𝒿j)a(𝒿)
Réseaux neurones
Topologies:
- Auto-association = traitement image
- Satisfaction contraintes (Hopfield)