Cours 11 - Modèles connexionnistes Flashcards
Origine
Selon Aristote:
384-322 JC
- Connaissance = association entre perceptions
- Complexification = réseaux associations
Origine
Turing propose quoi?
Machine universelle = réseaux unités traitement inspiré par neurones
Origine
Les opérations logique simples de Turing forment quoi?
Substrat cognition et peuvent être réalisés en format neuronal
Origine
Connexionnisme dans les années 1950:
- Tout expliquer par cognition (arrogance)
- Pas outils maths pour apprendre problème non-linéaires
Origine
Connexionnisme années 1970:
- Travaux concentrés sur perception & mémorisation
- Pionnier: Anderson, Kohonen, Rumelhart
Origine
Quand le connexionnisme revient en force?
1986 = Publication Parallel Distributed Processing
* variété architecture
* règles apprentissages complexes
* cadre théorique général
Impact publication = changement psycho
Origine
Connexionnisme après 1986:
- Présent congrès, départements
- Considéré comme changement paradigme
Origine
Validation du connexionnisme:
- Culturelle (ex: film)
- De masse –> technologies
Réseaux neurones
C’est quoi un réseaux?
= unités simples branchées entre elles
Réseaux neurones
Propriétés réseaux:
- Traitement info parallèle & distribué = fonctionne mieux
- Apprentissage continu & adaptation env = entrainement & règles
- Tolérance bruit = perte connexions/unité mais fct toujours
- Plausibilité biologique = compatible avec cerveau
Réseaux neurones
Élément des réseaux:
- Unité
- Connexion
- Topologie = organisation connexion
- Règles apprentissages
Réseaux neurones
Est-ce que les règles sont obligatoires?
Non –> optionnelles
Réseaux neurones
Unité:
- Intégration linéaire = neurone idéalisé
- Fonction sigmoïde/logistique
Réseaux neurones
Étapes unité:
- Sommation intrants = somme input
- Activation = f(x)
- Propagation
Réseaux neurones
Connexion:
- Élément nécessaire
- Multiplicateur activation = stimuler ou inhiber
Réseaux neurones
2 aspects importants connexion:
- Direction = uni/ bidirectionnel
- Valence = positif/négatif
Réseaux neurones
Organisation de base des connexions:
Unité branchées entre elles et se stimulent
* Intrant net = net(𝒾) = ∑w(𝒾𝒿j)a(𝒿)
Réseaux neurones
Topologies:
- Auto-association = traitement image
- Satisfaction contraintes (Hopfield)
Réseaux neurones
C’est quoi perceptron?
Machine capable représenter combinaison linéraire
* Matrice connexion
* Réseaux multi –> unité cachée
* Cascade-corrélation = générative
Règles apprentissage
Buts des règles:
Changer valeur des connexions = améliorer performance réseau
* Calcul règle Δω
Règles apprentissage
Loi Hebb:
= deux neurones renforce connexion
* Δω=𝛌a₁a₂
* Avantage: plausibilité (renforcer)
* Désavantage: limitée (pas apprendre plus)
Règles apprentissage
Règle delta
Widrow-Hoff
- Modification Hebb
- Apprentissage cible
- Δω=𝛌(c-a₁)a₂
- Avantage: plausibilité
- Désavantage: limitée
Applications et utilité
Pourquoi simuler processus psycho avec réseaux?
- Rigueur & précision
- Cadre théorique = général
- Comparaison modèles
- Prédictions
- Consédiration éthique & pratiques
Applications et utilité
Applications industrielle:
- Analyse et exploration données
- Perception (ex: poste, empreintes, reconnaissance voix)
Applications et utilité
En psychologie:
- Perception (modèle vision, audio)
- Mémoire = modèles MCT, MLT
- Catégorisation
- Langage
- Cognition haut niveau (analogie, raisonnement)
- Apprentissage & dev
Applications et utilité
Avantages comparé IA:
- Vrai apprentissage
- Robuste
- Rapide
- Système compact
- Perception
- Indépendant données
- Plausibilité
Inspiré par cerveau vs IA
Applications et utilité
Désavantages comparé à IA:
- Représentation implicites
- Langage
- Tâche sérielle
Cognition chez bébé
Difficulté étude bébé:
- Langage & compréhension
Cognition chez bébé
Inférences des représentations cognitives:
- Mm niveau attention = pareil
- Nouveauté = regain attention
Cognition chez bébé
C’est quoi Violation des Attentes (VdA)
= variante métho habituation pour étudier capacités cognitives complexes
* Niveau base intéret & montrer éléments viole concept étude
* Bébé regarder + longtemps violations = aiment nouveauté conceptuelle
Cognition chez bébé
Problème découverte habileté complexes chez bébé:
ex: permanence, physique, langage, nb, causalité, cognition sociale
Cognition chez bébé
Problème général:
Explication plus simples empêche pas réalité compliquée
* Besoin autres critères pour VdA = peu progrès compréhension bébé
Cognition chez bébé
Contreverse courante:
Connaissance innée vs processus perceptuel, métho, disparition connaissances
Cognition chez bébé
Comportements à reproduire avec Modèle habituation HAB:
- Traitement temporel
- Diminution exponentielle
- Préférence familiarité vs nouveauté
- Habituation de déshabituation
- Discriminer items
Cognition chez bébé
Systèmes neuronaux modèle HAB:
- Hippocampe (novelty) = inhibition sélective stimuli familiers
- Sous-corticales-cortical (Cortical) = souvenirs MCT-MLT
Situer le modèle
Situation:
on s’en fou
Début: regarder choses prévisibles
Résultat: avec apprentissage moteur
Situer le modèle
Détails de la simulation:
- 10 robots 2 conditions
- Montrer paires stimuli
- Robots 10 réponses motrices
- Mesure orientation stimulus nouveau vs familier
Situer le modèle
Résultats robots matures vs immature:
- HAB explique mieux données qu’autres modèle habituation
- Contrôle moteur Hebb améliore performance (complexe, actif)
- Maturation –> immature
Validation HAB
Prédiction:
= 1st regard amorce préférence nouveauté (priming)
Validation HAB
Procédure:
Bébé 20 paires stimuli 10s
* + long deuxième regard nouveau si regardé familier en premier
Validation HAB
Résultat:
- Prédiction neurocomputationnelle vérifiée 5 mois = priming
- Disparition 6 mois
- Pas première validation HAB
- Ils ont volé la gloire de Sylvain en stoemelings
Données VdA récentes
Quelle crise arrive en psycho?
Crise réplicabilité étude aussi sur dev
* Réplicabilité explique pas effets observés
Données VdA récentes
Récentes VdA:
Bébé apprendre régularité sans comprendre?
Passe étude Sylvain pcq c’est trop
Pupillométrie
Conclusion:
- Bébé surpris pas évènement possible
- Surprise modulée par caractéristique perceptuelle familières
Conclusion
ADN:
Générer plus connexions que requis
* Biais innée PAS connaissance innées
* ex: faux cpt sociaux
Conclusion
Mettre accent sur quoi?
Mécanisme & processus vs innés/acquis
Super
