Cours 11 Flashcards
Quelles sont les origines philosophiques du connexionnisme?
- Aristote (384-322 avJC)
- Connaissance = associations entre perceptions (ou sensations que nous recevons de l’environnement)
- Éventuellement, associations entre associations
- Généralement, connaissances comme réseau d’associations
Qu’est-ce qu’Alan Mathison Turing a proposé?
- A proposé d’étudier sa machine universelle en réseau d’unités de traitement inspiré par les neurones (Turing, 1950)
- Les opérations logiques simples qui forment le substrat de la cognition peuvent être réalisées en format neuronal
Comment se manifeste le connexionnisme durant les années 1950-1960?
- Ambitions et arrogance similaires à l’IA.
- « On va expliquer toute la cognition »
- Cul-de-sac à la fin des années 60
- Pas d’outils mathématiques pour apprendre les problèmes non-linéaires (un problème qui nécessite plus qu’une ligne pour le résoudre, comme A ou B et non A et B)
- Livre marteau de Minsky et Papert (1969)
- Pas d’outils mathématiques pour apprendre les problèmes non-linéaires (un problème qui nécessite plus qu’une ligne pour le résoudre, comme A ou B et non A et B)
Comment se manifeste le connexionnisme durant les années 1970?
- Plus… discret
- Travaux concentrés autour de perception/mémorisation
Qui sont les pionniers du connexionnisme des années 1970?
Anderson, Kohonen et Rumelhart
Comment le connexionnisme fait en retour en force en 1986?
- Publication des volumes « Parallel Distributed Processing » par Rumelhart, McClelland et collègues.
- Variétés d’architectures
- Règles d’apprentissage sophistiquées
- Dont backprop (Werbos, 1974)
- Cadre théorique général pour l’étude de la cognition
Comment se manifeste le connexionnisme depuis 1986?
- Dans (presque) tous les congrès sur la cognition
- Dans (presque) tous les périodiques sur la cognition
- Dans (presque) tous les départements de psychologie
- Considéré par certaines comme un changement de paradigme (e. g. Schneider, 1987)
Quelles sont les propriétés importantes d’un réseau de neurones?
- Constitués d’unités simples branchées entre elles.
- Traitement d’information parallèle et distribué
- Apprentissage continu et adaptation à l’environnement (optionnel)
- Tolérance au bruit et robustesse
- Plausibilité biologique
Quels sont les éléments importants d’un réseau de neurones?
- Unités
- Connexions
- Topologies
- Règles d’apprentissage (optionnelles)
–> Pour que le modèle s’adapte à l’environnement
Qu’est-ce que l’unité dans un réseau de neurones?
- L’unité est généralement un intégrateur linéaire
- Neurone idéalisé
Quelles sont les trois étapes de fonctionnement d’un neurone?
- Sommation de ses intrants
- Activation
- Propagation
Quelle fonction (mathématiques) représente un réseau de neurones?
- Fonction sigmoïde ou logistique
Qu’est-ce que la connexion dans un réseau de neurone?
- Multiplicateur d’activation
- Amplification/Atténuation du signal
Quels sont les aspects importants de la connexion?
- Direction
- Unidirectionnelle
- Bidirectionnelle
- Valence
- Positive (stimulation)
- Négative (inhibition)
Quelle est l’organisation de base d’un réseau de neurone?
- Unités branchées entre elles et se stimulant les unes les autres
- Intrant net d’une unité de donnée
Qu’est-ce qu’un réseau auto-associateur?
Diapo 20.
À quoi peuvent servir les réseaux de type Hopfield?
Satisfaction de contraintes
Qu’est-ce qu’un perceptron?
- Peut représenter toute combinaison linéaire de l’intrant (X) à la sortie (Y)
- Il existe une matrice de valeurs de connexion B pour toute relation Y = BX
Qu’est-ce que que la « multi-layered feedforward architecture with error backpropagation »
Couche intermédiaire entre une stimulation et une réponse
Quel est le but des règles d’apprentissage?
- Les règles d’apprentissage sont utilisées pour modifier la valeur des connections
- Améliorer la performance du réseau
- Généralement, une règle calcule une valeur delta, soit la modification à apporter à une connexion donnée.
Qu’est-ce que la règle hebbienne?
- Notion introduite par D. O. Hebb (1949)
- Si deux neurones branchés l’un à l’autre sont conjointement actifs, leur connexion sera renforcée.
- Calcul simple : (pas du tout)
Quel est l’avantage et le désavantage d’une règle hebbienne?
- Avantage : plausibilité
- Désavantage : utilité limitée
Qu’est-ce que la règle delta (ou Widrow-Hoff)?
- Modification de la règle hebbienne
- Notion de cible : apprentissage supervisée
- Calcul simple (pas du tout)
Quel est l’avantage et le désavantage de la règle delta?
- Avantage : plausibilité
- Désavantage : utilité limitée
Pourquoi simuler des processus psychologiques avec des réseaux neuronaux?
- Rigueur et précision
- Cadre théorique indépendant des données
- Comparaison de modèles
- Prédictions nouvelles
- Considérations pratiques et éthiques
Quelles sont les applications industrielles?
- Analyse et exploration de données
- Exemples : marchés financiers, météo
- Perception
- Exemples : codes postaux, empreintes digitales, reconnaissance de la voix, contrôle de la qualité
Que comprend la psychologie des réseaux neuronaux?
- Perception
- modèles en vision, audition
- Mémoire
- modèles de mémoire sensorielle, MCT, MLT
- Catégorisation
- Langage
- production (e. g., NetTalk, syntaxe
- Cognition de « haut niveau »
- analogie, raisonnement, dissonance
- Apprentissage et développement
Quels sont les avantages d’un réseau de neurones comparés à IA (symbolique)?
- Véritable apprentissage (et développement)
- Robustesse
- Rapidité
- Systèmes compacts
- Perception
- Indépendants des données
- Plausibilité (variable)
Quels sont les désavantages d’un réseau de neurones comparés à IA?
- Représentations implicites
- Langage
- Tâches sérielles
Qu’est-ce qu’une Violation des Attentes (VdA)? Comment l’utilise-t-on?
- Variante sur la méthode d’habituation pour étudier les capacités cognitives complexes
- Obtenir un niveau de base d’intérêt (pas toujours)
- Montrer des événements qui violent un concept à l’étude
- Comparer avec événements plausibles qui sont perceptuellement plus nouveaux
- Quand les bébés regardent relativement plus longtemps les violations, on considère qu’ils apprécient la nouveauté conceptuelle, comparé à nouveauté perceptuelle
Quelles sont les découvertes d’habiletés cognitives complexes chez le bébé…
- Permanence de l’objet
- Physique
- Nombre
- Langage
- Causalité
- Cognition sociale (incluant la théorie de l’esprit)
Quelles réponses furieuses ont été mené par la découverte d’habiletés complexes chez le bébé?
- Processus perceptuels (Haith, 1998)
- nouveauté, familiarité, saillance, et différence
- Propriétés des tâches
- Quand toutes les variables sont considérées, les différences “ conceptuelles “ n’expliquent pas les données
- Y avait-il habituation? (Cohen, 2004)
- Ou est-ce que ces tâches capitalisent sur la préférence à la nouveauté?
- Parasites méthodologiques (Sirois & Jackson, 2007)
- Le schème expérimental typique VdA est fautif (variables confondues)
Quel problème général découle des découvertes d’habiletés chez le bébé?
- Les explications plus simples n’empêchent pas que la réalité soit plus compliquée.
- La parcimonie n’est qu’un principe noble
- N’implique aucune nécessité inhérente
- La parcimonie n’est qu’un principe noble
- Besoin de d’autres critères pour comprendre les tâches VdA
- Les débats sur l’interprétation appropriée de l’habituation en VdA ont permis peu de progrès dans la compréhension de ce que les bébés font
- Que ce soit conceptuel ou perceptuel ne suffit pas
- Les débats sur l’interprétation appropriée de l’habituation en VdA ont permis peu de progrès dans la compréhension de ce que les bébés font
Quelle est la controverse courante? Quelle besoin cela apporte?
- Connaissances innées
- Biologie, physique, langage, nombre…
VS
- Processus perceptuels
- Nouveauté, familiarité, saillance et différence
- Apprentissage
- Problèmes méthodologiques
- Connaissances qui disparaissent
= Besoin d’un modèle mécanique
Quels sont les comportements clés à reproduire?
- Diminution exponentielle
- Traitement temporel
- Préférences familiarité –> nouveauté (préfère plus tard)
- Habituation de la déshabituation
- Discrimination des items
Quels sont les systèmes neuronaux clés?
- Inhibition sélective dans l’hippocampe
- Interactions ous-corticales-corticales (c-à-d, MCT, MLT)
Qu’est-ce que les modèles reproduisent au niveau des performances des bébés?
- Tâches habituation génériques
- Regard préférentiel
- Catégorisation
Quels sont les travaux initiaux de Sirois (2005)?
- HAB standard
- Apprentissage limité au modèle d’habituation
- Hippocampe:
- Cortex:
- Unités de sortie contrôlent moteurs du robot
- Apprentissage limité au modèle d’habituation
- Version Hebbienne
- Réseau de neurones simple entre sortie et moteurs
- Connexions initiales aléatoires
- Apprentissage hebbien avec déchéance
- Réseau de neurones simple entre sortie et moteurs
Comment se déroule la simulation avec des robots?
- 10 robots dans chaque condition (mature, immature)
- Chaque robot a un modèle HAB “frais” et connections motrices aléatoires
- Chaque paire de stimuli montrée chaque fois dans 10 blocs d’apprentissage
- Robots font 10 réponses motrices par essai
- Essais commencent avec robot qui regarde au centre
- Mesure dépendante: orientation au stimulus “nouveau” vs “familier”
Quels sont les résultats principaux de la simulation avec des robots?
- HAB ‘survit’ extension incarnée, située
- Modèle viable dans un contexte ‘naturel’
- Passage progressif d’une préférence de familiarité à nouveauté
- Modèle viable dans un contexte ‘naturel’
- Le contrôle moteur Hebbien améliore la performance
- Préférence à la nouveauté plus forte, fiable
Quels sont les effets de la maturation dans la simulation avec robots?
- Manipuler les paramètres pertinents produit des changements consistants avec l’âge
- i.e., début et amplitude de la préférence à la familiarité
- Effet observé en absence d’expérience antérieure
- Pas tous les changements observés chez le bébé nécessairement fonction de l’apprentissage ou du développement
Quelles sont les conclusions sur simulations?
- HAB explique mieux les données empiriques que n’importe quel autre modèle de l’habituation
- Comportements clés
- Consistant (de nature) avec neurosciences
- Contrôle moteur Hebbien illustre les bénéfices d’une approche mécaniste, systémique
- Comportement généralement plus complexe que modèles simplistes
- Par contre, une approche éduquée pour améliorer les modèles peut avoir un impact important sur la performance
- Ici: éduquée par neurosciences
- Apprentissage/développement comme processus actif
Quelle est la prédiction de la validation empirique de HAB?
Lors de présentation visuelle en paire, un premier regard au stimulus familier devrait augmenter le premier regard au stimulus nouveau
Le familier rend le nouveau plus saillant
PRIMING à la nouveauté
Quelle est la procédure pour la validation empirique de HAB?
- Bébés regardent 20 paires de stimuli, chaque paire pour 10s
- Un stimulus est constant dans toutes les paires (ci-après le stimulus familier, relatif aux stimuli “nouveaux”)
- Lors d’essais particuliers, on s’intéresse à l’effet du premier regard sur le second
- Si familier en premier, alors premier regard au nouveau devrait être plus long que si tout premier regard au nouveau
Quel est le critère d’habituation dans la validation empirique de HAB?
- Référence: durée moyenne des 3 premiers essais
- Critère: 50% réduction de moyenne de 3 essais consécutifs, relatif à référence
- 5 mois: 11 sur 23 (47.8%)
- Essai moyen (ÉT): 14.1 (4.81)
- 6 mois: 14 sur 21 (66.6%)
- Essai moyen (ÉT): 11.1 (4.07)
Quelles sont les conclusions de la validation empirique de HAB?
- Prédiction neurocomputationelle unique vérifiée chez bébés de 5 mois
- Durée du premier regard au stimulus nouveau est fonction de quel stimulus est regardé en premier
- Priming!
- Durée du premier regard au stimulus nouveau est fonction de quel stimulus est regardé en premier
- Importance de l’effet pour les tâches qui montrent un effet d’ordre
- Pas la première validation empirique d’HAB
- La première a été rapportée 15 minutes
auparavant- Scoop!
- Mather, Schafer, & Houston-Price (2006)
- Vérifié la prédiction d’une inversion familiarité – nouveauté à l’intérieur d’essais
- Micro-analyse
- Vérifié la prédiction d’une inversion familiarité – nouveauté à l’intérieur d’essais
Qu’est-ce que la crise de réplicabilité en psychologie?
- Catastrophe (2015): sur 100 études publiées, moins de 40% sont réplicables
- La catastrophe, elle, est réplicable!
- En 2018, un autre projet multilab reproduit à peine 50% des 28 études qu’il réplique
- S’applique aussi à l’étude du développement
Comment des précédentes données sur la théorie de l’esprit chez le bébé manque de robustesse?
- Si 20 études reproduisent un effet en théorie de l’esprit chez le bébé avec une tâche impliquant une boîte jaune?
- Yay! Bébé = théorie de l’esprit!
- Une nouvelle étude avec boîte bleue ne fonctionne pas
- Pas de théorie de l’esprit? Effet de la boîte jaune?
- Théorie de l’esprit, mais limitée aux boîtes jaunes?
- Échantillon malchanceux pour l’étude bleue?
- 19 études additionnelles avec méthode boîte bleue reproduisent la 1ère étude boîte bleue
- Donc, 20 pour VS 20 contre
- Conclusion: la réplicabilité n’explique pas les effets qu’on observe
- Et la robustesse des effets est importante pour les comprendre
Comment utiliser la violation des attentes avec les bébés?
- On familiarise des bébés à une/des version(s) plausible(s) du phénomène à l’étude
- On obtient une mesure du niveau de base de leur intérêt
- On leur montre des versions implausibles/familières ou plausibles/nouvelles du phénomène
- On compare l’intérêt relatif aux deux types d’événements tests
- Quand bébés sont plus intéressés par événements implausibles, on présume qu’ils les comprennent comme implausibles, justement
- Sinon, l’événement test plausible devrait être plus intéressant car perceptuellement nouveau
- Quand bébés sont plus intéressés par événements implausibles, on présume qu’ils les comprennent comme implausibles, justement
- On compare l’intérêt relatif aux deux types d’événements tests
Quelle question amène les données VdA récentes?
- Est-ce que les bébés peuvent apprendre des régularités statistiques durant la familiarisation, et réagir à des déviations dans la phase test sans nécessairement comprendre?
- Sinon, comment expliquer que les bébés mettent l’apprentissage à « off » quand ils sont dans un labo de psychologie…
Quelle est la réponse potentielle à la question concernant les données récentes en VdA?
- Si on habitue des bébés à des événements impossibles, et qu’ils réagissent ensuite à des événements possibles…
- Est-ce qu’ils comprennent que ça se peut?
- Si oui, pas très surprenant
- Est-ce qu’ils remarquent le changement?
- Si oui, surprenant
- Surprenant sans comprendre?
- Pourquoi pas?
- Surprenant sans comprendre?
- Si oui, surprenant
- Est-ce qu’ils comprennent que ça se peut?
Avec qui/quoi a été réalisée l’étude de Jackson et Sirois (2022)?
- Participant-e-s
- 24 bébés (14 ♂, 10 ♀)
- Âge moyen 9 mois, 3 jours (É-T 24 jours)
- 15 bébés additionnels testés incomplet (pleurs, inconfort)
- 5 bébés additionnels complété mais sans données de regard à un (ou plus) essai test
- 24 bébés (14 ♂, 10 ♀)
- Appareils
- Traqueur oculaire Tobii x50
- Ordinateur, chaise haute…
Quelle est la procédure de l’étude de Jackson et Sirois (2022)?
- Calibration
- 6 essais familiarisation impossible
- Rouge -> vert
- Vert -> rouge
- 4 essais test
- Possibilité (oui/non) x Familiarité (oui/non)
- Familiarité: vert/rouge vs bleu
- Possibilité (oui/non) x Familiarité (oui/non)
Quels sont les résultats de l’étude de Jackson et Sirois (2022)?
- Temps de regard
- Effet quadratique (essais F1-T4) et linéaire (T1-T4)
Qu’est-ce que nous montre la comparaison des conditions dans l’étude de Jackson et Sirois (2022)?
Pas d’interaction, pas d’effet de familiarité, mais effet de plausibilité
Quelles sont les conclusions de l’étude de Jackson et Sirois (2022)?
- Les bébés sont surpris par des événements possibles!
- Les comprennent-ils?
- Les temps de regard sont équivoques
- La pupillométrie est univoque
- La surprise au changement « conceptuel » est modulée par les caractéristiques perceptuelles apprises durant la familiarisation
- Au final, bébé = nono, mais avec espoir de s’en sortir grâce à l’apprentissage / développement
Pourquoi les bébés ne savent rien?
- Toutes les études peuvent être interprétées par processus simples
- Existence de modèles computationnels
cohérents avec données empiriques et neurosciences
Que permet la pupillométrie au niveau du peu de données probantes que nous retrouvons?
La pupillométrie, une bonne mesure de “charge cognitive”, invite aussi des interprétations plus modestes
Comment l’ADN nous trompe?
- 25-35K gènes
- Majorité impliqués dans choses plus importantes que connaissances innées
- i.e., produire et maintenir en vie un organisme jusqu’à sa reproduction
- Majorité impliqués dans choses plus importantes que connaissances innées
- Génome comme le plan le plus brouillon possible du cerveau
- 100+ milliard de neurones, centaines à millier de connexions chaque
- Besoin de compression extrême!
- 100+ milliard de neurones, centaines à millier de connexions chaque
Quel est le truc?
Générer plus de connexions que requis, et inclure des mécanismes qui capitalisent sur les interactions en lien avec l’activité (cellulaire, neuronale, corticale, and environnementale)
- Place pour biais innés, pas connaissances innées
- Par ex., regarder les visages
- En fait, trois blobs
- Crée une boucle d’interaction sociale
- Comportements précurseurs à cognition sociale n’utilisent pas les mêmes circuits (Povinelli, Prince, & Preuss, 2005)
- Bébés ont l’air sociaux, ce qui leur permet de le devenir
- En fait, trois blobs
- Par ex., regarder les visages
Comment les bébés deviennent des enfants adultes intelligents s’ils ne savent rien?
- Oublions inné/acquis
- L’inné, interagissant avec l’acquis, donne une trajectoire initiale dans l’espace cognitif
- Mettons l’accent, beaucoup plus intéressant, sur les mécanismes et les processus
- Voir aussi Westermann, Sirois, Mareschal, et Shultz (2006)