Une nouvelle étude révèle que les mises à jour internes de la mémoire de certains modèles d'IA - les transformateurs linéaires - sont mathématiquement identiques aux théories centenaires de l'apprentissage animal. Ce lien surprenant prédit le comportement de ces modèles et ouvre de nouvelles voies pour comprendre à la fois la cognition machine et humaine.
La recherche
Mu Qiao, chercheur dans une institution non divulguée, a publié un article sur arXiv (août 2025, v3 août 2026) montrant que les grandes familles d'attention linéaire implémentent des modèles nommés issus de la théorie classique de l'apprentissage. L'attention linéaire reflète la contiguïté hébbienne, DeltaNet implémente la correction d'erreur de Rescorla-Wagner, et les variantes à décroissance comme RetNet imitent la contiguïté avec une trace de stimulus. L'étude a trouvé une forme fermée exacte pour le blocage de Kamin - un phénomène où un apprentissage antérieur bloque de nouvelles associations - vérifié en simulation à moins de 10^-7 sur cinq taux d'apprentissage. Qiao a également prédit une dissociation : l'attention à correction d'erreur présente une compétition de signaux, tandis que l'attention basée sur la contiguïté n'en présente pas, et a validé cela empiriquement. De plus, la capacité à état unique évolue avec des exposants de 1,22 pour la récupération et 1,89 pour l'identification, et l'erreur de récupération dépend principalement de la taille totale de l'état, et non de la partition en têtes. L'étude a également prouvé l'absence de récupération spontanée pour les récurrences à état unique analysées lors d'essais de rétention orthogonaux aux signaux.
Pourquoi c'est important
Cette recherche fait le pont entre l'IA et la psychologie, montrant que des principes de l'apprentissage animal - comme la compétition de signaux - s'appliquent à la mémoire des machines. Pour votre cerveau, cela suggère que la façon dont nous apprenons des associations peut suivre des règles similaires, et comprendre cela peut vous aider à optimiser votre propre apprentissage. Les résultats impliquent également que les modèles d'IA, comme les humains, peuvent montrer des biais dans la façon dont ils forment des souvenirs, ce qui a des implications pour la confiance et l'équité dans l'IA.
Ce que vous pouvez faire
Pour tirer parti de ces idées, variez vos contextes d'apprentissage pour éviter la compétition de signaux, et espacez la pratique pour renforcer les associations. Pour les utilisateurs d'IA, soyez conscients que les modèles peuvent présenter des biais similaires au conditionnement humain.
Source : arXiv q-bio.NC
Curieux de votre propre cerveau ? Passez notre test de QI adaptatif gratuit ou essayez 306 niveaux d'entraînement cérébral.