Les grands modèles de langage (LLM) montrent un effet de conflit classique de type Stroop, opposant les habitudes automatiques au contrôle basé sur des règles.
La recherche
Dirigés par Chandra Sripada à l'Université du Michigan, des chercheurs ont testé sept LLM sur une nouvelle tâche de conflit verbal. La consigne demandait un mot opposé à un nom de couleur, mais le modèle avait une forte tendance par défaut à dire la même couleur. Dans les essais congruents, la règle correspondait au défaut (par exemple, dire « rouge » quand le mot est « rouge ») ; dans les essais incongruents, ils étaient en conflit (par exemple, dire « bleu » quand le mot est « rouge »). Les résultats ont montré que six des sept modèles présentaient de forts effets de congruence — des réponses plus lentes ou moins précises lorsque la règle et l'habitude étaient en désaccord — reflétant les performances humaines à la tâche de Stroop. L'équipe a utilisé l'attribution causale, l'analyse de l'attention et l'ablation pour identifier deux voies : une attention à courte portée sur le mot de couleur (favorisant les essais congruents) et une attention à longue portée sur le préfixe de la règle (favorisant les essais incongruents). Le fine-tuning pour renforcer l'habitude par défaut a réduit les performances incongruentes mais amélioré les performances congruentes, tandis que l'augmentation de la taille de l'ensemble de règles a nuit sélectivement aux essais incongruents.
Pourquoi c'est important
Cette recherche fait le lien entre la psychologie cognitive et l'intelligence artificielle, montrant que les LLM peuvent servir de systèmes modèles pour étudier comment le cerveau résout les conflits entre réponses automatiques et contrôlées. Les résultats suggèrent que les effets de congruence — longtemps étudiés chez l'humain — pourraient résulter d'une compétition entre deux mappages appris : l'un dans les poids (par défaut) et l'autre dans le contexte (basé sur des règles). Pour votre propre cognition, cela souligne que les habitudes et les règles sont souvent en compétition, et renforcer l'une peut affaiblir l'autre. Comprendre cet équilibre peut vous aider à concevoir de meilleures stratégies pour apprendre de nouvelles compétences ou abandonner d'anciennes.
Ce que vous pouvez faire
- Pratiquez des tâches qui nécessitent de passer outre les réponses automatiques, comme dire la couleur de l'encre plutôt que de lire le mot.
- Lorsque vous apprenez une nouvelle règle, sachez que vos habitudes par défaut peuvent interférer ; une pratique supplémentaire peut aider la nouvelle règle à rivaliser.
- Utilisez des jeux d'entraînement cérébral qui stimulent l'inhibition et la flexibilité cognitive pour renforcer votre contrôle mental.
Source : arXiv q-bio.NC
Curieux de connaître votre propre cerveau ? Passez notre test de QI adaptatif gratuit ou essayez 306 niveaux d'entraînement cérébral.