Comment savoir ce qu'un grand modèle de langage (LLM) fait vraiment lorsqu'il prédit le mot suivant dans une phrase ? Des chercheurs ont découvert qu'en utilisant l'IA explicable (XAI) pour mettre en évidence les mots les plus importants pour les prédictions, ils peuvent également cartographier ces explications sur l'activité cérébrale, suggérant un lien plus profond entre la façon dont les machines et les cerveaux traitent le langage.
La recherche
Maryam Rahimi, Mohammad Reza Daliri et Yadollah Yaghoobzadeh de l'Université des sciences et technologies d'Iran et de l'Université de Téhéran ont mené cette étude. Ils ont utilisé plusieurs LLM, dont une version de GPT-2, et appliqué des méthodes d'attribution, qui mesurent la contribution de chaque mot à la prédiction du modèle, pour générer des « explications » pour chaque mot d'entrée. Ils ont ensuite comparé ces explications aux données d'IRMf de participants qui écoutaient des histoires narratives, en s'appuyant sur des ensembles de données publiquement disponibles, tels que ceux de l'Université de Californie à Berkeley et de l'Université de Princeton.
L'équipe a constaté que les méthodes d'attribution basées sur le gradient, qui calculent la sensibilité de la prédiction à chaque mot, s'alignaient de manière robuste sur l'activité cérébrale dans un large réseau de régions liées au langage. Ces explications apportaient une variance unique au-delà des caractéristiques acoustiques et de débit de parole simples, ce qui signifie qu'elles capturaient quelque chose d'extra que les propriétés de base de la parole ne pouvaient pas. Notamment, dans le cortex auditif précoce, le stade initial de l'audition, ces attributions surpassaient les représentations internes du modèle, qui sont généralement utilisées pour mesurer l'alignement cérébral.
En utilisant une technique appelée conductance, les chercheurs ont étendu l'analyse aux couches individuelles du modèle. Ils ont découvert que les couches précoces montraient une plus grande sensibilité au type de mot (par exemple, noms versus verbes) et s'alignaient préférentiellement avec les régions auditives, tandis que les attributions de la dernière couche étaient dominées par des informations positionnelles et montraient un alignement cortical étendu. Cela suggère que différentes couches du modèle utilisent différents types d'informations, et que le cerveau peut les intégrer d'une manière qui correspond au calcul global du modèle.
Pourquoi c'est important
Cette recherche offre une nouvelle façon d'interpréter ce que font les LLM en interne, ce qui peut aider à améliorer la transparence et la confiance dans l'IA. Elle fournit également un pont entre le traitement du langage artificiel et humain : en voyant quelles explications s'alignent le mieux avec l'activité cérébrale, nous obtenons un aperçu des calculs qui sous-tendent la compréhension humaine. Pour toute personne curieuse de sa propre cognition, elle souligne que la compréhension du langage n'est pas un processus unique mais une superposition, combinant le son, le sens et le contexte.
Ce que vous pouvez faire
Vous pouvez renforcer votre propre traitement du langage en pratiquant l'écoute active et la lecture. Essayez de prédire ce qui va suivre dans une conversation ou une histoire, et remarquez quels mots portent le plus de poids. Les puzzles comme les mots croisés ou les jeux de mots peuvent également aiguiser la capacité de votre cerveau à peser rapidement différents types d'informations.
Source : arXiv q-bio.NC
Curieux de votre propre cerveau ? Passez notre test de QI adaptatif gratuit ou essayez 306 niveaux d'entraînement cérébral.
