¿Cómo podemos saber qué está haciendo realmente un gran modelo de lenguaje (LLM) cuando predice la siguiente palabra en una oración? Los investigadores han descubierto que, al utilizar IA explicable (XAI) para resaltar qué palabras son más importantes para las predicciones, también pueden mapear esas explicaciones en la actividad cerebral, lo que sugiere una conexión más profunda entre cómo las máquinas y los cerebros procesan el lenguaje.
La investigación
Maryam Rahimi, Mohammad Reza Daliri y Yadollah Yaghoobzadeh, de la Universidad de Ciencia y Tecnología de Irán y la Universidad de Teherán, llevaron a cabo este estudio. Utilizaron varios LLM, incluida una versión de GPT-2, y aplicaron métodos de atribución, que miden la contribución de cada palabra a la predicción del modelo, para generar 'explicaciones' para cada palabra de entrada. Luego compararon estas explicaciones con datos de fMRI de participantes que escucharon historias narrativas, basándose en conjuntos de datos disponibles públicamente, como los de la Universidad de California, Berkeley y la Universidad de Princeton.
El equipo encontró que los métodos de atribución basados en gradientes, que calculan qué tan sensible es la predicción a cada palabra, se alinearon de manera robusta con la actividad cerebral en una amplia red de regiones relacionadas con el lenguaje. Estas explicaciones contribuyeron con una varianza única más allá de las características acústicas simples y de la tasa de palabras, lo que significa que capturaron algo adicional que las propiedades básicas del habla no podían. Notablemente, en la corteza auditiva temprana, la etapa inicial de la audición, estas atribuciones superaron a las representaciones internas del modelo, que se utilizan típicamente para medir la alineación cerebral.
Utilizando una técnica llamada conductancia, los investigadores extendieron el análisis a capas individuales del modelo. Descubrieron que las capas tempranas mostraban una mayor sensibilidad al tipo de palabra (por ejemplo, sustantivos frente a verbos) y se alineaban preferentemente con regiones auditivas, mientras que las atribuciones de la capa final estaban dominadas por información posicional y mostraban una alineación cortical amplia. Esto sugiere que diferentes capas del modelo utilizan diferentes tipos de información, y que el cerebro puede integrarlas de una manera que coincide con el cómputo general del modelo.
Por qué es importante
Esta investigación ofrece una nueva forma de interpretar lo que los LLM están haciendo internamente, lo que puede ayudar a mejorar la transparencia y la confianza en la IA. También proporciona un puente entre el procesamiento del lenguaje artificial y humano: al ver qué explicaciones se alinean mejor con la actividad cerebral, obtenemos información sobre los cálculos que subyacen a la comprensión humana. Para cualquier persona curiosa sobre su propia cognición, destaca que la comprensión del lenguaje no es un proceso único, sino uno en capas, que combina sonido, significado y contexto.
Lo que puedes hacer
Puedes fortalecer tu propio procesamiento del lenguaje participando en la escucha y lectura activas. Intenta predecir qué viene a continuación en una conversación o historia, y observa qué palabras tienen más peso. Los rompecabezas como crucigramas o juegos de palabras también pueden agudizar la capacidad de tu cerebro para sopesar rápidamente diferentes tipos de información.
Fuente: arXiv q-bio.NC
¿Sientes curiosidad por tu propio cerebro? Realiza nuestro test de CI gratuito y adaptativo o prueba 306 niveles de entrenamiento cerebral.
