Как мы можем узнать, что большая языковая модель (LLM) на самом деле делает, когда предсказывает следующее слово в предложении? Исследователи обнаружили, что, используя объяснимый ИИ (XAI) для выделения слов, которые наиболее важны для предсказаний, они также могут сопоставить эти объяснения с активностью мозга, что предполагает более глубокую связь между тем, как машины и мозг обрабатывают язык.
Исследование
Марьям Рахими, Мохаммад Реза Далири и Ядолла Ягубзаде из Иранского университета науки и технологий и Тегеранского университета провели это исследование. Они использовали несколько LLM, включая версию GPT-2, и применили методы атрибуции, которые измеряют вклад каждого слова в предсказание модели, для создания «объяснений» для каждого входного слова. Затем они сравнили эти объяснения с данными фМРТ участников, которые слушали повествовательные истории, используя общедоступные наборы данных, такие как наборы данных Калифорнийского университета в Беркли и Принстонского университета.
Команда обнаружила, что методы атрибуции на основе градиентов, которые вычисляют, насколько чувствительно предсказание к каждому слову, устойчиво согласуются с активностью мозга в широкой сети областей, связанных с языком. Эти объяснения вносили уникальную дисперсию, выходящую за рамки простых акустических характеристик и частоты слов, что означает, что они отражали нечто дополнительное, чего не было в базовых свойствах речи. Примечательно, что в ранней слуховой коре — начальной стадии слуха — эти атрибуции превзошли внутренние представления модели, которые обычно используются для измерения соответствия мозгу.
Используя метод, называемый проводимостью, исследователи расширили анализ до отдельных слоев модели. Они обнаружили, что ранние слои проявляют большую чувствительность к типу слова (например, существительные против глаголов) и преимущественно согласуются со слуховыми областями, в то время как атрибуции последнего слоя были в основном связаны с позиционной информацией и показывали широкое корковое соответствие. Это предполагает, что разные слои модели используют разные типы информации, и что мозг может интегрировать их способом, соответствующим общим вычислениям модели.
Почему это важно
Это исследование предлагает новый способ интерпретации того, что LLM делают внутри, что может помочь улучшить прозрачность и доверие к ИИ. Оно также создает мост между искусственной и человеческой обработкой языка: видя, какие объяснения лучше всего согласуются с активностью мозга, мы получаем представление о вычислениях, лежащих в основе человеческого понимания. Для тех, кто интересуется собственным познанием, оно подчеркивает, что понимание языка — это не единый процесс, а многослойный, сочетающий звук, смысл и контекст.
Что вы можете сделать
Вы можете укрепить свою собственную обработку языка, активно слушая и читая. Попробуйте предсказать, что произойдет дальше в разговоре или истории, и заметьте, какие слова несут наибольший вес. Головоломки, такие как кроссворды или словесные игры, также могут улучшить способность вашего мозга быстро взвешивать различные типы информации.
Источник: arXiv q-bio.NC
Интересует ваш собственный мозг? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.
