Большие языковые модели (LLM) демонстрируют классический конфликтный эффект, подобный эффекту Струпа, противопоставляя автоматические привычки контролю на основе правил.
Исследование
Под руководством Чандры Шрипады из Мичиганского университета исследователи протестировали семь LLM в новой вербальной конфликтной задаче. В задании требовалось назвать слово, противоположное названию цвета, но у модели была сильная склонность по умолчанию называть тот же цвет. В конгруэнтных пробах правило совпадало с привычкой (например, сказать «красный», когда слово «красный»); в неконгруэнтных пробах они конфликтовали (например, сказать «синий», когда слово «красный»). Результаты показали, что у шести из семи моделей наблюдались сильные эффекты конгруэнтности — более медленные или менее точные ответы, когда правило и привычка не совпадали, — что повторяет результаты людей в задаче Струпа. Команда использовала причинно-следственную атрибуцию, анализ внимания и абляцию, чтобы выявить два пути: ближнее внимание к слову-цвету (благоприятствующее конгруэнтным пробам) и дальнее внимание к префиксу правила (благоприятствующее неконгруэнтным пробам). Дообучение для усиления привычки по умолчанию снижало производительность в неконгруэнтных пробах, но повышало в конгруэнтных, тогда как увеличение размера набора правил избирательно ухудшало неконгруэнтные пробы.
Почему это важно
Это исследование связывает когнитивную психологию и искусственный интеллект, показывая, что LLM могут служить модельными системами для изучения того, как мозг разрешает конфликт между автоматическими и контролируемыми реакциями. Полученные данные свидетельствуют о том, что эффекты конгруэнтности, долго изучавшиеся у людей, могут возникать из конкуренции между двумя выученными отображениями: одним во весах (по умолчанию) и одним в контексте (на основе правил). Для вашего собственного познания это подчеркивает, что привычки и правила часто конкурируют, и усиление одного может ослабить другое. Понимание этого баланса может помочь вам разработать лучшие стратегии для изучения новых навыков или отказа от старых.
Что вы можете сделать
- Практикуйте задачи, требующие подавления автоматических реакций, например, называть цвет чернил, а не читать слово.
- Когда вы учите новое правило, помните, что ваши привычки по умолчанию могут мешать; дополнительная практика поможет новому правилу конкурировать.
- Используйте игры для тренировки мозга, которые挑战 торможение и когнитивную гибкость, чтобы укрепить ваш умственный контроль.
Источник: arXiv q-bio.NC
Любопытно узнать о своем мозге? Пройдите наш бесплатный адаптивный тест IQ или попробуйте 306 уровней тренировки мозга.