Великі мовні моделі (LLM) демонструють класичний ефект конфлікту, подібний до ефекту Струпа, у якому автоматичні звички протиставляються контролю на основі правил.
Дослідження
Під керівництвом Чандри Шріпади з Мічиганського університету дослідники протестували сім LLM у новому завданні на вербальний конфлікт. У запиті пропонувалося назвати слово, протилежне до назви кольору, але модель мала сильну схильність за замовчуванням називати той самий колір. У конгруентних пробах правило збігалося зі звичкою (наприклад, сказати «червоний», коли слово «червоний»); у неконгруентних пробах вони конфліктували (наприклад, сказати «синій», коли слово «червоний»). Результати показали, що шість із семи моделей мали сильні ефекти конгруентності — повільніші або менш точні відповіді, коли правило та звичка не збігалися, — що віддзеркалює продуктивність людей у завданні Струпа. Команда використала причинно-наслідкову атрибуцію, аналіз уваги та абляцію, щоб визначити два шляхи: короткодіапазонну увагу до слова кольору (сприяє конгруентним пробам) і довгодіапазонну увагу до префікса правила (сприяє неконгруентним пробам). Тонке налаштування для посилення звички за замовчуванням знизило продуктивність у неконгруентних пробах, але підвищило продуктивність у конгруентних, тоді як збільшення розміру набору правил вибірково погіршувало неконгруентні проби.
Чому це важливо
Це дослідження поєднує когнітивну психологію та штучний інтелект, показуючи, що LLM можуть слугувати модельними системами для вивчення того, як мозок розв’язує конфлікт між автоматичними та контрольованими відповідями. Висновки припускають, що ефекти конгруентності — які давно вивчаються на людях — можуть виникати внаслідок конкуренції між двома засвоєними відображеннями: одним у вагах (за замовчуванням) і одним у контексті (на основі правил). Для вашої власної когніції це підкреслює, що звички та правила часто конкурують, і посилення одного може послабити інше. Розуміння цього балансу може допомогти вам розробити кращі стратегії для навчання нових навичок або позбавлення від старих.
Що ви можете зробити
- Практикуйте завдання, які вимагають подолання автоматичних відповідей, як-от називання кольору чорнила замість читання слова.
- Коли вивчаєте нове правило, пам’ятайте, що ваші звички за замовчуванням можуть заважати; додаткова практика може допомогти новому правилу конкурувати.
- Використовуйте ігри для тренування мозку, які кидають виклик гальмуванню та когнітивній гнучкості, щоб зміцнити свій розумовий контроль.
Джерело: arXiv q-bio.NC
Цікаво дізнатися про власний мозок? Пройдіть наш безкоштовний адаптивний тест IQ або спробуйте 306 рівнів тренування мозку.