Як ми можемо знати, що велика мовна модель (ВММ) насправді робить, коли передбачає наступне слово в реченні? Дослідники виявили, що використовуючи пояснюваний ШІ (XAI) для виділення слів, які найбільше впливають на прогнози, вони також можуть зіставити ці пояснення з мозковою активністю, що свідчить про глибший зв'язок між тим, як машини та мозок обробляють мову.
Дослідження
Меріам Рагімі, Мохаммад Реза Далірі та Ядолла Ягубзаде з Іранського університету науки і технологій та Тегеранського університету провели це дослідження. Вони використали кілька ВММ, включаючи версію GPT-2, і застосували методи атрибуції, які вимірюють внесок кожного слова в прогноз моделі, щоб створити "пояснення" для кожного вхідного слова. Потім вони порівняли ці пояснення з даними фМРТ учасників, які слухали наративні історії, використовуючи загальнодоступні набори даних, зокрема з Каліфорнійського університету в Берклі та Принстонського університету.
Команда виявила, що методи атрибуції на основі градієнта, які обчислюють чутливість прогнозу до кожного слова, надійно узгоджувалися з мозковою активністю в широкій мережі мовних областей. Ці пояснення вносили унікальну дисперсію, окрім простих акустичних та частотних ознак слів, тобто вони захоплювали щось додаткове, що не могли забезпечити базові властивості мовлення. Зокрема, у первинній слуховій корі, ранньому етапі слухання, ці атрибуції показали кращі результати, ніж внутрішні репрезентації моделі, які зазвичай використовуються для вимірювання узгодження з мозком.
Використовуючи метод кондактансу, дослідники розширили аналіз до окремих шарів моделі. Вони виявили, що ранні шари виявляли більшу чутливість до типу слова (наприклад, іменники проти дієслів) і узгоджувалися зі слуховими областями, тоді як атрибуції останнього шару переважали позиційною інформацією та демонстрували широке коркове узгодження. Це свідчить про те, що різні шари моделі використовують різні типи інформації, і мозок може інтегрувати їх так, що відповідає загальним обчисленням моделі.
Чому це важливо
Це дослідження пропонує новий спосіб інтерпретації того, що ВММ роблять усередині, що може допомогти покращити прозорість і довіру до ШІ. Воно також забезпечує міст між штучною та людською мовною обробкою: бачачи, які пояснення найкраще узгоджуються з мозковою активністю, ми отримуємо уявлення про обчислення, що лежать в основі людського розуміння. Для тих, хто цікавиться власним пізнанням, воно підкреслює, що розуміння мови не є єдиним процесом, а багатошаровим, що поєднує звук, значення та контекст.
Що ви можете зробити
Ви можете покращити власну обробку мови, займаючись активним слуханням і читанням. Спробуйте передбачити, що буде далі в розмові або історії, і звертайте увагу на слова, які мають найбільшу вагу. Головоломки, як-от кросворди чи словесні ігри, також можуть покращити здатність вашого мозку швидко зважувати різні типи інформації.
Джерело: arXiv q-bio.NC
Цікавитесь власним мозком? Пройдіть наш безкоштовний адаптивний IQ-тест або спробуйте 306 рівнів тренування мозку.
