Новое исследование показывает, как чтение человека отличается от языковых моделей ИИ, хотя оба изначально полагаются на предсказание следующего слова. Исследователи обнаружили, что хотя LLM могут предсказывать скорость первоначального распознавания слов, они не объясняют, почему мы перечитываем сложные предложения.
Исследование
Под руководством Уильяма Тимки из Нью-Йоркского университета и Брайана Диллона из Массачусетского университета в Амхерсте, исследование, опубликованное в Трудах Национальной академии наук, сравнило данные айтрекинга 368 взрослых читателей с прогнозами более 400 нейросетевых языковых моделей. Они использовали синтаксически сложные тексты, включая «садовые дорожки» (garden-path), например «The old man the boat».
Результаты показали, что LLM точно моделируют раннее распознавание слов при плавном чтении. Но они сильно занижали время обработки, необходимое для интеграции слов в контекст, особенно когда возникает неоднозначность. Фактически, регрессивные движения глаз — когда глаза возвращаются назад для перечитывания — составляют около 20% фиксаций при чтении. Стандартные авторегрессионные LLM не имеют эквивалентного механизма для такого ретроспективного повторного анализа.
«Языковые модели развивают свои выдающиеся способности понимания языка, обучаясь предсказывать следующее слово», — объяснил Тимки. «Мы обнаружили, что LLM могут объяснить, сколько времени требуется людям для распознавания слов при плавном движении глаз, но не могут объяснить случаи, когда людям трудно интегрировать слово в более широкий контекст».
Почему это важно
Это исследование дает представление о нашей собственной когнитивной архитектуре. Оно показывает, что человеческое понимание — это не просто однонаправленный поток предсказания слов; оно включает динамическую многоэтапную интеграцию, которую ИИ еще не освоил. Понимание этого разрыва может привести к улучшению ИИ и помочь понять нарушения чтения.
Что вы можете сделать
В следующий раз, когда вы поймаете себя на перечитывании предложения, знайте, что ваш мозг выполняет сложную работу, которую ИИ не может воспроизвести. Чтобы укрепить эту способность, попробуйте читать более сложные материалы и сознательно пересказывать прочитанное — это тренирует навыки контекстной интеграции.
Источник: Neuroscience News
Интересно узнать свой мозг? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.