Согласно новому исследованию, модель ИИ, которая, казалось, имитирует человеческое мышление в 160 когнитивных задачах, на самом деле может запоминать ответы, а не понимать их.
Исследование
В июле 2025 года исследование в Nature представило Centaur, ИИ, построенный на больших языковых моделях и доработанный на психологических экспериментах. Он хорошо справлялся с задачами, включающими принятие решений и исполнительный контроль, что породило надежды на ИИ, способный воспроизводить человеческое познание.
Однако недавнее исследование в National Science Open оспаривает эти утверждения. Исследователи из Чжэцзянского университета, включая Вэй Лю и Най Дин, предположили, что успех Centaur может быть обусловлен переобучением — запоминанием паттернов, а не изучением основных задач.
Чтобы проверить это, они создали новые сценарии оценки. В одном из них они заменили исходные вопросы с множественным выбором простой инструкцией: «Пожалуйста, выберите вариант А». Если бы Centaur действительно понимал задачи, он последовательно выбирал бы вариант А. Вместо этого он продолжал выбирать «правильные» ответы из исходного набора данных, игнорируя новую инструкцию. Это позволяет предположить, что модель не интерпретировала смысл вопросов, а полагалась на статистические закономерности для угадывания ответов — как студент, который сдает экзамены, запоминая форматы, не понимая материала.
Почему это важно
Это открытие имеет решающее значение для оценки систем ИИ. Большие языковые модели могут впечатляюще подгонять данные, но их «черный ящик» затрудняет понимание того, как они получают результаты. Это может привести к ошибкам, таким как галлюцинации или неверные интерпретации. Для всех, кто использует инструменты ИИ, это напоминание о том, что производительность на тестах не гарантирует реального понимания.
Для вашего собственного познания это подчеркивает разницу между запоминанием и пониманием — различие, которое влияет на обучение и решение проблем в повседневной жизни.
Что вы можете сделать
Чтобы укрепить свое понимание, практикуйте активное обучение: объясняйте концепции своими словами, применяйте их к новым ситуациям и проверяйте себя на разнообразных примерах. Избегайте только механического запоминания; стремитесь к гибким знаниям, которые могут адаптироваться к новым контекстам.
Источник: ScienceDaily Mind & Brain
Интересуетесь своим мозгом? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.