Новое исследование показывает, что внутренние обновления памяти некоторых моделей ИИ — линейных трансформеров — математически идентичны столетним теориям обучения животных. Эта удивительная связь предсказывает поведение этих моделей и открывает новые пути для понимания как машинного, так и человеческого познания.
Исследование
Му Цяо, исследователь из нераскрытого учреждения, опубликовал статью на arXiv (август 2025, версия 3 август 2026), показывающую, что основные семейства линейного внимания реализуют названные модели из классической теории обучения. Линейное внимание зеркалит хеббовскую контактность, DeltaNet реализует коррекцию ошибок Рескорлы-Вагнера, а варианты с затуханием, такие как RetNet, имитируют контактность со следом стимула. Исследование обнаружило точную замкнутую форму для блокировки Камина — явления, при котором предшествующее обучение блокирует новые ассоциации, проверенную в симуляции с точностью менее 10^-7 для пяти скоростей обучения. Цяо также предсказал диссоциацию: внимание с коррекцией ошибок демонстрирует конкуренцию сигналов, а внимание на основе контактности — нет, и подтвердил это эмпирически. Кроме того, емкость одного состояния масштабируется с показателями 1.22 для извлечения и 1.89 для идентификации, а ошибка извлечения зависит в основном от общего размера состояния, а не от разделения на головы. Исследование также доказало отсутствие спонтанного восстановления для проанализированных односостоятельных рекуррентностей при пробах с ортогональным удержанием сигналов.
Почему это важно
Это исследование соединяет ИИ и психологию, показывая, что принципы обучения животных — такие как конкуренция сигналов — применимы к машинной памяти. Для вашего мозга это предполагает, что то, как мы учим ассоциации, может следовать аналогичным правилам, и понимание этого может помочь вам оптимизировать собственное обучение. Результаты также подразумевают, что модели ИИ, как и люди, могут проявлять предвзятость в формировании воспоминаний, что имеет значение для доверия и справедливости в ИИ.
Что вы можете сделать
Чтобы использовать эти идеи, варьируйте контексты обучения, чтобы избежать конкуренции сигналов, и распределяйте практику для укрепления ассоциаций. Для пользователей ИИ: помните, что модели могут проявлять предвзятость, аналогичную человеческому обусловливанию.
Источник: arXiv q-bio.NC
Любопытно узнать о своем мозге? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.