Нове дослідження виявляє, що внутрішні оновлення пам'яті певних моделей ШІ—лінійних трансформерів—математично ідентичні столітнім теоріям навчання тварин. Цей дивовижний зв'язок передбачає поведінку цих моделей і відкриває нові шляхи для розуміння як машинного, так і людського пізнання.
Дослідження
Му Цяо, дослідник з неназваної установи, опублікував статтю на arXiv (серпень 2025, v3 серпень 2026), що показує, що основні сімейства лінійної уваги реалізують названі моделі з класичної теорії навчання. Лінійна увага віддзеркалює хеббівську суміжність, DeltaNet реалізує корекцію помилок Рескорли–Вагнера, а варіанти із загасанням, такі як RetNet, імітують суміжність зі слідом стимулу. Дослідження знайшло точну замкнуту форму для камін-блокування—явища, коли попереднє навчання блокує нові асоціації, що підтверджено в симуляції з точністю менше 10^-7 для п'яти швидкостей навчання. Цяо також передбачив дисоціацію: увага з корекцією помилок виявляє конкуренцію сигналів, тоді як увага на основі суміжності—ні, і підтвердив це емпірично. Крім того, ємність одностану масштабується з показниками 1.22 для вилучення та 1.89 для ідентифікації, а помилка вилучення залежить головним чином від загального розміру стану, а не від розділення голів. Дослідження також довело відсутність спонтанного відновлення для проаналізованих одностаневих рекурентних моделей за умов, ортогональних до ретенційних проб.
Чому це важливо
Це дослідження поєднує ШІ та психологію, показуючи, що принципи навчання тварин—як конкуренція сигналів—застосовуються до машинної пам'яті. Для вашого мозку це свідчить про те, що те, як ми засвоюємо асоціації, може слідувати подібним правилам, і розуміння цього може допомогти вам оптимізувати власне навчання. Висновки також вказують на те, що моделі ШІ, як і люди, можуть мати упередження у формуванні спогадів, що має значення для довіри та справедливості в ШІ.
Що ви можете зробити
Щоб використати ці знання, варіюйте контексти навчання, щоб уникнути конкуренції сигналів, і розподіляйте практику для зміцнення асоціацій. Для користувачів ШІ: майте на увазі, що моделі можуть виявляти упередження, подібні до людського обумовлення.
Джерело: arXiv q-bio.NC
Цікавитесь власним мозком? Пройдіть наш безкоштовний адаптивний IQ-тест або спробуйте 306 рівнів тренування мозку.