Системы искусственного интеллекта — и человеческий мозг — часто спотыкаются в неожиданный момент: как только они начинают учиться чему-то новому, их успехи в старых задачах на время рушатся. Теперь группа исследователей позаимствовала механизм мозга, чтобы смягчить этот провал.
Исследование
Алехандро Родригес-Гарсия, Аниндия Гош и Шрикант Рамасвами изучили проблему в непрерывном обучении под названием разрыв стабильности: временное снижение производительности на ранее изученных задачах при появлении новых. Их работа опубликована на arXiv (подана 18 июля 2025 г., доработана 10 августа 2026 г.; arXiv:2507.14056v3) и охватывает машинное обучение, искусственный интеллект, а также нейроны и познание.
Стандартные оптимизаторы, такие как momentum-SGD и Adam, уже обеспечивают некоторый баланс между адаптацией к новым данным и сохранением старых знаний. Но исследователи обнаружили, что эти оптимизаторы всё ещё демонстрируют явные разрывы стабильности — даже в условиях идеального «совместного обучения», когда все задачи тренируются вместе одновременно. Это делает совместное обучение удобной средой для выделения причин разрыва.
Вдохновившись тем, как норадренергические всплески в мозге внезапно повышают нейронное усиление в условиях неопределённости, команда добавила механизм динамического масштабирования усиления. Представьте его как оптимизатор с двумя временными масштабами: он на короткое время увеличивает эффективную величину обновления на переходах между задачами, одновременно динамически перепараметризуя веса, управляющие прямым проходом. Цель: уменьшить усиление кривизны, возникающее при резком сдвиге распределения данных.
Они протестировали динамическое масштабирование усиления на доменных и классовых инкрементальных версиях бенчмарков MNIST, CIFAR и mini-ImageNet в условиях не зависящего от задачи совместного обучения. Метод ослабил разрывы стабильности, сохранив конкурентоспособную точность. Иными словами, система не просто обменяла старые навыки на новые — она удерживала и те, и другие стабильнее.
Почему это важно
Ваш мозг каждый день сталкивается с той же дилеммой стабильности и пластичности. Когда вы осваиваете новый программный инструмент, язык или маршрут вождения, ваши старые привычки могут пошатнуться. Норадреналин — нейромодулятор, связанный с бодростью и неопределённостью, — помогает нейронам временно повысить их «усиление», делая их более отзывчивыми без стирания существующих связей. Это исследование показывает, что тот же принцип можно перенести в математическое правило оптимизации.
Для всех, кто интересуется познанием, вывод таков: резкие переходы в обучении — не личный недостаток, а фундаментальный компромисс. Исследование также намекает, что краткие стратегические всплески внимания или возбуждения — те, что даёт норадреналин, — могут помочь вам плавнее пересекать эти границы.
Что можно сделать
- Переключаясь между сложными задачами, дайте себе короткую паузу или boost новизны — прогулку, смену обстановки — чтобы имитировать контролируемое повышение усиления.
- Не старайтесь освоить несколько совершенно новых навыков за один присест; дайте каждому переходу улечься, прежде чем добавлять следующий.
- Если после начала новой задачи вы чувствуете себя медленнее на старой, признайте это временным разрывом стабильности, а не утратой способности.
Источник: arXiv q-bio.NC
Любопытно узнать о собственном мозге? Пройдите наш бесплатный адаптивный тест IQ или попробуйте 306 уровней тренировки мозга.