Новий алгоритм, натхненний мозком, під назвою FRE-RNN, робить біологічно правдоподібний метод навчання, який називається Equilibrium Propagation (EP), практичним для масштабного штучного інтелекту, скорочуючи час навчання на порядки та досягаючи продуктивності, порівнянної з промисловим стандартом зворотного поширення.
Дослідження
Дослідники Чжоу Лю та Тао Чен у статті, опублікованій на arXiv (серпень 2025 р., оновлено травень 2026 р.), вирішили головну перешкоду в обчисленнях, натхненних мозком: Equilibrium Propagation (EP) — це перспективне правило навчання, яке імітує, як мозок регулює синаптичну силу, але воно нестабільне та обчислювально дороге. Команда розробила рекурентну нейронну мережу зі зворотним зв'язком та залишковими зв'язками (FRE-RNN), яка вирішує ці проблеми.
У контрольних завданнях FRE-RNN досяг часу навчання на порядки швидшого, ніж стандартний EP, зберігаючи точність, порівнянну зі зворотним поширенням. Наприклад, на стандартному завданні класифікації зображень алгоритм зійшовся менш ніж за 10 епох, тоді як традиційний EP часто не сходиться або потребує сотень. Ключовою інновацією є регулювання зворотного зв'язку, яке зменшує спектральний радіус мережі, дозволяючи їй досягати рівноваги набагато швидше. Крім того, залишкові з'єднання з топологіями, натхненними мозком, пом'якшують проблему зникаючих градієнтів, поширену в глибоких мережах.
Чому це важливо
Це дослідження наближає нас до створення систем штучного інтелекту, які навчаються більше подібно до людського мозку, що потенційно може призвести до ефективніших та адаптивніших алгоритмів. Для повсякденного пізнання розуміння того, що мозок використовує зворотний зв'язок та залишкові шляхи, може надихнути на кращі стратегії навчання. Наприклад, включення регулярного зворотного зв'язку та повторення минулих концепцій може покращити запам'ятовування.
Що ви можете зробити
Щоб застосувати це у власному навчанні, спробуйте метод «навчи іншого»: після вивчення теми поясніть її комусь іншому або напишіть підсумок. Це створює цикл зворотного зв'язку, який підсилює нейронні шляхи. Також чергуйте навчання з повторенням, щоб побудувати залишкові зв'язки.
Джерело: arXiv q-bio.NC
Цікавитесь власним мозком? Пройдіть наш безкоштовний адаптивний IQ-тест або спробуйте 306 рівнів тренування мозку.
