Як ваш мозок утримує номер телефону в пам'яті протягом кількох секунд? Нове дослідження вказує на специфічне нейронне обчислення, яке допомагає підтримувати таку безперервну робочу пам'ять.
Дослідження
Команда під керівництвом Чжаотяня Гу з Університету Фудань та співавтори з кількох установ (подано до arXiv 3 серпня 2026 року) вивчали, як штучні рекурентні нейронні мережі (РНМ) можуть навчитися підтримувати безперервні змінні — ознаку робочої пам'яті. Традиційні атракторні мережі неперервних станів є крихкими і вимагають точного налаштування, тоді як популярні РНМ, такі як GRU та LSTM, часто не справляються, розбиваючи неперервний простір на дискретні точки.
Натхненні біологією, дослідники запропонували мережу рекурентної дивізивної нормалізації (RDNN), яка включає дивізивну нормалізацію — обчислення, що спостерігається в кортикальних ланцюгах. За допомогою аналізу динамічних систем на канонічних задачах робочої пам'яті вони виявили, що RDNN сходяться до стійких, високоточних повільних многовидів, тобто вони можуть плавно підтримувати значення пам'яті. Вони також проаналізували градієнтну динаміку під час навчання, показавши, що дивізивна нормалізація призводить до залежного від активності масштабування градієнта, яке стискає ефективний ранг мережі, обмежуючи динаміку низьковимірним підпростором без явних обмежень рангу.
Важливо, що абляційні експерименти показали: хоча субтрактивне гальмування може утримувати статичні спогади, дивізивна нормалізація є математично необхідною для запобігання «роздробленню многовиду», коли вхідні дані змінюються з часом. Це свідчить про те, що дивізивна нормалізація є не просто біологічною цікавинкою, а ключовим механізмом для навчання неперервних уявлень.
Чому це важливо
Для вашого власного мозку це дослідження підкреслює важливість нормалізації нейронної активності — те, що ваш мозок робить постійно — для підтримки стабільності інформації. Це може пояснити, чому деякі люди краще зберігають концентрацію або згадують деталі під час відволікання. Для ШІ це вказує на кращі архітектури для завдань, що потребують безперервної пам'яті, таких як навігація або розуміння мови.
Що ви можете зробити
Хоча ви не можете безпосередньо впливати на дивізивну нормалізацію свого мозку, ви можете тренувати свою робочу пам'ять за допомогою вправ, які вимагають утримання та оновлення інформації, таких як усний рахунок, запам'ятовування послідовностей або тренування з подвійним завданням. Практикуйте зосередження на одному завданні протягом тривалого часу без перерв.
Джерело: arXiv q-bio.NC
Цікавитесь власним мозком? Пройдіть наш безкоштовний адаптивний IQ-тест або спробуйте 306 рівнів тренування мозку.
