Главная · Блог · Исследования

Дивизивная нормализация улучшает рабочую память в нейронных сетях

Дивизивная нормализация улучшает рабочую память в нейронных сетях

Как ваш мозг удерживает номер телефона в уме несколько секунд? Новое исследование указывает на конкретное нейронное вычисление, которое помогает поддерживать такую непрерывную рабочую память.

Исследование

Команда под руководством Чжаотяня Гу из Фуданьского университета и сотрудников из нескольких учреждений (представлено на arXiv 3 августа 2026 года) изучала, как искусственные рекуррентные нейронные сети (RNN) могут научиться поддерживать непрерывные переменные — отличительный признак рабочей памяти. Традиционные непрерывные аттракторные сети хрупки и требуют точной настройки, в то время как популярные RNN, такие как GRU и LSTM, часто терпят неудачу, разбивая непрерывное пространство на дискретные точки.

Вдохновленные биологией, исследователи предложили рекуррентную сеть с дивизивной нормализацией (RDNN), которая включает дивизивную нормализацию — вычисление, наблюдаемое в корковых цепях. С помощью анализа динамических систем на канонических задачах рабочей памяти они обнаружили, что RDNN сходятся к устойчивым многообразиям медленной динамики с высокой точностью, то есть могут плавно поддерживать значения памяти. Они также проанализировали динамику градиентов во время обучения, показав, что дивизивная нормализация приводит к масштабированию градиентов, зависящему от активности, что сжимает эффективный ранг сети, ограничивая динамику низкоразмерным подпространством без явных ограничений на ранг.

Важно, что абляционные эксперименты показали: в то время как вычитательное торможение может удерживать статические воспоминания, дивизивная нормализация математически необходима для предотвращения «разрушения многообразия» при изменении входных данных со временем. Это предполагает, что дивизивная нормализация — не просто биологический курьез, а ключевой механизм для обучения непрерывным представлениям.

Почему это важно

Для вашего собственного мозга это исследование подчеркивает важность нормализации нейронной активности — то, что ваш мозг делает постоянно, — для поддержания стабильности информации. Это может объяснить, почему некоторые люди лучше сохраняют концентрацию или вспоминают детали при отвлечении. Для ИИ это предполагает лучшие архитектуры для задач, требующих непрерывной памяти, таких как навигация или понимание языка.

Что вы можете сделать

Хотя вы не можете напрямую управлять дивизивной нормализацией своего мозга, вы можете тренировать свою рабочую память с помощью упражнений, требующих поддержания и обновления информации, таких как устный счет, запоминание последовательностей или тренировка двойных задач. Практикуйте сосредоточение на одной задаче в течение длительного времени без перерывов.

Источник: arXiv q-bio.NC

Любопытно узнать о своем мозге? Пройдите наш бесплатный адаптивный тест IQ или попробуйте 306 уровней тренировки мозга.

Интересно узнать свой IQ?

Пройдите наш бесплатный научно разработанный адаптивный тест по 7 когнитивным доменам. Без регистрации.

Пройти бесплатный тест