Исследователи обнаружили, что добавление множественных временных задержек к каждому соединению в спайковой нейронной сети позволяет ей хранить и восстанавливать сложные последовательности нейронной активности с идеальной точностью — это прорыв в понимании рабочей памяти мозга и создании энергоэффективного ИИ.
Исследование
Лоран У. Перрине, исследователь из неназванного учреждения, разработал рекуррентную спайковую нейронную сеть (SNN) из 512 нейронов. В отличие от стандартных моделей, использующих одну задержку на синапс, его сеть назначила 41 различную задержку на синапс, представленную в виде трехмерного тензора весов. Сеть обучалась с помощью суррогатного градиента обратного распространения во времени для запоминания 16 различных целевых спайковых паттернов, каждый продолжительностью 1000 временных шагов. После обучения сеть достигла среднего показателя F1, равного 1.0 — то есть идеальной точности и полноты. Интересно, что способность восстанавливать паттерны сначала появлялась вблизи начального временного окна, а затем распространялась вперед, имитируя то, как человеческая рабочая память часто повторяет последовательности от начала до конца.
Почему это важно
Рабочая память — способность удерживать и манипулировать информацией в течение коротких периодов — является фундаментальной для рассуждения, обучения и принятия решений. Это исследование показывает, что гетерогенные синаптические задержки обеспечивают эффективную вычислительную основу для рабочей памяти, требуя меньше нейронов и энергии, чем предыдущие подходы. Результаты имеют прямое отношение к нейроморфным вычислениям: чипы, имитирующие структуру мозга, могут использовать такие сети на основе задержек для выполнения задач, требующих памяти, локально, без подключения к облаку, что делает их идеальными для периферийных устройств.
Что вы можете сделать
Хотя вы не можете добавить задержки своим синапсам, вы можете укрепить свою рабочую память с помощью практики. Попробуйте задачи двойного n-назад, игры на объем памяти или программы тренировки мозга, нацеленные на запоминание последовательностей. Регулярные тренировки могут улучшить вашу способность удерживать и манипулировать информацией — навык, который полезен во всем: от обучения до решения проблем.
Источник: arXiv q-bio.NC
Любопытно узнать свой мозг? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.
