Синапсы — соединения между нейронами — известны как место хранения воспоминаний, но до сих пор у нас не было четкого способа измерить, сколько информации они содержат. Команда под руководством Синьхао Фаня из Университета Джонса Хопкинса изменила это, создав теоретическую основу, которая количественно определяет информацию, хранящуюся в синаптической силе, а не только в паттернах нейронной активности. Опубликованная в Neural Computation, работа предлагает математический подход к пониманию хранения памяти как в биологических, так и в искусственных сетях.
Исследование
Фань и соавтор Шриш Майор изучили плотно связанные хеббовские сети, выполняющие задачи ассоциативной памяти, например, восстановление паттерна по частичной подсказке. Они моделировали хранимые паттерны данных как логнормальные распределения — реалистичное представление распределения синаптической силы. Используя теорию информации Шеннона, они вывели аналитические формулы для взаимной информации между данными и одиночными синапсами, парами и произвольными группами синапсов. Их структура отразила, как каждый синапс вносит вклад в хранение, и выявила поразительный эффект: информация, хранящаяся всеми синапсами вместе, больше, чем сумма информации от каждого по отдельности. Это «синергетическое взаимодействие» означает, что нейронная сеть кодирует больше информации коллективно, чем по отдельности. Теория также соответствует известным данным о емкости хранения паттернов и поддерживает идею распределенного кодирования, когда информация распределяется по многим связям.
Почему это важно
Эта структура формализует то, что было интуитивно известно, но никогда не измерялось точно: синапсы не просто хранят биты независимо — они работают вместе синергетически. Для понимания обучения и памяти это означает, что, возможно, нужно учитывать паттерны связей, а не только отдельные синапсы. Для искусственных нейронных сетей это может вдохновить на более эффективные способы хранения информации в взвешенных связях. Для тех, кому интересен собственный мозг, это подчеркивает невероятную эффективность его устройства: наши воспоминания распределены по миллиардам связей, каждая из которых вносит вклад в целое, которое умнее своих частей.
Что вы можете сделать
Хотя измерить свои синапсы дома невозможно, вы можете поддерживать здоровье мозга с помощью регулярной умственной стимуляции, физических упражнений, сна и сбалансированной диеты. Продолжайте тренировать память головоломками и новыми навыками — ваше синаптическое хранилище выигрывает от разнообразия.
Источник: arXiv q-bio.NC
Интересует ваш собственный мозг? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.
