Главная · Блог · Исследования

Обучение выявляет скрытую структуру нейронных сетей

Обучение выявляет скрытую структуру нейронных сетей

Обучение меняет связи в вашем мозге — и теперь новая математическая рамка показывает, как эти изменения выявляют скрытые структуры, которые были невидимы до тренировки. Исследователи из Техниона – Израильского технологического института разработали теорию, различающую два типа нейронных пересечений: один определяет, что делает сеть, а другой записывает, как она училась.

Исследование

Под руководством Йоава Гера и Омри Барака исследование, опубликованное на arXiv (5 мая 2026 г.), расширяет низкоранговую рекуррентную нейронную сеть (RNN) — популярную модель для связи связности мозга с поведением — непосредственно на процесс обучения. Команда вывела замкнутую систему дифференциальных уравнений, управляющих обучением в редуцированном пространстве, названном пространством пересечений. Эта система точна для линейных сетей и асимптотически точна для нелинейных сетей в пределе больших сетей.

Центральным в их анализе является различие между двумя классами пересечений: видимые для потери пересечения, которые полностью определяют активность сети, выход и ошибку; и невидимые для потери пересечения, которые не влияют на функцию сети, но необходимы для описания того, как разворачивается обучение. Используя это разложение, исследователи продемонстрировали два ключевых явления. Во-первых, обучение может действовать как возмущение, выявляющее различия в связности между функционально эквивалентными сетями — сети, которые ведут себя одинаково до обучения, могут расходиться после обучения. Во-вторых, невидимые для потери пересечения могут служить переменными памяти, кодирующими историю обучения. Команда охарактеризовала условия, при которых возникает эта скрытая память.

Почему это важно

Для всех, кто интересуется, как их собственный мозг учится, это исследование предполагает, что два человека с идентичными когнитивными способностями могут иметь очень разные связи мозга — и что обучение выявляет эти различия. Открытие того, что невидимые пересечения могут хранить историю обучения, подразумевает, что прошлый опыт обучения встроен в нейронные связи, даже после того, как сеть овладела задачей. Это может помочь объяснить, почему люди, которые изучают один и тот же навык разными методами, могут иметь разные нейронные сигнатуры.

Что вы можете сделать

Чтобы исследовать собственное когнитивное обучение, попробуйте варьировать способ практики: распределенное повторение, чередование тем и самопроверка могут создать разные скрытые паттерны в вашем мозге. Постоянное испытание памяти и внимания может укрепить невидимые структуры, поддерживающие гибкое обучение.

Источник: arXiv q-bio.NC

Любопытно узнать о своем мозге? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.

Интересно узнать свой IQ?

Пройдите наш бесплатный научно разработанный адаптивный тест по 7 когнитивным доменам. Без регистрации.

Пройти бесплатный тест