Главная · Блог · Исследования

Необученные CNN совпадают с обратным распространением в V1: архитектура важнее правил обучения

Необученные CNN совпадают с обратным распространением в V1: архитектура важнее правил обучения

Новое исследование ставит под сомнение предположение, что правило обучения нейронной сети является ключевым для имитации человеческого зрения. Исследователи из Тюбингенского университета сравнили четыре правила обучения — обратное распространение, выравнивание обратной связи, предсказательное кодирование и пластичность, зависящую от времени спайков, — используя идентичные сверточные архитектуры, и протестировали их на данных фМРТ человека от 3 испытуемых, просматривавших 720 стимулов (набор данных THINGS-fMRI).

Исследование

Нилс Лойтенггер и команда использовали анализ репрезентативного сходства (RSA) для измерения того, насколько внутренние представления каждой сети соответствуют активности человеческого мозга. Ключевой момент: они включили необученную сеть со случайными весами. Результаты: на ранних зрительных областях (V1/V2) необученная CNN достигла корреляции rho = 0,071, статистически неотличимой от обратного распространения (rho = 0,072, p = 0,43). На более высоких областях (LOC/IT) правила обучения имели значение: доминировало обратное распространение, а предсказательное кодирование с локальными обновлениями Хебба соответствовало ему (p = 0,18). Выравнивание обратной связи постоянно ухудшало представления ниже случайного базового уровня на V1. Частичный RSA подтвердил, что эффекты не были обусловлены сходством пикселей.

Почему это важно

Этот результат предполагает, что ранняя зрительная обработка в значительной степени формируется архитектурой — структурой связей, — а не тем, как сеть учится. Для вашего собственного познания это означает, что ранние стадии мозга могут быть жестко запрограммированы для эффективности, в то время как обучение более высокого порядка зависит от опыта и целей. Понимание этой иерархии может направлять тренировку мозга: усиление распознавания образов на нижнем уровне может потребовать иных методов, чем улучшение рассуждений или памяти.

Что вы можете сделать

Чтобы улучшить зрительную обработку, попробуйте задачи, которые бросают вызов вашему распознаванию образов без сложных рассуждений — например, визуальные головоломки или быстрая идентификация объектов. Для познания более высокого уровня сосредоточьтесь на целенаправленном обучении, например, на изучении нового языка или игре в стратегические игры. Исследование подчеркивает, что тренировка мозга должна быть направлена на конкретные уровни обработки.

Источник: arXiv q-bio.NC

Любопытно узнать о своем мозге? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.

Интересно узнать свой IQ?

Пройдите наш бесплатный научно разработанный адаптивный тест по 7 когнитивным доменам. Без регистрации.

Пройти бесплатный тест