Группа исследователей раскрыла ключевое понимание того, почему модели ИИ, обученные имитировать человеческий мозг, становятся более устойчивыми к adversarial-атакам — тем крошечным, незаметным изменениям изображения, которые могут заставить стандартный ИИ ошибочно принять знак остановки за знак ограничения скорости. Удивительный ответ? Дело не в фокусировке на низких пространственных частотах, как считалось ранее.
Исследование
Чжэнань Шао и коллеги из Университета Иллинойса и Университета Джонса Хопкинса решили проверить ведущую гипотезу: нейронное выравнивание — обучение глубокой сверточной нейронной сети (DCNN) иметь внутренние представления, схожие с человеческой зрительной корой — повышает устойчивость к adversarial-атакам за счет смещения зависимости модели с хрупких высокочастотных паттернов на более устойчивые низкие пространственные частоты (НПЧ).
В своем исследовании (arXiv:2605.04443, май 2026) команда сначала подтвердила, что DCNN, выровненные по высшим областям вентрального зрительного пути человека, действительно увеличивают зависимость как от НПЧ, так и от узкой среднечастотной полосы, известной как «человеческий канал». Но когда они напрямую смещали модели в сторону этих частотных диапазонов, они обнаружили четкое разобщение: смещение в сторону человеческого канала, отдельно или вместе с НПЧ, не улучшало устойчивость — наоборот, ухудшало ее. Одно только смещение в сторону НПЧ дало лишь скромные улучшения, хотя и вызвало гораздо большие сдвиги в зависимости от пространственных частот, чем нейронное выравнивание. Важно, что ни одна из моделей со смещением по частоте не показала повышенного сходства с нейронной репрезентативной геометрией человека.
Результаты, основанные на нескольких архитектурах DCNN и моделях, обученных на ImageNet, позволяют предположить, что изменение зависимости от пространственных частот является эмерджентным свойством обучения более человеко-подобным представлениям, а не основным механизмом устойчивости.
Почему это важно
Для всех, кто интересуется работой собственного мозга и тем, как сделать ИИ безопаснее, это исследование указывает на более глубокие принципы. Наша зрительная система не просто настроена на низкие или средние частоты; она кодирует объекты богатым реляционным способом, который современные модели ИИ только начинают улавливать. Понимание того, что делает человеческое зрение устойчивым, может привести к созданию более устойчивых систем ИИ в беспилотных автомобилях, медицинской визуализации и безопасности.
Что вы можете сделать
Хотя вы не можете напрямую изменить настройку пространственных частот своего мозга, вы можете поддерживать его остроту. Занимайтесь разнообразными визуальными задачами — головоломками, искусством, спортом, — которые бросают вызов распознаванию объектов. Тренируйте свой мозг целостно с помощью когнитивных упражнений, которые делают упор на распознавание образов и рассуждение, а не только на различение частот.
Источник: arXiv q-bio.NC
Хотите узнать свой мозг? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.
