Новая статья бросает вызов ключевой идее редактирования памяти AI: убеждению, что удаление или добавление конкретных концепций в искусственную нейронную сеть работает одинаково хорошо, делаете ли вы это сразу или шаг за шагом. Фердинанд М. Шессль проверил это предположение о 'коммутативном многообразии' — которое утверждает, что правки коммутируют, как сложение чисел — и обнаружил, что оно не работает в реальных последовательных нагрузках.
Оригинальный метод AI Engram (Kwon et al., 2026) утверждал, что следы памяти, специфичные для концепций, могут быть извлечены и объединены арифметически, как линейные объекты. Их Приложение F предложило Гипотезу Композиционных Состояний Памяти, предполагая, что отредактированные модели образуют 'коммутативное многообразие', где интеграция двух концепций дает одинаковый результат независимо от порядка. Однако это доказательство было получено только из одиночных или парных правок — одноцикловых тестов, которые не учитывают структурную усталость от множественных изменений. Шессль запустил авторский код (TOFU alpha=0.6) на трех различных моделях AI от двух поставщиков и двух семейств архитектур с предварительно зарегистрированными прогнозами. Четыре ключевых вывода были воспроизведены на всех трех моделях: (1) нуль-шотовая композиция и последовательное редактирование расходились на 61–71% от величины правки; (2) порядок правок не взаимозаменяем — вырезание одной парижской достопримечательности перед другой могло решить, выживет ли третья, несвязанная концепция; (3) собственные статистики метода (ковариации вход-слой) монотонно дрейфовали с каждой новой правкой в каждой выжившей концепции; и (4) стертые знания частично возвращались при последующих несвязанных правках. Эти результаты опровергают гипотезу коммутативного многообразия из Приложения F для последовательного редактирования, оставляя выводы для одиночных правок нетронутыми. Практический вывод: для AI-забывания, используемого в целях соблюдения требований, стирание, сертифицированное сегодня, не гарантирует, что то же стирание сохранится после следующей правки.
Почему это важно для вашего мозга? Хотя это исследование посвящено искусственным нейронным сетям, концепция последовательного вмешательства перекликается с тем, как работает человеческая память. Наши воспоминания — не статичные файлы; они перекрываются, конкурируют и могут меняться, когда мы учимся или забываем что-то новое. Эта статья показывает, что даже математически чистый метод редактирования не может избежать зависимости от пути: порядок операций оставляет постоянные следы. Для вашего собственного познания это означает, что способ обучения (последовательно или пакетно) может влиять на то, насколько хорошо вы запоминаете информацию, и 'стирание' памяти через неиспользование или замену не является чистым — следы сохраняются и могут всплыть снова.
Что вы можете сделать: если вы пытаетесь избавиться от вредной привычки или заменить ошибочное убеждение, не ждите одной чистой правки — повторная, распределенная практика, строящая новые ассоциации, более надежна. Также изучайте связанные темы вместе (блочная практика), а не по частям, чтобы уменьшить помехи. А если вам интересно текущее состояние ваших когнитивных способностей, бесплатный адаптивный тест может дать вам базовую линию.
Источник: arXiv q-bio.NC
Любопытно узнать свой мозг? Пройдите наш бесплатный адаптивный IQ-тест или попробуйте 306 уровней тренировки мозга.
