Нова стаття кидає виклик ключовій ідеї редагування пам'яті ШІ: переконанню, що видалення або додавання конкретних понять до штучної нейронної мережі працює однаково добре, чи робити це одразу, чи крок за кроком. Фердинанд М. Шессл перевірив це припущення про 'комутативний многовид' — яке стверджує, що редагування комутують, як додавання чисел — і виявив, що воно не працює в реальних послідовних навантаженнях.
Оригінальний метод AI Engram (Kwon та ін., 2026) стверджував, що понятійно-специфічні сліди пам'яті можна витягувати та комбінувати арифметично, як лінійні об'єкти. Їхній Додаток F запропонував Гіпотезу композиційних станів пам'яті, припускаючи, що редаговані моделі утворюють 'комутативний многовид', де інтеграція двох понять дає однаковий результат незалежно від порядку. Однак ці докази походили лише з одиничних або парних редагувань — одноциклових тестів, які пропускають структурну втому від багатьох змін. Шессл запустив власний код авторів (TOFU alpha=0.6) на трьох різних моделях ШІ від двох постачальників та двох архітектурних сімейств, з попередньо зареєстрованими прогнозами. Чотири ключові результати відтворено на всіх трьох моделях: (1) нульшотова композиція та послідовне редагування розійшлися на 61–71% від величини редагування; (2) порядок редагування не є взаємозамінним — видалення однієї паризької пам'ятки перед іншою могло визначити, чи виживе третє, непов'язане поняття; (3) власна статистика методу (коваріації входів шарів) монотонно змінювалася з кожним новим редагуванням у кожному вцілілому понятті; та (4) стерте знання частково поверталося після пізніших непов'язаних редагувань. Ці результати спростовують гіпотезу комутативного многовиду з Додатку F для послідовного редагування, залишаючи недоторканими висновки для одиничних редагувань. Практичний висновок: для забування ШІ, що використовується для відповідності, стирання, сертифіковане сьогодні, не гарантує, що це саме стирання зберігатиметься після наступного редагування.
Чому це важливо для вашого мозку? Хоча це дослідження про штучні нейронні мережі, концепція послідовної інтерференції відлунює те, як працює людська пам'ять. Наші спогади — не статичні файли; вони перекриваються, конкурують і можуть змінюватися, коли ми вчимося або забуваємо нове. Ця стаття показує, що навіть математично чистий метод редагування не може уникнути залежності від шляху: порядок операцій залишає постійні сліди. Для вашого власного пізнання це означає, що те, як ви вчитеся (послідовно чи порціями), може впливати на те, наскільки добре ви запам'ятовуєте інформацію, і 'стирання' пам'яті через невикористання або заміну не є чистим — сліди зберігаються і можуть знову проявитися.
Що ви можете зробити: Якщо ви намагаєтеся позбутися шкідливої звички або замінити хибне переконання, не очікуйте одного чистого редагування — повторювана, рознесена в часі практика, яка будує нові асоціації, є надійнішою. Також вивчайте пов'язані теми разом (блокова практика), а не фрагментарно, щоб зменшити інтерференцію. А якщо вам цікаво, який ваш поточний когнітивний стан, безкоштовний адаптивний тест може дати вам базову лінію.
Джерело: arXiv q-bio.NC
Цікавить ваш власний мозок? Пройдіть наш безкоштовний адаптивний IQ тест або спробуйте 306 рівнів тренування мозку.
