Дослідники виявили, що додавання кількох часових затримок до кожного з'єднання в спайковій нейронній мережі дозволяє їй зберігати та відтворювати складні послідовності нейронної активності з ідеальною точністю — прорив для розуміння робочої пам'яті в мозку та створення енергоефективного ШІ.
Дослідження
Лоран У. Перріне, дослідник з неназваної установи, розробив рекурентну спайкову нейронну мережу (SNN) з 512 нейронів. На відміну від стандартних моделей, які використовують одну затримку на синапс, його мережа мала 41 різну затримку на синапс, представлену у вигляді тривимірного тензора ваг. Мережа навчалася за допомогою сурогатного градієнтного зворотного поширення в часі, щоб запам'ятати 16 різних цільових спайкових патернів, кожен тривалістю 1000 часових кроків. Після навчання мережа досягла середнього F1-балу 1.0 — що означає ідеальну точність та повноту. Цікаво, що здатність відтворювати патерни спочатку з'явилася поблизу початкового часового вікна, а потім поширилася вперед, імітуючи те, як людська робоча пам'ять часто повторює послідовності від початку до кінця.
Чому це важливо
Робоча пам'ять — здатність утримувати та маніпулювати інформацією протягом коротких проміжків часу — є основою мислення, навчання та прийняття рішень. Це дослідження показує, що гетерогенні синаптичні затримки забезпечують ефективне обчислювальне середовище для робочої пам'яті, потребуючи менше нейронів та енергії, ніж попередні підходи. Отримані результати мають безпосереднє значення для нейроморфних обчислень: чипи, що імітують структуру мозку, можуть використовувати такі мережі на основі затримок для виконання завдань з інтенсивним використанням пам'яті локально, без підключення до хмари, що робить їх ідеальними для периферійних пристроїв.
Що ви можете зробити
Хоча ви не можете додати затримки до власних синапсів, ви можете зміцнити свою робочу пам'ять за допомогою практики. Спробуйте двосторонні завдання n-back, ігри на обсяг пам'яті або програми тренування мозку, спрямовані на відтворення послідовностей. Регулярна практика може покращити вашу здатність утримувати та маніпулювати інформацією — навичку, яка допомагає в усьому, від навчання до вирішення проблем.
Джерело: arXiv q-bio.NC
Цікавитеся власним мозком? Пройдіть наш безкоштовний адаптивний IQ-тест або спробуйте 306 рівнів тренування мозку.
