Що, якщо найкращий спосіб створити штучний мозок — це дозволити йому еволюціонувати? Саме ця ідея лежить в основі нового дослідження, яке використовує еволюційні алгоритми для проєктування резервуарних обчислювальних мереж — типу рекурентних нейронних мереж, натхненних структурою мозку. Результати, опубліковані дослідниками з Inria та Bordeaux INP, показують, що еволюційні мережі можуть перевершувати випадково створені в задачах навчання на часових рядах, і що простіші завдання породжують простіші мережі, тоді як складні завдання сприяють багатшим, більш модульним структурам.
Дослідження
Резервуарні обчислення — це розумний підхід до навчання на часових рядах: фіксований, випадково зв'язаний "резервуар" обробляє вхідні сигнали, а навчається лише простий шар зчитування. Однак традиційні мережі ехо-станів (ESN) часто потребують ретельного налаштування гіперпараметрів та архітектури для гарної роботи. Щоб подолати це, команда під керівництвом Жульєна Тестю, П'єрріка Леграна та Ксав'єра Іно розробила фреймворк EARLY (Еволюційний алгоритм для резервуарного навчання та отримання результатів). EARLY кодує архітектури мереж як геноми на основі графів і застосовує генетичні операції, такі як схрещування та мутація, для покращення конструкцій.
Дослідники протестували EARLY на кількох задачах навчання на часових рядах з набору даних CogScale. Вони порівняли еволюційні мережі з тими, що знайдені випадковим пошуком. Еволюційні мережі перемогли в кількох задачах, показавши, що еволюційний пошук може виявити ефективні конфігурації. Більше того, еволюційні архітектури показали чіткі структурні відмінності залежно від складності завдання: простіші завдання давали легкі, менш зв'язані мережі, тоді як складніші завдання сприяли багатшим, більш модульним організаціям — подібно до того, як спеціалізуються регіони мозку.
Чому це важливо
Це дослідження не лише про штучний інтелект; воно відображає принципи людського пізнання. Висновок, що складність завдань стимулює структурну складність мереж, перегукується з тим, як наш власний мозок адаптується. Для повсякденного навчання вирішення різноманітних і складних проблем може допомогти побудувати більш гнучкий, модульний когнітивний інструментарій. Крім того, ідея використання еволюції для оптимізації нейронних мереж може призвести до кращих систем ШІ — а розуміння цих систем може дати нам уявлення про наші власні нейронні процеси.
Що ви можете зробити
Приймайте складність. Подібно до того, як еволюційні мережі процвітали на складніших завданнях, ваш мозок отримує користь від складних видів діяльності. Спробуйте вивчити нову мову, освоїти музичний інструмент або розв'язувати головоломки, які розширюють ваші межі. Різноманітність є ключем: займайтеся завданнями, які вимагають різних навичок, щоб заохотити ваш мозок створювати спеціалізовані, але взаємопов'язані ланцюги.
Джерело: arXiv q-bio.NC
Цікаво дізнатися про свій мозок? Пройдіть наш безкоштовний адаптивний IQ-тест або спробуйте 306 рівнів тренування мозку.