Проривне дослідження дослідників з Колумбійського університету виявило, що нейронні мережі можуть органічно зростати в ширину, глибину та час — і час, який вони витрачають на обробку інформації, відображає час реакції людини.
Дослідження
Ейвінас Буткус, Кедар Гарсон Гупта та Ніколаус Кріґескорте спроектували рекурентну згорткову нейронну мережу, яка могла вирішувати, наскільки широкою, глибокою та скільки рекурентних кроків (час) використовувати. Вони додали диференційовані вартісні члени для кожного ресурсу — ширина (кількість одиниць на шар), глибина (кількість шарів) та час (кількість рекурентних кроків) — і навчили мережу на задачах розпізнавання об'єктів. Регулюючи «тиск» на кожну вартість, мережа спонтанно вирощувала різні архітектури: широкі та неглибокі, глибокі та вузькі або щось середнє. Команда виявила, що всі три ресурси можна обмінювати один на одного для досягнення заданої точності. Наприклад, зменшення глибини вдвічі можна компенсувати подвоєнням ширини або додаванням більшої кількості рекурентних кроків. Крім того, коли входи були частково закриті, мережа автоматично робила більше рекурентних кроків — вона «думала довше» над складнішими проблемами. Найбільш вражаюче: час, який модель витрачала на кожне зображення, корелював з часом реакції людини у тій самій задачі розпізнавання об'єктів (r = 0,62, p < 0,001).
Чому це важливо
Це відкриття свідчить про те, що наш мозок також може обмінювати просторові ресурси (кількість нейронів, площа кори) на часові ресурси (час обробки). Той факт, що простий штраф за вартість може породити поведінку, подібну до мозку, натякає на те, що еволюція та розвиток можуть використовувати подібні принципи. Для вас це означає, що ваш мозок постійно балансує між швидкістю та точністю — і що витрата більше часу на задачу може компенсувати обмежені нейронні ресурси. Це також підтверджує, чому завдання на час реакції використовуються в тестах IQ: вони зачіпають цей фундаментальний компроміс.
Що ви можете зробити
Практикуйте завдання, які вимагають як швидкості, так і точності, наприклад, головоломки на час або ігри на запам'ятовування. Коли ви сповільнюєтеся, щоб правильно вирішити задачу, ви залучаєте глибшу обробку — природну версію додавання більшої кількості «часових кроків». З часом ваш мозок може стати більш ефективним у розподілі ресурсів.
Джерело: arXiv q-bio.NC
Цікавитесь власним мозком? Пройдіть наш безкоштовний адаптивний IQ-тест або спробуйте 306 рівнів тренування мозку.
