Моделі ШІ на основі ЕЕГ, які стверджують, що виявляють клінічні стани, насправді можуть розпізнавати, хто ви, а не що робить ваш мозок. Нове дослідження представляє «Пастку ідентичності» та набір інструментів для її виявлення.
Дослідження
Команда під керівництвом Дзюнь-Ю Ліня з Каліфорнійського університету в Сан-Дієго, включаючи Їн Чхун Ву і Цзи-Пін Юнга, перевірила три популярні фундаментальні моделі ЕЕГ: LaBraM, CBraMod та REVE. Вони протестували їх на чотирьох наборах даних, кожен організований у форматі 2x2 залежно від того, чи змінювалася мітка (наприклад, пацієнт vs контроль) в межах суб'єкта чи між суб'єктами, та чи існував відомий міжсуб'єктний маркер ЕЕГ.
Використовуючи свій новий діагностичний протокол FMScope, вони виявили, що заморожені (ненавчені) представлення моделей містили в 13-89 разів більше дисперсії ідентичності суб'єкта, ніж очікувалося випадково — у всіх 12 комбінаціях модель-дані. Тонке налаштування погіршило ситуацію, збільшивши дисперсію ідентичності на 10-63 відсоткових пункти. Коли вони видалили вісь ідентичності суб'єкта, точність декодування міток покращилася там, де мітка змінювалася в межах суб'єкта: на 6-12 відсоткових пунктів в основних наборах даних і до 27 пунктів у зовнішніх когортах.
Вони також виявили, що аперіодична активність мозку (1/f) є одним із носіїв ідентичності суб'єкта: її видалення знизило точність визначення суб'єкта на 9-19 пунктів на двох моделях. Однак REVE насичував ідентичність суб'єкта, не покладаючись на аперіодичні сигнали.
Чому це важливо
Для тих, хто цікавиться діагностикою на основі ЕЕГ або тренуванням мозку, це означає, що високі показники точності в клінічних тестах можуть вводити в оману. Моделі можуть вивчати скорочені шляхи — використовувати унікальну сигнатуру мозку (як відбиток пальця), а не справжній стан. Тому перехресна валідація з роздільними суб'єктами, хоча й поширена, не є достатньою, щоб гарантувати, що модель вивчає справжні біомаркери.
Що ви можете зробити
Коли ви бачите твердження про точність ШІ для ЕЕГ, запитайте, чи перевіряли дослідники на витік ідентичності. Шукайте дослідження, які використовують діагностику на кшталт FMScope, щоб відокремити ідентичність суб'єкта від справжнього сигналу. Для власного когнітивного тренування пам'ятайте, що унікальність вашого мозку є перевагою, але вона не повинна маскувати реальні зміни, які ви хочете відстежувати.
Джерело: arXiv q-bio.NC
Цікавитесь власним мозком? Пройдіть наш безкоштовний адаптивний IQ-тест або спробуйте 306 рівнів тренування мозку.
