Les modèles d'IA basés sur l'EEG qui prétendent détecter des conditions cliniques peuvent en réalité capter qui vous êtes, et non ce que fait votre cerveau. Une nouvelle recherche présente le « piège de l'identité » ainsi qu'une boîte à outils pour le repérer.
La Recherche
Une équipe dirigée par Jun-You Lin de l'Université de Californie à San Diego, comprenant Ying Choon Wu et Tzyy-Ping Jung, a audité trois modèles EEG populaires : LaBraM, CBraMod et REVE. Ils les ont testés sur quatre ensembles de données, chacun organisé en une disposition 2x2 selon que l'étiquette (par exemple, patient vs contrôle) variait au sein du sujet ou entre les sujets, et selon qu'il existait un marqueur EEG inter-sujets connu.
En utilisant leur nouveau protocole de diagnostic, FMScope, ils ont découvert que les représentations des modèles gelés (non entraînés) contenaient 13 à 89 fois plus de variance d'identité du sujet que prévu par le hasard — dans toutes les 12 combinaisons modèle-ensemble de données. Le fine-tuning a aggravé la situation, augmentant la variance d'identité de 10 à 63 points de pourcentage. Lorsqu'ils ont supprimé l'axe d'identité du sujet, la précision du décodage des étiquettes s'est améliorée là où l'étiquette variait au sein d'un sujet : de 6 à 12 points de pourcentage dans les ensembles principaux, et jusqu'à 27 points dans les cohortes externes.
Ils ont également découvert que l'activité cérébrale apériodique (1/f) est un vecteur de l'identité du sujet : la supprimer a réduit la précision de la sonde d'identité de 9 à 19 points sur deux modèles. Cependant, REVE saturait l'identité du sujet sans s'appuyer sur les signaux apériodiques.
Pourquoi C'est Important
Pour toute personne intéressée par les diagnostics basés sur l'EEG ou l'entraînement cérébral, cela signifie que des scores de haute précision dans les tests cliniques peuvent être trompeurs. Les modèles peuvent apprendre des raccourcis — utiliser votre signature cérébrale unique (comme une empreinte digitale) plutôt que la condition réelle. C'est pourquoi la validation croisée avec sujets disjoints, bien que courante, ne suffit pas à garantir que le modèle apprend de véritables biomarqueurs.
Ce Que Vous Pouvez Faire
Lorsque vous voyez des affirmations sur la précision de l'IA EEG, demandez-vous si les chercheurs ont vérifié les fuites d'identité. Recherchez des études qui utilisent des diagnostics comme FMScope pour séparer l'identité du sujet du véritable signal. Pour votre propre entraînement cognitif, rappelez-vous que l'unicité de votre cerveau est une caractéristique, mais elle ne devrait pas masquer les changements réels que vous souhaitez suivre.
Source : arXiv q-bio.NC
Curieux de connaître votre propre cerveau ? Passez notre test de QI adaptatif gratuit ou essayez 306 niveaux d'entraînement cérébral.
