Une équipe de chercheurs a découvert une idée clé expliquant pourquoi les modèles d'IA entraînés à imiter le cerveau humain deviennent plus résistants aux attaques adversariales – ces modifications infimes et imperceptibles d'une image qui peuvent tromper une IA standard en lui faisant confondre un panneau stop avec un panneau de limitation de vitesse. La réponse surprenante ? Ce n'est pas dû à une focalisation sur les basses fréquences spatiales comme on le pensait auparavant.
La recherche
Zhenan Shao et ses collègues de l'Université de l'Illinois et de l'Université Johns Hopkins ont entrepris de tester une hypothèse principale : l'alignement neuronal – l'entraînement d'un réseau de neurones convolutif profond (DCNN) afin qu'il ait des représentations internes similaires à celles du cortex visuel humain – améliore la robustesse adversarial en déplaçant la dépendance du modèle des motifs fragiles à haute fréquence vers des fréquences spatiales plus robustes et basses (LSF).
Dans leur étude (arXiv:2605.04443, mai 2026), l'équipe a d'abord confirmé que les DCNN alignés sur les régions de niveau supérieur du flux visuel ventral humain augmentaient effectivement la dépendance à la fois aux LSF et à une bande de fréquences moyennes étroite appelée « canal humain ». Mais lorsqu'ils ont directement biaisé les modèles vers ces bandes de fréquences, ils ont découvert une dissociation claire : le biais vers le canal humain, seul ou avec les LSF, n'améliorait pas la robustesse – il la détériorait même. Le biais LSF seul n'a produit que des gains modestes, bien qu'il ait induit des changements beaucoup plus importants dans la dépendance aux fréquences spatiales que l'alignement neuronal. Fait crucial, aucun des modèles biaisés en fréquence n'a montré une similarité accrue avec la géométrie représentationnelle neuronale humaine.
Les résultats, basés sur plusieurs architectures DCNN et des modèles entraînés sur ImageNet, suggèrent que la modification de la dépendance aux fréquences spatiales est une propriété émergente de l'apprentissage de représentations plus humaines, et non le mécanisme principal de la robustesse.
Pourquoi c'est important
Pour quiconque s'intéresse au fonctionnement de son propre cerveau – et à la manière de rendre l'IA plus sûre – cette étude pointe vers des principes plus profonds. Notre système visuel n'est pas simplement réglé sur les basses ou moyennes fréquences ; il encode les objets d'une manière riche et relationnelle que les modèles d'IA actuels commencent à peine à capturer. Comprendre ce qui rend la vision humaine robuste pourrait conduire à des systèmes d'IA plus résilients dans les voitures autonomes, l'imagerie médicale et la sécurité.
Ce que vous pouvez faire
Bien que vous ne puissiez pas modifier directement le réglage des fréquences spatiales de votre cerveau, vous pouvez le maintenir en forme. Engagez-vous dans des tâches visuelles variées – puzzles, art, sports – qui mettent à l'épreuve votre reconnaissance d'objets. Entraînez votre cerveau de manière holistique avec des exercices cognitifs qui mettent l'accent sur la reconnaissance de formes et le raisonnement, pas seulement sur la discrimination des fréquences.
Source : arXiv q-bio.NC
Curieux de connaître votre propre cerveau ? Passez notre test de QI adaptatif gratuit ou essayez 306 niveaux d'entraînement cérébral.
