Pourquoi les réseaux de neurones forment-ils les connexions qu'ils ont ? Une nouvelle étude de Ludwig Hruza et Srdjan Ostojic à l'École Normale Supérieure de Paris apporte une réponse surprenante : ce n'est pas seulement l'apprentissage, mais un équilibre fondamental entre les exigences de la tâche et le hasard.
La recherche
Les chercheurs ont appliqué le principe d'entropie maximale, un concept de la mécanique statistique, pour modéliser la connectivité neuronale. Au lieu d'entraîner les réseaux avec une descente de gradient, ils ont décrit la connectivité comme une distribution de probabilité sur les poids des neurones individuels, soumise à des contraintes de tâche. La distribution unique maximisant l'entropie de Shannon sous ces contraintes a été résolue analytiquement.
En se concentrant sur des tâches de sélection d'entrée dépendantes du contexte dans des réseaux feed-forward à 2 couches, ils ont transformé les réseaux non linéaires en modèles linéaires modulés par gain. En partant d'une distribution homogène, la maximisation de l'entropie a naturellement produit des populations de neurones avec des schémas distincts de modulation de gain contextuel. L'augmentation du nombre de contextes a entraîné une transition de populations spécialisées à aléatoires, tandis que l'augmentation de l'échelle de poids a fait passer d'une sélectivité de stimulus structurée à aléatoire. Étonnamment, la connectivité à entropie maximale correspondait qualitativement et quantitativement à la structure des réseaux entraînés par descente de gradient dans différents régimes d'apprentissage (arXiv:2605.25607).
Pourquoi c'est important
Cette découverte change notre façon de penser l'organisation du cerveau. Elle suggère que les circuits neuronaux ne sont pas uniquement façonnés par des algorithmes d'apprentissage mais par un principe plus profond : équilibrer la structure (contraintes de tâche) avec le hasard (entropie). Pour la cognition humaine, cela implique que nos cerveaux sont intrinsèquement optimisés pour gérer un large éventail de contextes, sans surapprentissage à un seul environnement. Le paramètre d'échelle de poids, qui contrôle cet équilibre, offre une nouvelle perspective pour comprendre pourquoi certaines personnes sont plus adaptables ou ont des compétences cognitives plus spécialisées.
Ce que vous pouvez faire
Pour favoriser la flexibilité cognitive, engagez-vous dans des tâches variées qui vous défient dans différents contextes. Apprendre une nouvelle langue, jouer à des jeux de stratégie, ou alterner entre travail créatif et analytique peut imiter les « contextes » qui favorisent une connectivité neuronale équilibrée. La régularité compte : visez 15 à 20 minutes par jour d'activité mentale variée, comme alterner entre des puzzles et la lecture.
Source : arXiv q-bio.NC
Curieux de connaître votre propre cerveau ? Faites notre test de QI adaptatif gratuit ou essayez 306 niveaux d'entraînement cérébral.
