La distance dans le futur pour laquelle un modèle prédictif est entraîné à prévoir détermine s'il apprend des schémas utiles ou simplement des détails superficiels, selon une nouvelle étude de chercheurs du Technion – Institut de technologie d'Israël.
La recherche
Dans l'article « Prediction horizon shapes representations in predictive learning », Aviv Ratzon et Omri Barak ont étudié pourquoi certains modèles prédictifs développent des représentations structurées, semblables à des modèles du monde, alors que d'autres échouent. Ils se sont concentrés sur un élément clé de l'objectif d'entraînement : l'horizon de prédiction—le pas de temps ou le nombre de pas en avant que le modèle doit prédire.
Les chercheurs ont utilisé un cadre minimal pour démontrer d'abord théoriquement et empiriquement que l'augmentation de l'horizon de prédiction change la structure effective du problème d'apprentissage. Ils ont montré que les biais implicites du modèle, combinés à ce changement structurel, lui permettent de retrouver la géométrie latente de la tâche. En d'autres termes, en prévoyant plus loin, le modèle est forcé de capturer la dynamique sous-jacente plutôt que de simplement imiter les observations récentes.
Ils ont ensuite étendu ces résultats à des architectures non linéaires et à des ensembles de données plus complexes, observant des phénomènes similaires. Les résultats fournissent une explication fondée sur des principes pour savoir quand et pourquoi des représentations structurées émergent dans l'apprentissage prédictif.
Pourquoi c'est important
Cette recherche est pertinente au-delà de l'intelligence artificielle—elle reflète la façon dont notre propre cerveau apprend. Notre cerveau fait constamment des prédictions, de l'anticipation du mot suivant dans une phrase à la prévision du résultat d'une action physique. Cette étude suggère que l'horizon de nos prédictions—à quelle distance nous regardons—pourrait influencer la profondeur avec laquelle nous traitons l'information. Si vous voulez construire un modèle mental robuste d'un système, vous entraîner à prédire plus loin dans le futur (par exemple, en considérant les conséquences à long terme) pourrait vous aider à saisir sa structure cachée.
Ce que vous pouvez faire
Pour appliquer cette idée à votre propre cognition, essayez d'étendre votre fenêtre de prédiction. Lorsque vous étudiez un nouveau sujet, ne vous demandez pas seulement ce qui se passe ensuite ; demandez ce qui se passera dans une semaine ou un an. Dans les conversations, essayez d'anticiper les réponses futures de l'autre personne. Entraînez-vous à prévoir les résultats de systèmes complexes, comme l'économie ou le climat, puis évaluez vos prédictions. Cela peut aiguiser votre capacité à détecter des schémas et à construire des modèles mentaux plus précis.
Source : arXiv q-bio.NC
Curieux de connaître votre propre cerveau ? Passez notre test de QI adaptatif gratuit ou essayez 306 niveaux d'entraînement cérébral.