L’innovation IA ne faiblit pas, comme en témoigne cette nouvelle annonce.
L’auto-amélioration récursive de l’IA pourrait ne pas intervenir aussi rapidement que prévu, après tout
Il semblerait que les agents d’IA ne soient pas encore assez créatifs pour mener des recherches en IA véritablement innovantes et sans cadre prédéfini.
La promesse la plus audacieuse du secteur de l’IA à l’heure actuelle est que celle-ci sera bientôt capable de s’améliorer d’elle-même, sans pratiquement nécessiter de supervision humaine. Les grands modèles de langage (LLM) sont déjà capables d’écrire du code, de générer des données synthétiques pour l’entraînement et d’optimiser les puces informatiques sur lesquelles ils fonctionnent. Les prévisions annonçant des progrès fulgurants dans le domaine de l’IA laissent entrevoir l’avènement de ce que les chercheurs appellent « l’auto-amélioration récursive ».
À relever, cependant une dernière étude suggère qu’il nous faudra peut-être encore un certain temps avant d’y parvenir. Les chercheurs à l’origine de cette étude ont constaté que les agents d’IA ne sont pas encore capables de mener des recherches ouvertes en IA — c’est-à-dire des investigations libres qui n’ont pas de réponses précises et qui nécessitent du jugement et du bon goût, qualités qui pourraient s’avérer essentielles à la mise au point d’une IA capable de s’améliorer d’elle-même.
Autre élément, un groupe de équipes de recherche issus de de multiples institutions, dirigé par Peter Kirgis et Sayash Kapoor de l’université de Princeton, a découvert que les agents d’IA étaient capables de résoudre les problèmes d’ingénierie nécessaires à la recherche en IA, mais qu’ils ne disposaient pas du discernement ni de la créativité requis pour produire des travaux de recherche originaux d’un niveau comparable à celui des articles acceptés par une conférence de premier plan dans le domaine de l’apprentissage automatique. Cet écart laisse penser que certains des calendriers très médiatisés concernant l’automatisation de la recherche en IA pourraient aller au-delà de ce que les informations permettent d’affirmer.
La plupart des travaux de recherche existants sur la manière dont les agents peuvent automatiser la recherche en IA évaluent leur capacité à accomplir des tâches bien délimitées dont les réponses sont vérifiables, telles que la résolution de problèmes d’ingénierie ou l’évaluation, après apprentissage, de petits modèles linguistiques par rapport à un référentiel. Toutefois pour progresser dans la recherche en IA, il faut également faire preuve d’une réflexion ouverte : choisir un ensemble d’hypothèses, déterminer quelles preuves permettraient de trancher une question, ou savoir quand repartir de zéro.
Pour tester les agents sur ce type de compétences, les équipes de recherche ayant mené cette étude ont proposé une nouvelle méthode d’évaluation appelée « évaluation fantôme », qui consiste à demander à l’IA de répondre à une question de travaux de recherche tirée d’un article scientifique de grande qualité non encore publié.
Les chercheurs ont demandé à Claude Opus 4.8 d’Anthropic, fonctionnant sur un logiciel libre appelé OpenClaw, de traiter ces questions, tirées en l’occurrence de deux articles soumis à la prestigieuse conférence sur l’apprentissage automatique NeurIPS 2026.
La première question portait sur la possibilité de contrôler les « personnalités » d’un grand modèle d’IA linguistique — qui déterminent son comportement — en modifiant ses poids (ces milliards de chiffres qui stockent tout ce qu’il apprend pendant l’entraînement). L’autre question visait à déterminer comment concevoir un détecteur capable de signaler lorsqu’un modèle effectuant des prédictions à partir de données de tableur n’est plus fiable. Comme les documents n’avaient pas été rendus publics, les agents ne pouvaient ni mémoriser les réponses issues de leurs données d’entraînement, ni les trouver sur Internet.
Les acteurs concernés devront s’adapter à ce nouveau contexte.
À découvrir aussi :
Source : MIT Technology Review : MIT Technology Review