Nouvelle étape franchie dans l’univers des technologies d’intelligence artificielle.
Ne vous laissez pas berner par l’engouement pour l’IA de cet été
Les affirmations grandiloquentes concernant l’AGI et ses nouvelles capacités techniques s’effondrent assez rapidement lorsqu’on les examine de près.
Ces derniers mois ont été marqués par un véritable engouement pour l’IA. Fin avril, Anthropic a affirmé que son modèle Claude Mythos était plus efficace que la plupart des experts en sécurité pour détecter les failles logicielles. Puis il y a eu l’incident de piratage impliquant OpenAI et Hugging Face, à la suite duquel Anthropic (avec fierté) et Meta (à contrecœur) ont révélé des incidents similaires concernant leurs modèles.
Autre élément, anthropic a ensuite affirmé que l’un de ses modèles avait réalisé une percée mathématique ; peu après, OpenAI a dévoilé à son tour une percée mathématique. Plus récemment, Jacob Coxon, ingénieur chez Anthropic, a fait le buzz en annonçant son départ de l’entreprise, affirmant que celle-ci, tout comme OpenAI, « fonçait tout droit vers une superintelligence capable de s’auto-améliorer et jouait avec nos vies ».
Chacun de ces événements a été largement couvert par la presse, qui reprenait souvent les arguments anthropomorphiques avancés par les entreprises — destinés à présenter leurs logiciels non seulement comme puissants, mais aussi comme une « intelligence artificielle générale » naissante. Que se passe-t-il donc réellement ? Sommes-nous en train d’assister à une série de percées technologiques majeures, susceptibles de transformer notre civilisation, ou s’agit-il simplement d’une stratégie marketing ?
Dans tous ces incidents, le battage médiatique massif orchestré par les firmes (présenté comme des aveux de culpabilité dans les affaires de piratage illicite) s’accompagne d’une couverture médiatique intense. Dès que les experts des domaines concernés ont le temps d’examiner ce qui s’est passé, une version des faits très différente se dessine, mais celle-ci retient moins l’attention des médias.
En ce qui concerne les incidents de « piratage », les experts en cybersécurité affirment que cette affaire relève davantage de la négligence d’OpenAI et de son incapacité à adopter des pratiques de sécurité élémentaires et éprouvées que d’une « dérobade des modèles » ou de la « création de civilisations par des agents IA ».
Fait intéressant, quant aux retombées mathématiques, les mathématiciens, qui avaient d’abord été « stupéfaits » par le communiqué de presse d’OpenAI annonçant que son dernier chatbot, Astra, résolvait des problèmes qui « restaient en suspens et n’avaient connu aucun progrès sur le résultat principal depuis au moins une décennie » — se sont toutefois rendu compte par la suite que ces performances n’étaient pas aussi « novateurs qu’ils le semblaient au premier abord ». Depuis lors, les mathématiciens ont accusé l’entreprise de faute professionnelle et de plagiat, et ils ont réaffirmé qu’Astra n’avait pas réalisé de « bond intellectuel majeur ». Quelques semaines plus tard seulement, OpenAI a revendiqué sa propre percée mathématique. Deux jours auparavant, Tristan Buckmaster, professeur de mathématiques à l’Institut Courant de l’Université de New York, avait publié une déclaration fracassante laissant entendre qu’OpenAI avait usurpé le travail d’autrui et l’avait attribué à tort.
Difficile à ce stade de prédire tous les impacts de cette annonce.
À lire également :
- Kyutai lance « Voice of Reason » : un modèle « speech-native » capable de résoudre des problèmes mathématiques oraux grâce à l’apprentissage par renforcement
- OpenAI lance GPT-6 Sol et Luna : des tarifs API 50 % moins chers et des tests de performance
- Groupe consultatif sur les mathématiques et l’intelligence artificielle
Couverture originale : MIT Technology Review : MIT Technology Review