Nouvelle information marquante dans l’actualité IA.
Ce que révèle — et ce que ne met en lumière pas — la dernière découverte d’Anthropic en matière d’IA
L’entreprise affirme avoir découvert un nouvel angle d’approche permettant de comprendre comment ses modèles parviennent à leurs résultats. Nous en avons discuté avec Will Douglas Heaven, rédacteur en chef.
D’un autre côté, anthropic — actuellement l’entreprise spécialisée dans l’IA la plus valorisée au monde, avec une valorisation avoisinant les 1 000 milliards de dollars — est réputée pour publier des travaux de recherche insolites et stimulants. Elle cherche notamment à déterminer si les modèles d’IA sont capables de ressentir la douleur et peut parfois interrompre les conversations avec ses chatbots si elle soupçonne les usagers d’« abuser » du modèle.
L’un des champs d’application dans lesquels Anthropic consacre plus de temps et d’argent que les autres entreprises spécialisées dans l’IA est ce qu’on appelle « l’interprétabilité mécaniste » : il s’agit d’analyser les calculs mathématiques complexes d’un modèle d’IA d’IA afin de comprendre pourquoi celui-ci aboutit à un résultat particulier plutôt qu’à un autre. C’est un sujet complexe ; il existe des millions de données susceptibles d’influencer un résultat, et s’y retrouver peut ressembler davantage à un charabia qu’à quelque chose d’utile. C’est aussi un sujet controversé. Le fait de décrire les modèles d’IA à l’aide de termes empruntés à la psychologie et aux neurosciences peut donner l’impression que leur comportement est plus sophistiqué qu’on ne le jugerait autrement.
C’est pourquoi, lorsque Anthropic a annoncé la semaine dernière avoir découvert un nouveau moyen d’accéder aux « pensées internes » de ses modèles au moment où ceux-ci élaborent leurs réponses, il y avait un collègue à qui je devais absolument parler. Will Douglas Heaven, rédacteur en chef, est non seulement titulaire d’un doctorat en informatique, mais il a également consacré beaucoup de temps à explorer ce que l’on peut dire sur le fonctionnement des modèles d’IA. Je me suis entretenu avec lui pour savoir ce qu’il fallait retenir de la récente étude (et, comme on pouvait s’y attendre, originale) d’Anthropic.
Depuis quelques années déjà, Anthropic s’efforce de comprendre le fonctionnement des grands modèles linguistiques (LLM). Anthropic n’est pas la seule entreprise à s’intéresser à cette question, mais je pense qu’elle en a fait une partie intégrante de sa mission principale plus que la plupart des autres. Le PDG d’Anthropic, Dario Amodei, a déclaré que nous ne pourrions pas contrôler pleinement les LLM tant que nous n’en saurions pas davantage sur leur fonctionnement.
Cette récente étude s’inscrit donc tout à fait dans ce contexte. Elle explore plus en profondeur que jamais les mécanismes étranges qui régissent les grands modèles de langage (LLM). Anthropic a découvert que ces modèles recèlent un espace — qu’Anthropic appelle « l’espace J » — rempli de mots qui n’apparaissent pas dans leurs résultats, mais qui semblent influencer la manière dont ils s’attaquent aux problèmes. Tout cela était resté caché jusqu’à ce qu’Anthropic mette au point une nouvelle technique pour interroger son modèle Claude ; il s’agit donc d’une véritable découverte.
L’avenir dira si cette annonce tient toutes ses promesses.
À découvrir aussi :
Source : MIT Technology Review : MIT Technology Review