Le domaine de l’IA connaît encore aujourd’hui une évolution intéressante.
Anthropic a découvert un espace caché où Claude s’interroge sur divers concepts
Une inédite technique a permis à l’entreprise d’explorer plus en profondeur que jamais les mécanismes étranges d’un système de langage de grande envergure (LLM).
Fait intéressant, la société spécialisée dans l’IA Anthropic a mis au point une technique qui lui a permis d’obtenir un aperçu sans précédent de ce qui se passe réellement au sein des grands modèles linguistiques lorsqu’ils répondent à des questions ou effectuent des tâches. Leurs découvertes vont du plus banal au plus inquiétant.
L’entreprise affirme que la surveillance des mots qui apparaissent dans l’espace J lui offre un nouveau moyen de comprendre et de contrôler ses modèles.
Dans la foulée, les chercheurs de l’entreprise ont mis au point un logiciel appelé « lentille jacobienne » (ou « J-lens ») et s’en sont servis pour mettre au jour une zone cachée, qu’ils ont baptisée « J-space », au sein de Claude Opus 4.6, une version du LLM phare d’Anthropic sortie en février.
L’espace J contient des mots isolés liés aux mots et expressions que le modèle est le plus susceptible de produire dans une réponse dans un avenir proche. Si Claude était une personne (ce qui n’est pas le cas), on pourrait dire que ces mots cachés révèlent ce qu’il a en tête avant même qu’il ne s’exprime.
Anthropic a constaté que ce qu’un LLM fait réellement peut souvent différer de ce qu’il prétend faire. L’entreprise affirme que la surveillance des mots qui apparaissent dans l’espace J lui offre un nouveau moyen de comprendre et de contrôler ses modèles.
L’entreprise a publié ses résultats cette semaine dans un article mis en ligne sur son site web. Elle s’est également associée à Neuronpedia, une plateforme open source qui permet d’explorer soi-même les modèles de langage de grande envergure (LLM), afin de proposer une démonstration pratique accessible à tous.
Cette actualité s’inscrit dans une dynamique plus large qui mérite d’être suivie.
À découvrir aussi :
- Fidji Simo quitte son poste de numéro 2 chez OpenAI | TechCrunch
- Le système de détection des « deepfakes » de Google a permis de démasquer une fausse photo de McConnell | TechCrunch
- Robbyant lance LingBot-VLA 2.0 : un modèle open source 6B de type « vision-langage-action » (VLA) destiné à la manipulation robotique inter-incarnation
Article original : MIT Technology Review : MIT Technology Review