Les développements se succèdent à un rythme impressionnant dans l’IA.
Une faille fondamentale rend les modèles de langage de grande envergure (LLM) extrêmement vulnérables aux attaques
Cela permet de les amener facilement à faire des choses qu’ils ne devraient pas faire, comme vous expliquer comment saboter le dispositif de navigation d’un avion.
Il est impossible de garantir une sécurité totale des grands modèles linguistiques contre le piratage en raison d’une faille fondamentale dans leur fonctionnement, affirme une équipe de chercheurs dans un article présenté ce mois-ci lors de la Conférence internationale sur l’apprentissage automatique, l’un des principaux événements consacrés à l’intelligence artificielle. Cette affirmation a d’énormes implications pour la sécurité de cette technologie, qui est utilisée dans un nombre croissant d’applications, allant des systèmes gouvernementaux et militaires au commerce en ligne et aux soins de santé.
Les équipes de recherche ont d’abord cherché à évaluer à quel point il était facile d’inciter les modèles de langage de grande envergure (LLM) à se comporter de manière inappropriée.
En exploitant cette faille, qui concerne la manière dont les modèles de langage de grande envergure (LLM) identifient qui ou quoi leur donne des instructions, les chercheurs ont réussi à amener des LLM fortement répandus à divulguer des informations qu’ils avaient été entraînés à ne pas fournir, telles que la méthode de synthèse de la cocaïne ou la manière de saboter le système de navigation d’un avion commercial.
En parallèle, « Il y a de fortes chances que ce problème soit fondamentalement insoluble », déclare Charles Ye, chercheur indépendant et coauteur de l’article publié dans le cadre de l’ICML.
Il faut souligner, les entreprises font généralement appel à des équipes de testeurs humains pour tenter de mettre au point de nouvelles attaques capables de contourner les mesures de sécurité existantes, un processus connu sous le nom de « red teaming ». Les concepteurs de modèles ont en outre recours à des « super-hackers » de grands modèles linguistiques (LLM) (tels que GPT-Red d’OpenAI) qui identifient et exploitent les failles d’autres modèles afin d’automatiser certaines étapes de ce processus. L’objectif est donc d’utiliser ces attaques pour entraîner un nouveau modèle capable de leur résister et de repérer tout ce qui leur ressemble.
Le problème, explique Jasmine Cui, une autre chercheuse indépendante et co-auteure de l’article, c’est que cette approche revient à fournir aux modèles une liste de ce qu’ils ne doivent pas faire. Cependant aucune liste n’est exhaustive. « C’est comme quand on regarde *Les Simpson* et qu’on voit Bart écrire cent fois “Je ne dirai rien de déplacé à mon professeur” », explique-t-elle. « Et pourtant, il continue quand même à faire des choses assez grossières. »
Les équipes de recherche ont d’abord cherché à évaluer à quel point il était facile d’inciter les modèles de langage de grande envergure (LLM) à se comporter de manière inappropriée. Ils ont découvert qu’en rédigeant des instructions dans un style imitant le texte généré par les LLM au cours de leur chaîne de réflexion — une sorte de bloc-notes que les modèles utilisent pour se prendre des notes pendant qu’ils effectuent des tâches —, on parvenait souvent à induire le LLM en erreur, l’amenant à se comporter comme s’il avait lui-même formulé cette instruction et à s’y conformer.
Les analystes auront matière à débattre dans les prochaines semaines.
À lire également :
- Comment Avatarin a mis en place un agent de vente disponible 24 h/24 et 7 j/7 grâce à GPT-Realtime
- Repousser les limites du rapport qualité-prix avec GPT-5.6
- Anthropic affirme que ses propres modèles d’IA ont réussi à pirater trois entreprises lors de tests de sécurité | TechCrunch
Reportage initial : MIT Technology Review : MIT Technology Review