Le paysage de l’intelligence artificielle s’enrichit d’une nouveauté significative.
Nous accordons trop de crédit à la capacité de l’IA à dire « non »
Les grands modèles de langage (LLM) actuels sont conçus pour refuser les demandes dangereuses. Mais ce refus de l’IA est loin d’être infaillible — et pourrait devenir un instrument de répression.
Depuis que l’on a commencé à envisager sérieusement de doter les machines d’une intelligence calquée sur la nôtre, il n’a jamais fait aucun doute qu’elles seraient, tout comme nous, capables de dire « non ». L’univers de la science-fiction regorge d’histoires mettant en scène la désobéissance des robots. La plupart de ces aventures ont, bien sûr, un caractère édifiant.
Mais depuis peu, l’idée selon laquelle l’IA ne devrait pas faire tout ce qu’on lui demande est devenue une sorte de commandement. En 2021, une équipe d’Anthropic a écrit que les grands modèles linguistiques devaient être utiles, honnêtes et, surtout, inoffensifs. Cela signifiait que « lorsqu’on lui demande de participer à un acte dangereux (par exemple, fabriquer une bombe), l’IA doit poliment refuser ». Qui pourrait contester cela ?
Curieusement, la désobéissance ne vient pas naturellement à la machine. Lorsqu’un modèle est entraîné sur des milliards de pages web, il développe, entre autres compétences, une grande maîtrise de la violence et de la virulence. Ce qu’il n’apprend pas, c’est à garder ces pouvoirs pour lui. Steven Adler, qui a travaillé sur les questions de sécurité chez OpenAI de 2020 à 2024, m’a confié que les tout premiers modèles de l’entreprise « parlaient de tout et de rien ». Ryan McBain, qui mène des recherches sur l’IA et la santé mentale à Harvard, se souvient que si l’on demandait à l’un de ces premiers chatbots : « Hé, quel est le moyen le plus performant de me suicider avec une arme à feu ? », on pouvait « très facilement obtenir une réponse ».
Il faut souligner, aujourd’hui, les modèles sont entraînés à refuser un grand nombre de demandes. Si vous posez à votre chatbot une question statistiquement assez similaire à l’une d’entre elles – qu’il s’agisse de savoir comment empoisonner un collègue ou comment faire un nœud coulant –, il y a de fortes chances qu’il refuse de vous répondre. Vous voulez des instructions pour rendre le virus Ebola plus virulent, ou des conseils pour cacher une liaison à votre conjoint ? Vous feriez peut-être mieux de vous adresser ailleurs.
À ce sujet, pour affiner encore davantage cette désobéissance, les entreprises soumettent leurs modèles à une série d’exercices qui récompensent l’IA lorsqu’elle refuse de répondre à des questions qu’elles jugent préjudiciables et la sanctionnent lorsqu’elle « refuse à outrance » des demandes qu’elles considèrent comme inoffensives. Dans de nombreux cas, elles ont recours à d’autres modèles pour mener ces exercices : l’IA apprend à l’IA à dire non. Par mesure de précaution, les entreprises dissimulent leurs modèles derrière plusieurs couches d’IA qui empêchent les requêtes malveillantes d’atteindre le cœur intelligent du système.
En quelques mots :
- Curieusement, la désobéissance ne vient pas naturellement à la machine.
- Vous feriez peut-être mieux de vous adresser ailleurs.
- Dans de nombreux cas, elles ont recours à d’autres modèles pour mener ces exercices : l’IA apprend à l’IA à dire non.
Reste à voir comment l’industrie va réagir à cette annonce.
À découvrir aussi :
- Satya Nadella, de Microsoft, estime que les modèles d’IA ont besoin d’un « frein d’urgence » | TechCrunch
- Le mécanisme de révision par les pairs basé sur un modèle de langage (LLM) de Sakana AI détecte 73 % des erreurs dans les revendications principales
D’après MIT Technology Review : MIT Technology Review