Un pas supplémentaire vient d’être franchi dans cette révolution technologique en cours.
Anthropic donne plus de détails sur le fonctionnement des nouveaux filigranes de Claude | TechCrunch
Anthropic a publié vendredi un article de blog visant à répondre à certaines questions fondamentales sur la manière dont l’entreprise va apposer un filigrane sur le texte généré par son chatbot Claude. Par exemple : comment ce filigrane fonctionnera-t-il concrètement ? Peut-il être masqué lors de l’édition ? Et quel impact cela aura-t-il sur le code ?
Les utilisateurs de Claude débattent de cette mesure depuis que l’entreprise a annoncé, en début de semaine, qu’elle allait mettre en place ce système de filigrane afin de se conformer au code de transparence de la loi européenne sur l’IA, qui impose aux entreprises du segment de l’IA d’utiliser des systèmes permettant d’identifier les contenus générés par l’IA.
Sur Reddit, par exemple, un internaute a qualifié cette situation de complot contre les utilisateurs innocents de Claude, tandis qu’un autre a affirmé : « La seule raison pour laquelle on ne voudrait pas de ça, c’est pour mentir aux gens. » Et Business Insider rapporte que « des dizaines » d’utilisateurs sur X ont déclaré avoir résilié leur abonnement à Claude en conséquence.
À relever, le nouvel article d’Anthropic commence par un aperçu général du concept de « watermarking », expliquant que lorsqu’on effectue des « choix sans enjeu » — comme choisir entre les mots « couvert » et « gris » pour décrire le temps —, Claude peut créer dans ses réponses un motif « indétectable pour le lecteur, cependant détectable par quiconque dispose d’une clé permettant de le décoder ».
Point notable, « Le tatouage numérique n’a aucune incidence sur la qualité des résultats fournis par Claude », a déclaré l’entreprise. « Pour un lecteur, une réponse comportant un tatouage numérique est impossible à distinguer d’une réponse qui n’en comporte pas. »
Précisons, plus précisément, Anthropic a indiqué qu’elle utiliserait l’approche SynthID-Text présentée par l’équipe de Google DeepMind en 2024, et qu’elle prévoyait de lancer une API de détection des filigranes. Il a aussi souligné que le tatouage numérique se distingue des méthodes de détection de l’IA proposées par des entreprises telles que Pangram, qui recherchent des « indices » dans le texte (comme la construction « ce n’est pas [X], c’est [Y] ») pour révéler l’utilisation de l’IA : « La détection de ces schémas est fondamentalement différente de la recherche d’un filigrane. »
Quelqu’un pourrait-il simplement réécrire le texte pour masquer le filigrane ? Anthropic a indiqué que c’était possible, mais que « une modification légère ne suffirait probablement pas à supprimer complètement le filigrane », tandis qu’« une réécriture complète, où chaque mot serait remplacé, y parviendrait ».
À ce sujet, « Dans ce dernier cas, bien sûr, on peut se demander si le texte peut encore être qualifié de généré par l’IA », a déclaré l’entreprise.
En quelques mots :
- Quelqu’un pourrait-il simplement réécrire le texte pour masquer le filigrane ?
- « Dans ce dernier cas, bien sûr, on peut se demander si le texte peut encore être qualifié de généré par l’IA », a déclaré l’entreprise.
Reste à voir comment l’industrie va réagir à cette annonce.
À lire également :
- Z.ai lance la version GLM-5.3 sans réentraînement du modèle de base : des performances améliorées pour le codage complexe et les tâches à long terme
- OpenAI et Anthropic se livrent une guerre des prix alors que leurs concurrents chinois dans le domaine de l’IA gagnent du terrain
Article original : TechCrunch AI : TechCrunch AI