Les dernières heures ont apporté leur lot d’informations dans l’écosystème IA.
Certains utilisateurs de Claude sont furieux à l’idée que les nouveaux filigranes d’Anthropic puissent les prendre en flagrant délit d’utilisation de l’outil au travail ou en cours | TechCrunch
Anthropic a récemment décidé d’apposer un filigrane sur les contenus générés par Claude, en insérant un code invisible dans le texte produit par le chatbot afin d’indiquer qu’il a été généré par une IA.
À ce sujet, anthropic a mis en place cette nouvelle politique afin de se conformer au code de transparence de la loi européenne sur l’IA, qui impose désormais aux entreprises technologiques d’étiqueter les contenus générés ou modifiés par l’IA de manière à ce qu’ils soient identifiables par les systèmes informatiques. Pour autant, si les régulateurs européens s’en réjouissent, certains utilisateurs de l’IA ne partagent clairement pas cet enthousiasme.
Il suffit de jeter un œil sur Reddit pour constater les signes d’un mécontentement grandissant, même si d’autres internautes du site ne partagent pas cet avis. L’un des messages les plus théâtraux que j’ai pu lire provenait d’un utilisateur nommé visionode, dont le compte n’a, fait remarquable, que trois semaines d’existence. Selon Visionode, ce nouveau système de filigrane est un complot draconien visant à persécuter les utilisateurs innocents de chatbots à travers le monde.
L’argument principal de Visionode semble être que, si les utilisateurs avertis de Claude peuvent parvenir à dissimuler les traces de leur utilisation de l’IA en paraphrasant ou en « nettoyant » leurs résultats à l’aide d’autres services d’IA, l’utilisateur lambda de Claude, lui, se fera prendre.
« Qui va se faire prendre ? Vous. L’étudiant qui a utilisé Claude pour réorganiser un paragraphe. Le journaliste qui a demandé à l’IA de résumer une transcription de deux cents pages. L’écrivain en panne d’inspiration qui a cherché des synonymes. Ces gens-là ressortent de ce processus avec un tatouage numérique sur le front. »
Fait intéressant, loin de moi l’idée de minimiser l’indignation de visionode, mais ce ne sont pas là les meilleurs exemples. Un journaliste qui demande à une IA de résumer une transcription de deux cents pages ne sera pas gêné par un filigrane apposé sur ce résumé, à moins qu’il ne copie-colle le résumé mot pour mot dans son article — ce qui est manifestement contraire à l’éthique et ne devrait pas se produire.
Il est tout aussi contraire à l’éthique qu’un étudiant copie-colle le texte généré par Claude dans une dissertation après lui avoir demandé de « réorganiser un paragraphe ».
D’autres utilisateurs de Reddit ne se sont pas non plus montrés particulièrement compréhensifs face à l’indignation de l’auteur du message.
Ce qu’il faut garder à l’esprit :
- Loin de moi l’idée de minimiser l’indignation de visionode, mais ce ne sont pas là les meilleurs exemples.
- D’autres utilisateurs de Reddit ne se sont pas non plus montrés particulièrement compréhensifs face à l’indignation de l’auteur du message.
Un dossier qu’il faudra continuer à observer dans les mois à venir.
Sur le même sujet :
- Accel clôture en quelques semaines un fonds indien de 550 millions de dollars, sursouscrit, 19 mois après son dernier | TechCrunch
- OpenAI lance l’application de bureau ChatGPT pour Linux | TechCrunch
Information publiée en premier lieu par TechCrunch AI : TechCrunch AI