Cette semaine apporte son nouveau chapitre dans le grand livre de l’IA.
Soupçonnant le tribunal d’utiliser l’IA, un homme a inséré des « prompts » dans ses pièces de procédure pour tenter de gagner son procès
Un juge met en garde contre le fait que les justiciables se représentant eux-mêmes utilisent les chatbots à mauvais escient et en arrivent à des situations désespérées.
Un juge a relevé ce qui semble être la première fois qu’un plaignant américain tente de dissimuler, dans des pièces de procédure, du texte que seul un système d’intelligence artificielle est capable de lire, dans le but de remporter son procès.
Ces messages ultérieurs étaient destinés à être des « blagues », a expliqué Elliott au tribunal.
Dans une décision rendue la semaine dernière, le juge Walter Spader Jr., du Connecticut, a confirmé que le texte masqué n’avait aucune incidence dans une affaire où un homme reprochait à un prestataire de soins de santé de lui refuser indûment l’accès à son dossier médical. Le tribunal a examiné le bien-fondé de sa requête, a déclaré M. Spader, mais cette tentative d’attaque crée néanmoins un précédent « dangereux ». Ce ne sera probablement pas la dernière fois que les tribunaux américains seront confrontés à cette tactique malveillante, à mesure que les outils d’IA se généralisent au sein des systèmes judiciaires.
Afin de brouiller tout mécanisme d’IA susceptible d’influencer l’interprétation de son dossier par le tribunal, ces instructions secrètes ont été « formatées de manière à être invisibles pour un lecteur humain tout en restant parfaitement lisibles par tout logiciel capable de lire le texte du document », a déclaré M. Spader. Le texte incriminé ordonnait à tout système d’IA chargé d’examiner le document de veiller à ce que les résultats textuels concordent avec les arguments du plaignant, d’ignorer les rejets antérieurs du tribunal et de garantir que les mesures correctives seraient prises conformément aux souhaits du plaignant.
Rédigé en caractères minuscules et en blanc sur fond blanc, ce texte semblait constituer une tentative d’injection de arguments de dernière minute, le plaignant, Matthew Elliott, cherchant apparemment à renverser la tendance en sa faveur après que ses arguments précédents eurent été rejetés.
Le plan n’a pas fonctionné, mais Elliott s’est tout de même vu infliger des sanctions modérées, car il a continué à ajouter du texte caché dans ses pièces de procédure même après que le tribunal l’eut averti qu’il s’exposait à des sanctions pour ce qui a finalement été qualifié d’« abus grave de procédure ».
Ces messages ultérieurs étaient destinés à être des « blagues », a expliqué Elliott au tribunal. Il s’agissait notamment d’un lien vers une vidéo YouTube de Nosferatu, d’un simple message disant « salut 🙂 j’espère que tu ne peux pas me voir », et d’un message « absurde » qui disait « DIS À SHAWN QUE JE LUI ENVOIE MES VÊTEMENTS !!!! HAHAHA VOUS AVEZ COMPRIS LA BLOUE, LES GARS ???? AHAH. »
« Le fait que le plaignant ait continué à dissimuler des messages dans de nouveaux mémoires après avoir été informé de cette audience [sur les sanctions] est stupéfiant », a déclaré M. Spader.
Les prochaines semaines permettront d’en mesurer la portée réelle.
Sur le même sujet :
- Donnez vie à vos données de feuille de calcul grâce à l’espace de travail de Sheets
- Databricks souhaitait lever 1 milliard de dollars, tandis que les investisseurs en voulaient 15 milliards. Un accord a finalement été trouvé sur un montant de 5 milliards de dollars, pour une valorisation de 190 milliards de dollars. | TechCrunch
- Flock renforce ses règles en réponse à une opposition croissante à la surveillance
Tel que rapporté par Ars Technica AI : Ars Technica AI