L’actualité tech du jour met en lumière un développement significatif.
xAI ne peut plus nier que Grok produit du matériel pédopornographique. L’entreprise poursuit donc les utilisateurs finaux en justice.
La société xAI d’Elon Musk intente une première action en justice contre un utilisateur de Grok accusé d’avoir produit des images à caractère sexuel mettant en scène des enfants.
À ce sujet, face à la pression croissante qui l’incite à reconnaître que Grok peut toujours être utilisé pour générer des images à caractère sexuel non consenties d’adultes et de mineurs, xAI a déposé mardi une plainte contre le premier utilisateur que la société d’Elon Musk a accusé d’utiliser son chatbot pour créer du contenu illégal.
Notons par ailleurs, la plainte vise Terry Wayne Harwood, qui a été arrêté en début d’année pour possession et diffusion de contenus pédopornographiques (CSAM), a dévoilé le parquet de Caroline du Sud.
Comme l’a affirmé xAI, l’entreprise a contribué à cette arrestation après avoir découvert que Harwood utilisait depuis des mois deux comptes xAI pour dénuder ou « nudifier » des images non sexuelles de plusieurs victimes, dont une jeune fille qui semblait n’avoir que 10 ans.
En complément, la plainte déposée par xAI intervient un peu plus d’une semaine après qu’une autre jeune fille s’est jointe à un projet de recours collectif représentant divers enfants qui auraient subi un préjudice causé par Grok. Elle a affirmé que son beau-père s’était suicidé après avoir été découvert en train d’se servir de Grok, peut-être en association avec d’autres outils d’IA, pour créer 7 000 images à caractère sexuel la représentant, puis les diffuser sur le dark web.
Dans cette affaire, la victime a affirmé que xAI avait refusé d’aider la police à identifier l’utilisateur qui avait mis en ligne sa photo sur Grok. Pour étayer leurs allégations selon lesquelles il s’agit d’une pratique courante chez xAI, ses avocats ont cité un rapport de 2026 du Centre national pour les enfants disparus et exploités (NCMEC) confirmant que 90 % des signalements transmis par xAI via la CyberTipline « n’ont pas pu donner lieu à des poursuites judiciaires car xAI a refusé de fournir les informations sur les utilisateurs qui auraient permis aux forces de l’ordre de retrouver et de localiser les auteurs des faits ».
Les prochaines semaines permettront d’en mesurer la portée réelle.
À lire également :
- xAI poursuit un homme en justice pour avoir utilisé Grok afin de générer des « deepfakes » représentant du matériel pédopornographique
- X, la plateforme de Musk, représente « un risque sérieux pour la vie privée des Américains », avertissent des défenseurs des droits auprès de la FTC
- SpaceX dispose d’un prototype d’appareil doté d’une IA, et celui-ci ressemble fort à un téléphone | TechCrunch
Information rapportée par Ars Technica AI : Ars Technica AI