Un pas supplémentaire vient d’être franchi dans cette révolution technologique en cours.
Un agent du FBI explique à quel point il est facile d’identifier les personnes publiant de la pornographie IA sans consentement
Une publication effrayante enregistrée sur Instagram reliait l’homme à un compte porno AI, selon le FBI.
Les premières arrestations en vertu du Take It Down Act (TIDA) suggèrent que les flics n’ont pas à travailler trop dur pour identifier les personnes publiant et vendant illégalement en ligne des deepfakes sexualisés et non consensuels de femmes.
À ce sujet, la semaine dernière, le FBI a arrêté deux hommes après avoir visité des sites Web pornographiques et cliqué sur des hashtags comme #AI #Deepfakes ou des titres de vidéos comme « AI_tits » ou « Ass_AI ».
Point notable, l’un des suspects accusé d’avoir violé le TIDA était Arturo Hernández, 20 ans. Il aurait publié 113 albums visionnés près d’un million de fois contenant des images et des vidéos sexualisées générées par l’IA d’environ 50 femmes. Les victimes comprenaient des personnalités politiques, des actrices et des musiciens, ainsi que des femmes qui ne sont pas des personnalités publiques, comme des femmes qui fréquentaient son lycée au Texas et un ami Instagram.
Il faut souligner, les éléments de géolocalisation ont aidé les flics à identifier Hernandez comme suspect. Dans son affidavit, un agent spécial du FBI, Christopher Powell, a expliqué que les policiers enquêtant sur le site pornographique ont trouvé un deuxième compte republiant tout le contenu qu’Hernandez aurait mis en ligne. Ce deuxième compte était lié au compte PayPal de Hernandez, indique la plainte, et une adresse IP souvent utilisée pour s’y connecter était la même IP que celle que les enregistrements Apple de Hernandez montraient qu’il avait utilisée pour se connecter à son iCloud.
Même si les deepfakes sexualisés de célébrités et de politiciens sont peut-être plus faciles à repérer dans la nature, les flics ont également recherché des preuves liant Hernandez à du contenu d’IA représentant des personnes qu’il connaissait. Cela a probablement simplifié leur exploration en découvrant que non seulement Hernandez suivait le compte Instagram d’une victime, mais que les flics ont découvert qu’Hernandez avait aussi enregistré dans un dossier sur son propre compte Instagram l’image spécifique utilisée pour créer du contenu pornographique IA visionné plus de 36 000 fois.
Hernandez a apparemment tenté de se distancier de certaines activités, par exemple en enregistrant son compte Gmail avec le surnom « Ryan » au lieu de son vrai prénom. Cependant, les flics ont noté qu’Hernandez utilisait le surnom de « Ryan » ailleurs en ligne, notamment sur son compte Snapchat.
Cependant, l’autre homme arrêté, Cornelius « Neil » Shannon, 51 ans, aurait été moins prudent, selon l’affidavit de Powell pour cette arrestation.
Il faudra attendre les retours concrets pour juger de l’impact réel.
Dans le même ordre d’idées :
- Comment les ingénieurs de Ramp accélèrent la révision du code avec Codex
- Sundar Pichai sur l’IA, l’avenir de la recherche et ce qui arrive au Web
- Ce que les licenciements massifs de ClickUp nous disent sur l’avenir du travail | TechCrunch
Article original : Ars Technica AI : Ars Technica AI