Un nouveau jalon vient d’être franchi dans l’univers de l’intelligence artificielle.
Meta a diffusé des publicités pour une application promettant de « dénudifier » des femmes politiques
L’une de ces publicités présentait une vidéo pornographique utilisant un « deepfake » ressemblant fortement à un homme politique américain.
L’application Kromix, qui était hébergée sur l’App Store d’Apple avant que le magazine WIRED ne sollicite ses commentaires, invite les utilisateurs payants à télécharger des photos afin de pouvoir les utiliser dans des scénarios tels que « viol dans une chambre » et « amour à la Disney ». L’application propose également des vidéos pornographiques générées par IA mettant en scène des femmes vêtues de costumes de Spider-Man. Les demandes de commentaires adressées à un contact indiqué dans l’application sont restées sans réponse.
Apple a eu du mal à empêcher la mise en ligne sur l’App Store d’outils similaires, qui enfreignent ses règles interdisant les images intimes non consenties, la « nudification » et les contenus sexuellement explicites. Le procureur municipal de San Francisco a adressé à l’entreprise, au début de l’été, une lettre de mise en demeure lui enjoignant de retirer 13 applications spécifiques et de cesser de « faciliter et d’encourager » la vente d’images « deepfake » à caractère explicite.
Autre élément, selon la bibliothèque publicitaire de Meta, ces publicités ciblaient exclusivement des utilisateurs finaux masculins avec le slogan « Libérez la magie de l’IA nouvelle génération » et ont été retirées après que WIRED s’en soit enquise. Au total, le compte lié à cette campagne a diffusé 32 publicités, selon Meta, dont la durée de diffusion variait entre 5 et 46 heures. La plupart ont généré 10 impressions ou moins.
Katie Paul, directrice du Tech Transparency Project, qui a mis au jour ces publicités, déclare : « Toutes les publicités que nous avons vues jusqu’à présent concernant le phénomène du « nudify » ont pour seul objectif de sexualiser et de dénuder les femmes, puis de les intégrer dans du contenu pornographique généré par l’IA. » « Cela soulève de nombreuses questions sur la manière dont Meta va gérer ce type de contenu, non seulement de manière générale, mais aussi en ce qui concerne les femmes politiques, alors que l’entreprise diffuse activement des publicités contenant ce type de contenu sur sa plateforme. »
Depuis des années, les personnalités politiques et les élus, en grande majorité des femmes, sont la cible d’images et de vidéos « deepfake » réalisées sans leur consentement. En janvier, alors que l’outil Grok avait été utilisé pour créer environ 3 millions d’images à caractère sexuel représentant des femmes et des jeunes filles, des responsables politiques en Suède, en Angleterre et en Irlande du Nord ont été pris pour cible par des personnes utilisant cette technologie, qui s’appuyaient souvent sur des images officielles comme point de départ.
« À mesure que la production et la diffusion de contenus générés par l’IA se sont démocratisées, des médias autrefois inoffensifs — portraits officiels, vidéos de conférences de presse — sont devenus la matière première d’outils « low-code » ou « no-code » que toute personne disposant d’une connexion Internet peut utiliser », explique Benjamin Shultz, chercheur principal à l’American Sunlight Project, qui étudie comment l’écosystème de la technologie des deepfakes malveillants est utilisé pour cibler les responsables politiques.
Cette nouvelle étape pose plusieurs questions qui restent ouvertes.
Sur le même sujet :
- AWS apporte son soutien à Superblocks, une start-up spécialisée dans le « vibe-coding », et les implications sont considérables | TechCrunch
- Dix avancées en mathématiques et en informatique théorique
- Meta teste une application d’histoires pour s’endormir générées par l’IA, destinée aux personnes en manque d’imagination | TechCrunch
Source originale : Ars Technica AI : Ars Technica AI