Cette semaine apporte son nouveau chapitre dans le grand livre de l’IA.
Le système de détection des « deepfakes » de Google a permis de démasquer une fausse photo de McConnell | TechCrunch
Le système SynthID de Google a permis de démasquer une image truquée très médiatisée générée par l’IA, ce qui constitue une victoire rare mais importante pour ce mécanisme.
En début de semaine, une photo a circulé sur Internet qui semblait montrer le sénateur du Kentucky Mitch McConnell, relié à de nombreux tubes dans un lit d’hôpital, dans un état de grande détresse. L’image a été largement partagée sur Reddit et X, mais dès mercredi, le site de vérification des faits Snopes, très respecté, avait démenti cette information, soulignant qu’après vérification, l’image comportait le filigrane SynthID conçu par Google pour identifier les images générées par l’IA.
En résumé, le filigrane a fonctionné exactement comme prévu, ce qui constitue une victoire pour les technologies de lutte contre les deepfakes.
La santé du sénateur McConnell fait l’objet de nombreuses spéculations depuis son admission à l’hôpital à la suite d’un appel d’urgence le 14 juin. Depuis lors, il s’est largement tenu à l’écart de la scène publique, ce qui a alimenté les rumeurs selon lesquelles sa santé serait en déclin. Dans ce cas précis, cependant, les informations se sont avérées être entièrement fausses.
Lancé lors de la conférence des développeurs I/O de Google en 2025, SynthID fonctionne comme une signature invisible, détectable par les algorithmes SynthID toutefois conçue pour passer inaperçue aux yeux d’un observateur lambda. Comme cette signature est intégrée à l’image elle-même, elle subsiste même lorsqu’une capture d’écran de l’image est réalisée sur plusieurs plateformes, comme ce fut le cas pour l’image de McConnell.
Notons par ailleurs, la principale limite de SynthID réside dans le fait qu’il ne peut être utilisé que lorsqu’un outil de génération d’images participe activement au programme. Les modèles Gemini intègrent ce filigrane depuis le introduction du programme en 2025. OpenAI a rejoint le programme en mai 2026, dans le cadre d’une initiative plus large visant à lutter contre la génération d’images malveillantes. Anthropic ne participe pas au programme.
D’un autre côté, les utilisateurs peuvent vérifier si les images contiennent ce filigrane en interrogeant un modèle Gemini ou en les téléchargeant sur l’outil public de vérification d’images d’OpenAI.
Les acteurs concernés devront s’adapter à ce nouveau contexte.
Dans le même ordre d’idées :
- Distinguer le signal du bruit dans les évaluations de codage
- Le inédit modèle « Muse Image » de Meta rend possible d’intégrer d’autres utilisateurs d’Instagram dans des photos générées par l’IA
- Pourquoi l’essor de l’IA open source ne nuit pas à Anthropic… pour l’instant | TechCrunch
Article original : TechCrunch AI : TechCrunch AI