Nouvelle étape franchie dans l’univers des technologies d’intelligence artificielle.
Améliorer la traçabilité des contenus pour un écosystème d’IA plus sûr et plus transparent
Aider le public à comprendre l’origine des contenus générés par l’IA grâce aux « Content Credentials », à SynthID et à un plateforme de vérification accessible au grand public dès sa phase initiale.
De plus, chaque jour, les usagers se servent des outils d’OpenAI pour créer et modifier des images et des fichiers audio, rendant ainsi la communication plus expressive, plus utile et plus accessible. À mesure que ces outils s’intègrent dans la manière dont les gens créent, imaginent et partagent, il est important qu’ils puissent comprendre et vérifier la provenance de ces contenus afin de les interpréter en toute confiance. Les indicateurs de provenance peuvent être utiles en fournissant aux usagers des informations sur l’origine d’un contenu, la manière dont il a été créé ou modifié, et s’il correspond bien à ce qu’il prétend être.
Par ailleurs, aujourd’hui, nous renforçons notre approche en matière de traçabilité des contenus grâce à un modèle à plusieurs niveaux, axé sur l’écosystème, visant à instaurer la confiance en ligne. Nous facilitons la reconnaissance de nos indicateurs de provenance par d’autres outils et plateformes grâce à la conformité à la norme C2PA, nous ajoutons un filigrane SynthID multiplateforme et durable aux images dans le cadre d’un partenariat avec Google, et nous présentons un aperçu d’un logiciel que le public pourra mettre à profit pour vérifier si des images proviennent d’OpenAI.
Ensemble, ces mises à jour s’inscrivent dans la continuité de nos travaux antérieurs visant à promouvoir les normes ouvertes, à faciliter l’identification des contenus générés par OpenAI et à favoriser la collaboration au sein du segment afin de contribuer à un écosystème de l’information plus fiable.
OpenAI s’engage dans le développement et l’adoption de normes de provenance depuis 2024, date à laquelle nous avons commencé à ajouter des « Content Credentials » aux images générées par DALL·E 3(s’ouvre dans une nouvelle fenêtre), puis à celles d’ImageGen(s’ouvre dans une nouvelle fenêtre) et de Sora(s’ouvre dans une inédite fenêtre). Nous avons également rejoint le comité directeur de la Coalition for Content Provenance and Authenticity (C2PA), le groupe intersectoriel à l’origine de la norme technique ouverte relative à la provenance des contenus. L’approche technique de C2PA s’appuie sur des métadonnées et des signatures cryptographiques pour permettre aux informations relatives à un contenu multimédia d’accompagner ce dernier en toute sécurité. Ces informations fournissent un contexte utile aux journalistes pour évaluer une source, aux plateformes pour prendre des décisions en matière d’intégrité, et aux internautes pour mieux comprendre ce qu’ils voient en ligne.
Nous avons récemment pris la décision de faire d’OpenAI un produit générateur conforme à la norme C2PA(s’ouvre dans une nouvelle fenêtre). En nous conformant à la norme C2PA, nous offrons aux plateformes un moyen fiable de lire, de conserver et de transmettre les informations de provenance que nous associons à notre contenu. Cela est important car la provenance n’a de sens que si elle perdure au-delà de la première plateforme sur laquelle le contenu est créé, et la conformité rend cela possible.
Les métadonnées C2PA constituent un pilier essentiel de la traçabilité. Elles permettent au contenu de contenir des informations sur son origine, la manière dont il a été créé ou modifié, de ce fait que l’identité de la personne qui a validé ces informations. Cependant, les métadonnées ne sont pas infaillibles. Il peut être supprimé, perdu lors des téléchargements ou des transferts, ou endommagé par des opérations telles que les changements de format de fichier, le redimensionnement ou la capture d’écran.
Précisons, afin de renforcer la fiabilité de la traçabilité, nous adoptons une approche à plusieurs niveaux et intégrons la technologie de filigrane SynthID (s’ouvre dans une nouvelle fenêtre) de Google DeepMind, en commençant par les images générées via ChatGPT, Codex ou l’API OpenAI. SynthID intègre une couche de filigrane invisible qui vient compléter les approches basées sur les métadonnées de la norme C2PA.
Difficile à ce stade de prédire tous les impacts de cette annonce.
Sur le même sujet :
- Présentation d’OpenAI à Singapour
- OpenAI et Dell Technologies s’associent pour déployer Codex dans les environnements d’entreprise hybrides et sur site
Couverture originale : OpenAI : OpenAI