Une conservation des éléments nulle pour les modèles de pointe

Le domaine de l’IA connaît encore aujourd’hui une évolution intéressante.

Une conservation des éléments nulle pour les modèles de pointe

Présentation de « Private Safety Processing », une fonctionnalité qui renforce la sécurité lors des interactions tout en restant compatible avec ZDR.

La politique de « zéro conservation des données » offre aux clients API éligibles une garantie claire : OpenAI ne conserve ni leurs requêtes ni les réponses générées par les modèles une fois la requête traitée. Le contenu des clients n’est pas accessible au personnel d’OpenAI à des fins d’examen¹, et les éléments des clients professionnels ne sont pas utilisées pour entraîner nos modèles, sauf si les clients y consentent explicitement.

À mesure que les modèles se voient confier des tâches plus longues et plus complexes, certains risques graves peuvent ne devenir visibles qu’au fil de multiples interactions. Les systèmes de sécurité existants compatibles avec le ZDR évaluent chaque interaction individuellement. Aujourd’hui, nous vous présentons en avant-première le « Private Safety Processing », conçu pour identifier des schémas récurrents dans des interactions liées entre elles, sans que le personnel d’OpenAI ait accès au contenu sous-jacent.

Dans le cadre des déploiements ZDR, le contenu des clients reste sur l’infrastructure qu’ils contrôlent. Nous développons par ailleurs une option permettant de stocker le contenu sur l’infrastructure d’OpenAI, chiffré à l’aide de clés contrôlées par le client. Dans les deux cas, les systèmes automatisés peuvent détecter les utilisations abusives potentielles et renvoyer des signaux d’alerte limités sans dévoiler les invites ou les réponses sous-jacentes au personnel d’OpenAI.

D’un autre côté, les risques les plus graves liés à la sécurité de l’IA ne sont pas toujours perceptibles au cours d’une seule interaction. Souvent, les intentions potentiellement nuisibles n’apparaissent clairement que lorsque l’on examine divers interactions dans leur ensemble. Des risques similaires peuvent survenir lorsque des acteurs malveillants testent à plusieurs reprises les dispositifs de protection, se coordonnent entre différents comptes ou font passer leurs menaces pour des recherches de routine. Des risques peuvent en outre apparaître au cours d’une tâche impliquant une action autonome — par exemple, si un mécanisme se désaligne par rapport à l’intention de l’utilisateur en continuant à agir alors qu’on lui a demandé d’arrêter.

À mesure que les systèmes d’IA se voient confier des tâches plus longues et plus complexes, ce contexte plus large revêt une importance croissante pour distinguer les activités légitimes des utilisations abusives et garantir que les agents d’IA restent dans les limites des prérogatives qui leur ont été attribuées.

Certaines mises en œuvre récentes de modèles « frontier » ont obligé les clients à autoriser leur fournisseur d’IA à conserver des contenus sensibles à des fins de surveillance de la sécurité. Pour de nombreuses organisations, ces exigences entrent en conflit avec leurs obligations en matière de sécurité ou leurs engagements envers les personnes qu’elles servent.

Le traitement de la sécurité privée est conçu pour nous permettre de continuer à proposer le ZDR.

Difficile à ce stade de prédire tous les impacts de cette annonce.

À lire également :

Reportage initial : OpenAI : OpenAI