Voici une annonce qui mérite l’attention des observateurs du secteur.
OpenAI cherche à prendre l’avantage sur Anthropic grâce à de nouvelles mesures de protection de la vie privée des clients | TechCrunch
À mesure que les modèles d’IA gagnent en puissance, le risque de voir ces modèles faire l’objet d’utilisations abusives s’accroît — tout comme les appels en faveur de mesures de sécurité capables d’empêcher de tels abus. Les entreprises spécialisées dans l’IA doivent désormais trouver un équilibre délicat entre le respect de la vie privée de leurs clients professionnels et la surveillance de l’utilisation de leurs services afin de détecter d’éventuels problèmes.
Il faut souligner, voyant là une occasion de prendre l’avantage sur son rival Anthropic, OpenAI vient d’annoncer une approche de sécurité axée sur la confidentialité pour détecter les utilisations abusives. La société propose actuellement en avant-première à certains clients un nouveau service baptisé « Private Safety Processing ». Il s’agit d’un système automatisé qui surveille les abus potentiels sans conserver aucune donnée du client.
De plus, ce système va clairement à l’encontre de la politique de conservation des données récemment annoncée par Anthropic. Cette politique, qui a suscité le mécontentement de certains clients, permet au laboratoire d’IA de conserver les éléments des utilisateurs finaux (l’intégralité de leurs sessions, par conséquent que les conversations qui y ont lieu) pendant une période de 30 jours, en ce qui concerne les « modèles concernés ». Ces modèles comprennent tous les modèles de la classe Mythos ainsi que les « futurs modèles dotés de capacités similaires », précise l’entreprise.
D’un autre côté, cette politique, annoncée en juillet, a été mise en place pour des raisons de sécurité, afin de permettre au laboratoire de filtrer et d’analyser d’éventuelles irrégularités. Elle a toutefois suscité de vives inquiétudes chez certaines entreprises qui traitent de grandes quantités de données sensibles et ne souhaitent pas que celles-ci soient conservées (ou inspectées) par le laboratoire d’IA.
À ce sujet, openAI — à l’instar de la plupart des autres firmes spécialisées dans l’IA — garantit déjà à ses clients un certain niveau de confidentialité en appliquant une politique dite de « zéro conservation des données » (Zero Data Retention, ZDR). Le dispositif ZDR utilise des agents intégrés à l’API d’OpenAI pour surveiller les abus session par session. De cette manière, les données des clients ne sont pas conservées par l’entreprise, mais celle-ci reste capable de détecter les activités suspectes sans intervention humaine. Il convient de noter qu’Anthropic respecte également dans une large mesure le principe du ZDR — sauf en ce qui concerne les « modèles couverts », comme Fable.
Par ailleurs, openAI affirme que le « Private Safety Processing » est une dernière technologie qui élargit le champ d’application du ZDR. L’entreprise la décrit comme une forme de surveillance de la sécurité à long terme qui évalue les entrées et les sorties de plusieurs conversations — et non d’une seule. Là encore, la surveillance est assurée par un agent qui, lorsqu’il est déclenché, capture les interactions et les analyse sur l’ensemble des sessions afin de détecter tout signe d’utilisation abusive potentielle.
Dans le même temps, cette dernière technologie offre la possibilité à OpenAI de détecter les utilisations malveillantes de l’IA qui s’étendent sur plusieurs sessions, a déclaré un porte-parole à TechCrunch. Un acteur malveillant — par exemple, une personne cherchant à concevoir un logiciel malveillant en vue d’une cyberattaque — pourrait répartir ses requêtes dans le temps afin d’échapper à la détection. Le « Private Safety Processing » autorise d’analyser ces multiples conversations à la recherche de signes d’abus, sans qu’il soit nécessaire de faire examiner les conversations d’un utilisateur par un être humain.
Cette actualité s’inscrit dans une dynamique plus large qui mérite d’être suivie.
À lire également :
Information rapportée par TechCrunch AI : TechCrunch AI