Le domaine de l’IA connaît encore aujourd’hui une évolution intéressante.
OpenAI et l’organisme polonais NASK s’associent pour faire progresser la sûreté et la sécurité de l’IA
OpenAI et l’Institut national de recherche NASK de Pologne ont signé un accord visant à explorer les possibilités de collaboration dans les domaines de la sûreté et de la sécurité de l’IA, ainsi que de la recherche technique. Ce partenariat permettra de réunir l’expertise des deux organisations afin de mieux comprendre les risques émergents, de renforcer les mesures de protection et d’étudier comment l’IA de pointe peut contribuer à un écosystème numérique plus sûr et plus résilient.
À mesure que les systèmes d’intelligence artificielle gagnent en performances, la collaboration internationale entre les développeuses et développeurs et les instituts de recherche publics sera essentielle pour comprendre les risques qu’ils présentent et mettre en place des mesures de protection plus solides. La collaboration actuelle d’OpenAI avec le Center for Advancing Standards and Innovation for Super Intelligence (CAISSI) aux États-Unis, l’AI Security Institute (AISI) au Royaume-Uni et d’autres instituts de travaux de recherche publics à travers le monde a déjà contribué à renforcer les mesures de protection, à identifier et à corriger les failles de sécurité des agents d’IA, par conséquent qu’à faire progresser la sécurité de l’IA de pointe.
La collaboration avec le NASK illustre l’intérêt d’intégrer une expertise nationale à cette initiative de plus grande envergure.
Dans le cadre de cet accord, le Centre de recherche sur la sécurité de l’IA de la NASK – qui fait office d’Institut polonais pour la sécurité de l’intelligence artificielle (AISI) – et OpenAI collaboreront à la recherche sur la sécurité de l’IA, en explorant des moyens d’évaluer des systèmes d’IA de plus en plus performants, d’identifier leurs vulnérabilités potentielles et de renforcer les mesures de protection.
OpenAI a appelé les États-Unis à collaborer avec les pays du monde entier à l’élaboration de normes techniques internationales relatives à l’IA de pointe, en s’appuyant sur l’expertise des instituts spécialisés dans la sécurité de l’IA et des organismes de normalisation. La mise en place d’approches communes pour évaluer les compétences, analyser les risques, tester les mesures de protection et signaler les incidents peut aider les pays à comparer leurs données et à faire face aux risques transfrontaliers. La collaboration avec le NASK illustre l’intérêt d’intégrer une expertise nationale à cette initiative de plus grande envergure.
Dans le cas du NASK, cette expertise repose sur des travaux de recherche approfondis en matière de sécurité de l’IA, directement mis au service de la protection des services publics et de l’écosystème de l’information numérique en Pologne. Sans partenaires nationaux tels que le NASK, les normes mondiales en matière de sécurité de l’IA risquent de rester déconnectées des réalités dans lesquelles l’IA est réellement utilisée.
Cet accord s’inscrit par ailleurs dans le prolongement de la collaboration existante entre OpenAI et les acteurs de la cybersécurité en Pologne. En juillet, le CERT Polska, qui opère au sein du NASK, a obtenu l’accès(s’ouvre dans une nouvelle fenêtre) aux modèles d’OpenAI spécialisés dans la cybersécurité via Daybreak. L’équipe a utilisé des modèles OpenAI pour identifier six vulnérabilités dans MikroTik RouterOS, notamment des failles pouvant être combinées pour prendre le contrôle des appareils concernés sans authentification. Le fournisseur a publié des correctifs qui, selon CERT Polska, ont permis d’empêcher les attaques qu’il avait observées.
Pour les professionnels du domaine, cette annonce mérite d’être surveillée.
À lire également :
- You.com lance « Inference Router » : 12 modèles à poids variables avec un SLA garantissant une disponibilité de 99,9 %
- Comment AT&T repense ses activités juridiques internes grâce à OpenAI
Information publiée en premier lieu par OpenAI : OpenAI