Le domaine de l’IA connaît encore aujourd’hui une évolution intéressante.
Notre approche en matière de partenariats avec les pouvoirs publics et dans le domaine de la sécurité nationale
Les gouvernements commencent à recourir à des systèmes d’IA de pointe pour des missions de plus en plus importantes, notamment dans le domaine de la sécurité nationale. Cela impose de nouvelles exigences aux laboratoires d’IA, aux gouvernements et à la société civile, qui doivent désormais collaborer pour définir comment ces outils doivent être utilisés dans des contextes sensibles.
Nous estimons que les sociétés démocratiques devraient pouvoir recourir à l’IA pour protéger les citoyens, défendre les infrastructures critiques, fournir des services publics et faire face aux menaces émergentes, notamment dans des domaines tels que la cyberdéfense et la sécurité biologique, où l’IA peut apporter un avantage significatif aux défenseurs. Toutefois les systèmes d’IA, dont les capacités ne cessent de croître, doivent être mis en œuvre de manière à renforcer la responsabilité démocratique, le jugement humain éclairé et l’État de droit, et à consolider les institutions démocratiques plutôt qu’à concentrer le pouvoir.
Nous adoptons une approche similaire en matière de biosécurité.
D’un autre côté, nous publions aujourd’hui les principes d’OpenAI en matière de sécurité nationale afin d’assurer la transparence quant à notre approche des partenariats avec les pouvoirs publics et des utilisations de notre technologie à des fins de sécurité nationale.
Ces principes reflètent une démarche concertée à l’échelle de l’entreprise visant à mettre en place une approche plus globale de nos activités dans le domaine de la sécurité nationale et de l’application de la loi, à mesure que notre technologie continue de progresser. Nous avons fait appel à David Kris, un expert de premier plan en matière de sécurité nationale, pour nous aider à animer le processus et nous faire part de son avis indépendant ; nous avons organisé des séances de consultation à l’échelle de l’entreprise et impliqué des collaborateurs représentant divers services, allant de la recherche et de la sécurité aux politiques et aux partenariats avec les pouvoirs publics.
Nous les publions aujourd’hui alors que nous intensifions notre collaboration avec le gouvernement américain et nos partenaires alliés dans des domaines défensifs critiques, notamment la cybersécurité et la biosécurité. Au cours du mois dernier, dans le cadre de notre programme de cyberdéfense « Daybreak », nous avons déjà mis en place des partenariats « Trusted Access for Cyber » avec l’Australie, le Canada, le Japon, la République de Corée, la France, l’Allemagne, la Pologne, les Pays-Bas et des institutions de l’UE telles que l’ENISA. Nous entretenons par ailleurs un partenariat solide et de plus en plus étroit avec le gouvernement britannique dans les domaines de la cybersécurité, des tests et de l’évaluation. Nous adoptons une approche similaire en matière de biosécurité. Le mois dernier, nous avons également annoncé l’élargissement de l’accès privilégié à notre modèle d’IA GPT-Rosalind à certains partenaires du gouvernement américain et à des alliés soutenant des missions de santé publique et de biodéfense.
Dans la foulée, ces principes s’appliquent à nos partenariats actuels et futurs en matière de sécurité nationale et d’application de la loi, y compris notre collaboration existante avec le ministère de la Guerre. Lorsque nous avons annoncé notre accord en début d’année, nous avons énoncé différents restrictions contractuelles : aucune utilisation de la technologie OpenAI à des fins de surveillance de masse sur le territoire national, aucune utilisation de la technologie OpenAI pour piloter des systèmes d’armes autonomes, et aucune utilisation de la technologie OpenAI pour des décisions automatisées à enjeux élevés. Ces restrictions sont conformes aux principes que nous partageons aujourd’hui.
Dans la foulée, nous pensons qu’il est important d’indiquer clairement comment notre technologie peut et ne peut pas être utilisée, et de faire preuve de transparence à ce sujet. Cependant, bon nombre des questions les plus cruciales concernant l’IA au sein du gouvernement, notamment en matière de sécurité nationale, devraient trouver une réponse dans le cadre du processus démocratique. Le rôle d’sociétés comme la nôtre est de contribuer à éclairer ces décisions, et non de les prendre seules. C’est pourquoi nous soutenons les initiatives législatives visant à mettre en place des mesures de protection concernant certaines des utilisations militaires de l’IA présentant les risques les plus élevés, notamment dans les secteurs de la surveillance intérieure, des systèmes d’armes autonomes et d’autres utilisations à haut risque qui ont une incidence directe sur la sécurité nationale des États-Unis.
Pour faire simple :
- Nous adoptons une approche similaire en matière de biosécurité.
- Ces restrictions sont conformes aux principes que nous partageons aujourd’hui.
- Le rôle d’sociétés comme la nôtre est de contribuer à éclairer ces décisions, et non de les prendre seules.
Les prochaines semaines permettront d’en mesurer la portée réelle.
À lire également :
Source originale : OpenAI : OpenAI