Le secteur technologique continue de livrer des avancées remarquables.
Satya Nadella, de Microsoft, estime que les modèles d’IA ont besoin d’un « frein d’urgence » | TechCrunch
Satya Nadella, PDG de Microsoft, est le dernier dirigeant du secteur technologique en date à avoir livré une réflexion approfondie sur la manière dont la sécurité de l’IA pourrait être améliorée.
Dans un message publié samedi matin sur X, Nadella a écrit qu’il était temps « de prendre du recul et d’évaluer l’architecture de confiance » de l’IA.
« Nous ne pouvons pas considérer la “super-intelligence” comme un ensemble de boîtes noires imbriquées les unes dans les autres et nous contenter d’accepter ou de rejeter ses recommandations, ses réponses et ses actions », a écrit Nadella, reprenant ainsi le terme privilégié par l’administration Trump pour désigner l’IA.
Comme l’a souligné Nadella, cette approche « implique de séparer le modèle de l’infrastructure qui orchestre son fonctionnement », ainsi que « d’externaliser les contrôles et les mesures de sécurité ». Il a également demandé que « chaque action significative du modèle d’IA » soit documentée à l’aide de « preuves lisibles par l’homme et inviolables », et que les systèmes permettent à « une personne autorisée » d’avoir toujours la possibilité « de mettre en pause ou d’arrêter un modèle d’IA en cours d’exécution ».
« Nous devons partir du principe qu’un modèle est compromis et le contenir dès le départ », a-t-il déclaré. « Considérez cela comme un frein d’urgence. »
Les déclarations de Nadella interviennent alors que les principales firmes du secteur de l’IA reconnaissent de plus en plus d’incidents au cours desquels elles semblent avoir perdu le contrôle de leurs modèles, et après que le PDG d’Anthropic, Dario Amodei, a publié un plan visant à adopter une approche plus prudente en matière de développement de l’IA.
Le contexte technologique évolue, et ce type d’annonce en témoigne.
Sur le même sujet :
- Guide RRSI de Google Research : Maîtriser les agents IA auto-améliorants
- Des chercheurs en sécurité d’OpenAI licenciés contestent les accusations de faute professionnelle et mettent en garde contre un effet dissuasif | TechCrunch
- Les avancées de l’IA dans le domaine de la robotique ne changeront pas votre vie de sitôt
Tel que rapporté par TechCrunch AI : TechCrunch AI