Les dernières heures ont apporté leur lot d’informations dans l’écosystème IA.
Anthropic propose un projet de loi sur la sécurité de l’IA qui pourrait bloquer un modèle si celui-ci risquait de causer la mort de plus de 50 personnes | TechCrunch
Au cours de l’année écoulée, les inquiétudes se sont multipliées quant aux dangers potentiels liés à l’intelligence artificielle, et les débats ont fait rage sur la voie à suivre pour garantir la sécurité de l’IA. Aujourd’hui, Anthropic semble avoir présenté sa propre vision de la manière dont les pouvoirs publics pourraient réglementer ce secteur.
Dans le même temps, politico a récemment rapporté que le laboratoire d’IA avait soumis à divers acteurs un nouveau projet de loi sur la sécurité de l’IA, qu’il espère voir adopté par le Congrès. Ce texte envisage certains scénarios dans lesquels la diffusion d’un modèle d’IA pourrait être bloquée.
Ces scénarios impliquent un « risque prévisible et imminent », c’est-à-dire un risque pouvant entraîner la mort de plus de 50 personnes ou causer plus d’un milliard de dollars de dégâts matériels, précise Politico. Le risque catastrophique en question doit « résulter de la création ou de la dissémination d’une arme biologique, d’un modèle échappant au contrôle de son concepteur ou d’une cyberattaque », précise le média.
Fait intéressant, les critères présentés ici — 50 personnes et un milliard de dollars — sont similaires à ceux d’un texte de loi californien récemment adopté, le projet de loi n° 53 du Sénat, qui définissait de la même manière ces scénarios comme équivalant à un « risque catastrophique ».
Le projet de loi d’Anthropic suggère que l’analyse du risque de catastrophe lié à un modèle pourrait être réalisée par le biais d’« évaluateurs indépendants » qui seraient enregistrés auprès du ministère américain du Commerce. Ces évaluateurs pourraient éventuellement être rémunérés par les laboratoires d’IA eux-mêmes — à condition que « la rémunération ne dépende pas des résultats des évaluations », précise Politico.
On ne voit pas très bien comment ce système proposé permettrait de garantir que les paiements n’influencent pas l’évaluation. Demis Hassabis, président de DeepMind, a avancé il y a quelques mois qu’un organisme de régulation autonome de l’IA devrait s’inspirer de la Financial Industry Regulatory Authority (FINRA) du secteur financier.
Dans le projet de loi d’Anthropic, lorsque les évaluateurs constatent l’existence d’un risque catastrophique imminent, ils disposeraient de 72 heures pour en informer le ministère du Commerce. Ce dernier devrait alors demander à un juge de Washington, D.C., de suspendre la mise sur le marché du modèle. Selon Politico, cette loi interdirait expressément à toute agence fédérale d’avoir le pouvoir discrétionnaire de suspendre de son propre chef la diffusion de ce modèle d’IA.
En parallèle, anthropic n’a pas immédiatement répondu à la demande de commentaires de TechCrunch, mais un porte-parole a confirmé l’existence de ce projet de loi à Politico. « Ce projet de loi reprend les propositions présentées dans le cadre réglementaire avancé sur l’IA d’Anthropic, que nous défendons auprès des législateurs fédéraux et des États depuis juin », a déclaré le porte-parole.
Ce qu’il faut garder à l’esprit :
- On ne voit pas très bien comment ce système proposé permettrait de garantir que les paiements n’influencent pas l’évaluation.
- Ce dernier devrait alors demander à un juge de Washington, D.C., de suspendre la mise sur le marché du modèle.
L’avenir dira si cette annonce tient toutes ses promesses.
Sur le même sujet :
- « Nous nous trompions complètement » : l’affirmation fracassante qui a bouleversé le monde de l’IA
- Inception lance le système de langage à grande échelle (LLM) « Mercury 3 Diffusion » avec un débit de 1 068 tokens par seconde
Couverture originale : TechCrunch AI : TechCrunch AI