Les dernières heures ont apporté leur lot d’informations dans l’écosystème IA.
Trois points à suivre dans le cadre de la dernière dispute entre Anthropic et le gouvernement
Le bras de fer entre Anthropic et Washington a déjà soulevé de nouvelles questions concernant la sécurité de l’IA et la souveraineté, ainsi que la concurrence chinoise.
À relever, pour ceux d’entre vous qui profitent de leur été sans être au courant de la dernière querelle opposant Anthropic au gouvernement américain, voici un résumé : en avril, l’entreprise a déclaré avoir développé un modèle d’IA appelé « Mythos », si performant dans le traitement du code qu’il pouvait constituer une menace mondiale pour la cybersécurité. Anthropic a donné accès à ce modèle à un petit groupe d’experts en cybersécurité afin qu’ils puissent se rendre compte de la nature de la menace à laquelle ils étaient confrontés. Puis, le mardi 9 juin, elle a publié une version modifiée baptisée « Fable », qu’elle a présentée comme plus sûre pour le grand public. Ce vendredi-là, le gouvernement fédéral a déclaré à l’entreprise qu’elle constituait une menace pour la sécurité nationale et a imposé des contrôles à l’exportation sur cette dernière version. Anthropic a suspendu l’accès aux deux modèles quelques heures plus tard.
Les personnes inquiètes des conséquences catastrophiques de l’IA — communément qualifiées de « catastrophistes » — affirment depuis des années que cette technologie représente une menace pour l’humanité et ont publié des propositions sur la manière dont le gouvernement devrait intervenir dans son progression. Ces « doomers » viennent d’obtenir cette intervention gouvernementale — non pas au sujet d’une arme biologique ou d’une IA hors de contrôle, mais en réponse à un modèle d’IA qui est tout simplement très performant en programmation. Et le résultat obtenu jusqu’à présent ressemble moins à un plan de sécurité qu’à une réaction superficielle.
Il y a beaucoup à analyser concernant ce qui s’est passé au cours de ces quelques jours qui ont conduit le gouvernement à prendre des mesures aussi radicales, et il est intéressant de noter que c’est Andy Jassy, PDG d’Amazon, qui a déclaré aux responsables gouvernementaux que Fable serait dangereux (Amazon détient des participations dans Anthropic et développe ses propres modèles d’IA concurrents). Il est par ailleurs possible qu’il s’agisse d’une interdiction éphémère imposée par le gouvernement, qui ne résisterait pas à un examen juridique (on peut par exemple se demander si le fait qu’Anthropic donne accès à Fable constitue réellement une « exportation » de ce jeu).
D’une part, cela incite un grand nombre de personnes à ne pas vouloir dépendre des firmes américaines spécialisées dans l’IA. Le politicien français Bruno Retailleau a qualifié cette situation de « signal d’alarme » qui devrait inciter l’Europe à développer davantage l’IA. Toutefois toute idée visant à transformer Paris en Silicon Valley — mise en avant par de nombreux autres dirigeants européens à la suite de la mise hors service des modèles d’Anthropic — se heurte à un obstacle de taille : la Chine.
À ce sujet, les modèles open source provenant de Chine sont très performants et incroyablement bon marché ; ils peuvent être téléchargés pour fonctionner sur n’importe quel serveur, sans aucune règle ni mesure de sécurité. (Cela les rend attrayants pour les entreprises qui ne veulent pas que l’accès leur soit coupé sur décision de la Maison Blanche — mais tout aussi attrayants pour les cybercriminels, ceux-là mêmes qu’Anthropic espérait repousser en intégrant des mesures de sécurité dans ses modèles.)
Il est possible que certaines firmes, notamment aux États-Unis et en Europe, en viennent à considérer qu’il est tout simplement plus facile de travailler avec des modèles chinois, comme le laisse entrevoir la flambée du cours de l’action de la start-up chinoise Zhipu. Dans cette optique, est-il possible que la prochaine décision radicale du gouvernement soit de déclarer que les entreprises américaines faisant appel à des mannequins chinois constituent une menace pour la sécurité nationale ? Je n’écarterais pas cette hypothèse.
Ce développement s’ajoute à une longue série d’évolutions dans le secteur.
Dans le même ordre d’idées :
Source : MIT Technology Review : MIT Technology Review