L’actualité tech du jour met en lumière un développement significatif.
Dario Amodei, d’Anthropic, répond : il ne s’oppose pas aux modèles à poids ouverts, mais craint l’IA chinoise | TechCrunch
Dario Amodei, fondateur et PDG d’Anthropic, a réagi lundi après-midi aux rumeurs circulant dans le secteur selon lesquelles son entreprise soutiendrait d’une manière ou d’une autre les efforts du gouvernement américain visant à interdire les modèles chinois à poids ouvert, voire les modèles à poids ouvert en général.
« Quiconque a lu mes précédents écrits devrait savoir que je ne considère pas ces interdictions comme une mesure utile, mais permettez-moi de le préciser clairement afin qu’il n’y ait aucun doute : Anthropic n’a jamais plaidé en faveur d’une interdiction des modèles à poids ouverts », a-t-il écrit, c’est lui qui souligne.
Sa réaction fait suite à la publication vendredi par Jensen Huang, fondateur et PDG de Nvidia, sur X (son premier message sur cette plateforme) d’une lettre ouverte dans laquelle Nvidia et une longue liste d’autres entreprises spécialisées dans l’IA, dont Hugging Face, Meta, Microsoft, Mistral et Nvidia, exhortaient les décideurs politiques à ne pas imposer de « restrictions prématurées » de grande envergure aux modèles d’IA à poids ouverts.
Bien que cette lettre ne mentionne pas spécifiquement la Chine, le débat au sein du secteur s’est concentré sur les allégations selon lesquelles les laboratoires chinois spécialisés dans l’IA renforceraient leurs compétences, souvent en volant la propriété intellectuelle de leurs homologues américains. L’une de ces méthodes est la « distillation », qui consiste pour une IA à bombarder un autre système de prompts afin d’apprendre comment celui-ci fonctionne.
Dans un article de blog publié lundi, M. Amodei a déclaré qu’il considérait que les modèles à poids ouverts relevaient d’une catégorie différente de celle de la menace que représente la Chine. « Les modèles à poids ouverts qui ne disposent pas de capacités dangereuses constituent un bien public : ils ne coûtent rien, hormis la puissance de calcul nécessaire à leur fonctionnement, et ils apportent une valeur ajoutée aux entreprises, aux développeuses et développeurs et aux scientifiques. »
M. Amodei a déclaré dans son message qu’il nourrissait depuis longtemps des craintes concernant l’IA, cependant que les sociétés utilisant des modèles à poids ouverts, même celles originaires de Chine, n’en faisaient pas partie.
Il craint que des « gouvernements autoritaires » ne développent des modèles plus puissants que ceux des États-Unis afin d’atteindre une « supériorité militaire permanente » et/ou d’exploiter l’IA pour réprimer leur propre population. Il a déclaré que le Parti communiste chinois (PCC) n’était pas le seul gouvernement autoritaire qui l’inquiétait, mais qu’il était « le plus compétent ».
M. Amodei a également déclaré craindre que l’IA ne permette de mener des « attaques biologiques », et pas seulement des attaques liées à la cybersécurité. Selon lui, les modèles à poids ouverts sont plus dangereux dans ce genre de scénarios, car il est difficile de leur appliquer des mesures de sécurité ou d’en surveiller l’utilisation. Il a en outre souligné, en citant un rapport de l’AI Security Institute britannique, qu’une fois les poids ouverts rendus publics, ils ne peuvent plus être retirés.
Reste à voir comment l’industrie va réagir à cette annonce.
À découvrir aussi :
Information rapportée par TechCrunch AI : TechCrunch AI