Les modèles ouverts présentent de réels avantages. Ces avantages l'emportent-ils sur les risques ?

Un acteur majeur du secteur vient de faire parler de lui.

Les modèles ouverts présentent de réels avantages. Ces avantages l’emportent-ils sur les risques ?

Pourquoi le débat sur l’IA « ouverte » ou « fermée » est plus complexe qu’il n’y paraît

À la fin du mois dernier, Anthropic a publié un rapport dans lequel elle affirme que le modèle d’IA GLM-5.3 présente un risque majeur de cyberattaque. La principale préoccupation soulevée dans ce rapport est que ce nouveau système très puissant, lancé en août par la société chinoise Z.ai, est librement accessible à tous, qui peuvent le télécharger et le modifier. L’affirmation d’Anthropic n’est que le dernier épisode en date d’un débat de longue date visant à déterminer si les modèles d’IA de pointe, tels que le GLM-5.3, devraient être rendus publics ou s’ils devraient rester confinés dans les laboratoires de pointe.

Ces derniers temps, une grande partie du débat sur la manière de gérer les modèles ouverts se déroule au grand jour — et des enjeux financiers considérables dépendent de son issue. Jensen Huang, PDG de Nvidia, qui a tout à gagner à ce que les utilisateurs continuent d’acheter leur propre matériel pour faire tourner des modèles ouverts, plaide avec enthousiasme pour que les États-Unis en développent davantage, tandis que Dario Amodei, d’Anthropic, à la tête d’une entreprise qui pourrait être menacée par des modèles puissants et bon marché, prône une approche plus prudente. Mais au-delà de toutes ces motivations commerciales, les désaccords concernant les modèles ouverts reposent sur des arguments de fond.

Précisons, « Je pense que la position que l’on adopte dans le débat sur la transparence dépend en grande partie de celle que l’on adopte dans le débat sur l’IA », explique David Gray Widder, maître de conférences à la School of Information de l’Université du Texas à Austin. Ceux qui s’inquiètent de la sécurité de l’IA mettent en garde contre le fait que les modèles ouverts peuvent facilement être détournés par des acteurs malveillants, tandis que ceux qui s’intéressent davantage au potentiel pratique de l’IA insistent sur le fait que ce pouvoir ne devrait pas rester confiné derrière les portes closes d’une poignée de grandes entreprises, et que les modèles ouverts pourraient contribuer à le diffuser plus largement.

Il existe toute une gamme de solutions pour gérer les modèles ouverts, allant de leur interdiction totale à leur diffusion sans discernement. Toutefois quelle que soit l’approche adoptée par un gouvernement ou une société, elle implique toujours des compromis entre sécurité et démocratisation. Pour décider s’il faut soutenir ou limiter la production de modèles ouverts, il est nécessaire de bien comprendre ces risques et ces avantages.

Commençons par les bases. Un modèle fermé, comme ceux qui sous-tendent ChatGPT et Claude, n’est accessible que via un site web, une application ou une API. Un modèle ouvert, en revanche, peut être téléchargé directement : les détails concernant sa structure interne, codés sous la forme d’une longue série de chiffres appelés « poids du modèle », sont accessibles au public. Ces modèles sont parfois appelés « modèles à poids ouverts », afin de les distinguer des modèles pour lesquels on dispose d’encore plus d’informations, telles que des détails sur la procédure d’apprentissage.

À l’heure actuelle, les modèles fermés sont plus performants que les modèles ouverts : au moment de la publication, les huit premiers modèles du classement « Artificial Analysis LLM » sont tous fermés, même si les modèles ouverts ne sont qu’à quelques mois de retard en termes de développement. Il existe toutefois plusieurs raisons pour lesquelles on pourrait préférer utiliser un modèle ouvert plutôt qu’un système fermé. Les modèles ouverts étant téléchargeables, il est possible de les exécuter sur son propre ordinateur ou disque dur. Ils peuvent même les rééduquer pour qu’ils se comportent différemment, s’ils disposent de l’expertise et des ressources nécessaires pour le faire.

Une chose est sûre : le secteur continue d’avancer à grande vitesse.

Dans le même ordre d’idées :

Via MIT Technology Review : MIT Technology Review