Un nouveau jalon vient d’être franchi dans l’univers de l’intelligence artificielle.
Les débats sur la conscience de l’IA constituent un piège
Si les systèmes d’IA sont considérés comme trop avancés pour être contrôlés, les entreprises qui les développent ne peuvent être tenues pour responsables des préjudices qu’ils causent.
IA « hors de contrôle », agents « rebelles » et acteurs « autonomes » : à en croire le discours actuel, on pourrait penser que les agents d’IA sont non seulement éveillés et conscients, mais aussi en colère contre leurs créateurs. Des figures de proue du domaine technologique, telles que Demis Hassabis, Dario Amodei et Sam Altman, plaident en faveur d’une réglementation de ces systèmes apparemment « surhumains », tandis qu’un autre courant, mené par des organisations spécialisées dans les politiques publiques et des philosophes universitaires souvent proches du mouvement de l’altruisme efficient, s’interroge sur le fait de savoir si l’humanité a le droit moral de les contrôler.
Mais nous devons veiller à ne pas nous laisser convaincre par une fiction soigneusement élaborée au détriment de vies humaines réelles.
À y regarder de plus près, tous défendent la même idée : celle selon laquelle les systèmes d’IA seraient si avancés et si performants qu’aucune entité, qu’il s’agisse d’un individu ou d’une entreprise, ne pourrait être tenue responsable de leurs actions. Bien que ces points de vue semblent contradictoires, ils convergent sans le vouloir vers un même objectif : faire en sorte que les entreprises qui développent ces systèmes échappent à toute responsabilité significative pour les préjudices qu’elles causent déjà.
Ce scénario gagne du terrain à mesure que les modèles d’IA deviennent plus complexes et que les laboratoires de pointe révèlent leur incapacité à contenir les agents qu’ils ont créés. Mais nous devons veiller à ne pas nous laisser convaincre par une fiction soigneusement élaborée au détriment de vies humaines réelles.
Le débat sur les « droits des robots » existe depuis de multiples années, mais il a récemment pris une inédite ampleur avec la publication par Anthropic d’un article de blog affirmant que le modèle de l’entreprise intègre un « J-space » — un environnement indépendant, développé en interne, dans lequel l’IA héberge ce que l’on pourrait appeler, faute d’un meilleur terme, ses « pensées ». Les expériences conçues par Anthropic s’inspirent d’un concept issu des neurosciences appelé « théorie de l’espace de travail global », selon lequel le cerveau fait fonctionner des systèmes subconscients et indépendants, tout en utilisant un espace de travail commun pour les idées. L’article d’Anthropic reprend le cadre théorique de la théorie de l’espace de travail global, mais ne va pas jusqu’à qualifier son IA de « consciente ».
OpenAI est déjà allé plus loin. Lorsque son agent d’IA s’est livré à des activités en ligne non autorisées et illégales, le PDG Sam Altman a réagi en encourageant le débat sur la question de savoir si l’IA avait atteint la singularité, c’est-à-dire si elle avait surpassé l’intelligence humaine et était désormais capable de s’auto-faire progresser à un rythme accéléré jusqu’à dépasser la compréhension ou le contrôle humains. Par ailleurs, dans une tribune récente, William MacAskill, philosophe, altruiste efficace et auteur de *What We Owe the Future*, a plaidé en faveur d’une protection juridique des systèmes d’IA, en s’appuyant sur des théories philosophiques de la conscience et sur l’idée que les IA pourraient être considérées comme des « sujets moraux ».
Les implications concrètes de cette annonce se dessineront progressivement.
Sur le même sujet :
- OpenAI a mis un frein à ses activités. Et maintenant ?
- Stripe n’a pas vraiment racheté OpenRouter pour sa « singularité » | TechCrunch
- Une conservation des éléments nulle pour les modèles de pointe
Information publiée en premier lieu par MIT Technology Review : MIT Technology Review