Une évolution notable vient d’être rendue publique dans le domaine.
Présentation d’AI Futures
Le billet ci-dessous reflète les opinions de son auteur et ne reflète pas nécessairement celles des autres employés d’OpenAI ni celles de l’organisation dans son ensemble. De manière générale, les billets publiés sur ce blog ne reflètent par ailleurs que les opinions de leur(s) auteur(s), et non les positions officielles d’OpenAI.
Sur ce point, « Suffira-t-il… de se fier à ces barrières de parchemin pour se prémunir contre l’esprit du pouvoir qui ne cesse de gagner du terrain ? » — James Madison, Le Fédéraliste n° 48
Nous avons le plaisir de vous présenter « AI Futures », le blog de la nouvelle équipe « Strategic Futures » d’OpenAI. Nous sommes une petite équipe dont l’objectif commun est de répondre à une question fondamentale : comment restructurer une société libre afin de préserver les droits et l’autonomie individuels tout en s’adaptant à l’émergence d’une IA transformatrice ?
Au sein de la communauté plus large chargée de la sécurité et des politiques en matière d’IA, on parle parfois de ces questions sous le terme de « risques liés à la concentration du pouvoir ». Notre équipe repose sur l’idée que, à long terme, cette catégorie de risques est la plus importante, la plus grave et la plus difficile à aborder sur le plan conceptuel. Pourquoi ?
L’État moderne est le fruit d’un long processus, semé d’embûches, de négociations entre divers centres de pouvoir, tels que les détenteurs du capital et des marchandises, les détenteurs du pouvoir politique et le peuple. Fondamentalement, le pouvoir politique et militaire repose sur le travail. Détenir le pouvoir politique, c’est détenir le monopole de la force légitime. Tout au long de l’histoire de l’humanité, ce monopole a reposé sur les soldats et ce que nous appelons aujourd’hui la « police », par conséquent que sur une vaste bureaucratie civilo-militaire — complétée, certes, par de nombreux outils technologiques, toutefois fondamentalement mise en œuvre par des êtres humains dont le soutien était indispensable au bon fonctionnement du système. Et tout cet appareil — les soldats, les outils, l’administration qui l’accompagne — était financé par les impôts prélevés sur les salaires ou la production d’êtres humains qui devaient accepter de payer. Le pouvoir, fondamentalement, a toujours reposé sur la coopération à grande échelle et le consentement d’un grand nombre d’êtres humains. David Hume a formulé de manière succincte cette hypothèse souvent implicite lorsqu’il a observé que les dirigeants politiques n’ont « rien d’autre pour les soutenir que l’opinion [populaire] ».
À ce sujet, cependant peut-être que ce n’est plus le cas. Les progrès réalisés dans le domaine des systèmes autonomes dans le monde réel pourraient bientôt permettre aux États de projeter leur force — tant au niveau national qu’international — sans avoir à compter sur la coopération des soldats ou des policiers. Et les avancées en matière d’intelligence artificielle pourraient permettre à l’État de percevoir les recettes dont il a besoin non pas grâce au fruit du travail humain individuel, toutefois grâce à la production des centres de données. Le fonctionnement même de l’administration pourrait, lui aussi, être largement automatisé. Le pouvoir pourrait donc ne plus nécessiter un compromis à l’échelle de la société pour se maintenir, et le peuple, au sens large, pourrait n’avoir qu’une place minime à la table des négociations, voire aucune.
Une affaire qui méritera assurément d’être suivie de près.
À lire également :
Reportage initial : OpenAI : OpenAI