Un plan d'action pour utiliser l'IA afin de renforcer la démocratie

Voici une information qui pourrait bien avoir un impact durable sur le secteur.

Un plan d’action pour utiliser l’IA afin de renforcer la démocratie

L’IA redéfinit ce que signifie être un citoyen dans une démocratie. Voici comment nous pouvons l’utiliser à bon escient.

Tous les quelques siècles, les changements dans la manière dont l’information circule redéfinissent la façon dont les sociétés s’organisent. L’imprimerie a favorisé l’alphabétisation dans les langues vernaculaires, contribuant ainsi à l’émergence de la Réforme et, à terme, du gouvernement représentatif. Le télégraphe a permis d’administrer de vastes nations comme les États-Unis, accélérant de cette manière le développement de l’État bureaucratique moderne. Les médias audiovisuels ont créé des audiences nationales communes, qui ont à leur tour alimenté la démocratie de masse.

Nous en sommes aujourd’hui aux prémices d’une nouvelle évolution de ce type. Plus rapidement que beaucoup ne le pensent, l’IA est en train de devenir la principale interface par laquelle nous formons nos opinions et participons à l’autogouvernance démocratique. Si rien n’est fait pour l’encadrer, cette évolution pourrait mettre à rude épreuve les institutions américaines, déjà fragiles. Cependant cela pourrait aussi contribuer à résoudre des problèmes de longue date, tels que le manque d’engagement civique et l’aggravation de la polarisation. Ce qui va se passer ensuite dépendra des choix conceptuels qui sont déjà en train d’être faits, que nous en soyons conscients ou non.

Commençons par ce qu’on pourrait appeler la « couche épistémique », c’est-à-dire la manière dont nous acquérons nos connaissances. Les gens s’appuient de plus en plus sur l’IA pour savoir ce qui est vrai, ce qui se passe et à qui faire confiance. La recherche en ligne est déjà largement influencée par l’IA. La prochaine génération d’assistants IA sera capable de synthétiser l’information, de la mettre en perspective et de la présenter avec autorité. Pour un nombre croissant de personnes, interroger une IA deviendra le moyen privilégié de se forger une opinion sur un candidat, une politique ou une personnalité publique. Quiconque contrôle ce que ces modèles disent exerce donc une influence croissante sur les croyances du public.

Autre élément, la technologie a toujours façonné la manière dont les citoyens interagissent avec l’information. Mais un inédit problème va bientôt se poser avec l’apparition des agents IA personnels, qui pourraient modifier non seulement la façon dont les gens reçoivent l’information, toutefois aussi la manière dont ils agissent en conséquence. Ces systèmes effectueront des recherches, rédigeront des communications, mettront en avant des causes et mèneront des actions de lobbying au nom de l’utilisateur. Elles permettront de prendre des décisions, par exemple sur la manière de voter lors d’un référendum, sur les organisations qu’il convient de soutenir ou sur la manière de répondre à un avis officiel. Elles commenceront, en quelque sorte, à jouer un rôle de médiation dans les relations entre les individus et les institutions qui les gouvernent.

À ce sujet, nous avons déjà constaté, avec les réseaux sociaux, ce qui se passe lorsque les algorithmes privilégient l’engagement au détriment de la compréhension. Les plateformes n’ont pas besoin d’avoir un programme politique explicite pour engendrer la polarisation et la radicalisation. Un agent qui connaît vos préférences et vos inquiétudes — conçu pour maintenir votre engagement — présente les mêmes risques. Et dans ce cas précis, les risques peuvent être encore plus difficiles à détecter, car un agent se présente comme votre défenseur. Il s’exprime en votre nom, agit pour votre compte et peut gagner votre confiance précisément grâce à cette proximité.

En quelques mots :

La prochaine génération d’assistants IA sera capable de synthétiser l’information, de la mettre en perspective et de la présenter avec autorité.
Elles commenceront, en quelque sorte, à jouer un rôle de médiation dans les relations entre les individus et les institutions qui les gouvernent.
Il s’exprime en votre nom, agit pour votre compte et peut gagner votre confiance précisément grâce à cette proximité.

À suivre donc, dans un domaine qui n’a pas fini de nous surprendre.

Pour aller plus loin :

Article original publié par MIT Technology Review : MIT Technology Review