L’actualité du jour apporte un éclairage intéressant sur l’évolution du domaine.
L’encyclique du pape sur l’IA ne traite pas vraiment de l’IA | TechCrunch
Le pape Léon XIV a publié lundi sa première encyclique. Intitulée *Magnifica Humanitas*, elle traite de la « protection de la personne humaine à l’ère de l’intelligence artificielle ». Et si l’IA sert de point de départ, les problèmes sur lesquels Léon met l’accent sont plus anciens et plus omniprésents : les inégalités, la guerre, l’érosion de la démocratie et la concentration du pouvoir entre les mains de ceux qui ne se soucient pas forcément de savoir si l’humanité dans son ensemble reste magnifique.
Tout au long de ce document de 200 pages, que le pape a présenté aux côtés de Chris Olah, cofondateur de la société d’IA Anthropic, Leo soutient que la technologie développée et contrôlée par une petite élite ne peut, par définition, servir le bien commun.
D’un autre côté, « Lorsque ce pouvoir est concentré entre les mains d’une poignée de personnes, il a tendance à devenir opaque et à échapper au contrôle public, ce qui accroît le risque de formes de développement faussées donnant lieu à de nouvelles dépendances, exclusions, manipulations et inégalités », écrit-il.
« En effet, comme pour toute évolution technologique majeure, l’IA tend à renforcer le pouvoir de ceux qui disposent déjà de ressources économiques, d’expertise et d’un accès aux données », poursuit l’encyclique, soulignant la crainte que les élites puissent utiliser leur pouvoir pour « façonner l’information et les modes de consommation, influencer les processus démocratiques et orienter la dynamique économique à leur propre avantage ».
Cette encyclique intervient quelques jours après que le président Donald Trump a reporté la signature de son décret sur l’IA, qui aurait permis au gouvernement de contrôler les nouveaux modèles avant leur mise sur le marché, apparemment à la demande de David Sacks, investisseur en capital-risque et ancien responsable de l’IA à la Maison Blanche.
Le pape Léon a appelé à ce que l’IA soit régie par « des critères clairs et un contrôle performante », fondés sur la participation des communautés qui en subiront les conséquences. Plus concrètement, Léon a appelé à mettre fin à la course à l’armement en matière d’IA — cette course à la création d’« algorithmes toujours plus puissants et d’ensembles de données toujours plus volumineux » dont les entreprises et les pays estiment qu’ils leur permettront d’« assurer leur domination géopolitique ou commerciale ».
« Désarmer, c’est remettre en cause l’idée selon laquelle le pouvoir technique confère automatiquement le droit de gouverner », a-t-il écrit.
Une fois encore, ces dynamiques sont antérieures à l’IA. L’encyclique Rerum Novarum du pape Léon XIII, publiée en 1891, traitait déjà de cette même concentration du pouvoir à l’époque de la révolution industrielle, mais il n’est pas nécessaire de remonter aussi loin dans le temps. Prenons l’exemple du rachat de Twitter par Elon Musk et de la manière dont il a utilisé cette plateforme pour contribuer à l’élection de Trump, ou encore les centaines de millions de dollars versés par les élites du segment technologique aux super PAC afin de faire barrage à la réglementation de l’IA — des schémas qui ont clairement inspiré le travail de Léon XIV.
Vue d’ensemble rapide :
- « Désarmer, c’est remettre en cause l’idée selon laquelle le pouvoir technique confère automatiquement le droit de gouverner », a-t-il écrit.
- Une fois encore, ces dynamiques sont antérieures à l’IA.
Ce développement s’ajoute à une longue série d’évolutions dans le secteur.
Sur le même sujet :
- Alors que Grok est en difficulté, SpaceX mise sur l’IA pour rivaliser avec les géants de la tech
- Trump a brusquement annulé la cérémonie de signature du décret présidentiel après que les PDG de grandes entreprises spécialisées dans l’IA ont refusé d’y assister
Source : TechCrunch AI : TechCrunch AI