Bill Gates affirme que nous avons franchi les seuils de dangerosité de l'IA. Et maintenant ?

L’écosystème de l’intelligence artificielle continue sa progression à un rythme soutenu.

Bill Gates affirme que nous avons franchi les seuils de dangerosité de l’IA. Et maintenant ?

Dans une nouvelle interview, le milliardaire philanthrope tire la sonnette d’alarme sur l’urgence de mettre de l’ordre dans nos politiques en matière d’IA.

C’est une journée magnifique à Kirkland, dans l’État de Washington, une banlieue aisée de Seattle située sur la rive est du lac Washington. La température avoisine les 80s, et le ciel ne pourrait pas être plus bleu. Depuis la salle de réunion de Gates Ventures, on a une vue imprenable sur la marina de Carillon Point, où une flottille de bateaux de luxe tangue sur l’eau, et, de l’autre côté du lac, sur les montagnes Olympiques qui se dessinent à l’horizon. C’est magnifique. Et vaguement terrifiant.

Cette dernière est une taxe qui permet de prélever une partie des revenus générés par l’utilisation de l’IA lorsqu’elle remplace le travail humain.

Car si la scène est sereine, le messager, lui, ne l’est pas. Assis en face de moi à la table d’une salle de réunion, Bill Gates se balance d’avant en arrière sur sa chaise, visiblement très animé. Et plus il en dit — que ce soit sur les menaces terroristes, l’effondrement économique ou simplement la perte de contrôle de nos systèmes d’IA —, plus je me sens moi aussi de plus en plus agité.

Le philanthrope et ancien PDG de Microsoft se dit de plus en plus inquiet face au rythme effréné des progrès de l’intelligence artificielle, d’autant plus que les mesures de sécurité ne suivent pas le mouvement. Dans un nouvel essai publié aujourd’hui, Bill Gates affirme que nous avons dépassé les seuils à partir desquels de nombreux dangers potentiels auraient dû être maîtrisés. « Nous avons franchi le seuil en termes de capacités biologiques, de capacités cybernétiques, de compétences psychosociales, de capacités de destruction du marché de l’emploi et même d’absence de contrôle [de l’IA] », a-t-il déclaré dans une interview accordée au MIT Technology Review au sujet de sa récente note. «« Je suis tout simplement stupéfait par le manque d’inquiétude et de débat en dehors du secteur. »

Dans le but d’alerter le monde entier sur ce qu’il considère comme un facteur de perturbation sociale en pleine expansion, ce géant de la technologie âgé de 70 ans a commencé à tirer la sonnette d’alarme d’une « voix stridente », tant en public – à travers son nouvel essai (le premier d’une série qu’il prévoit de consacrer à ce sujet) et lors de rencontres avec la presse – qu’en privé, lors de conversations avec des dirigeants du segment privé, des représentants du gouvernement et des responsables de la société civile.

Il faut souligner, et si M. Gates attire l’attention sur un certain nombre de problèmes, ses mises en garde concernant les capacités biologiques des modèles de pointe actuels sont particulièrement inquiétantes. « Tout modèle d’IA capable de créer de nouvelles molécules devrait faire l’objet d’une surveillance », affirme-t-il. « Je considère que le risque de bioterrorisme, par rapport à celui d’une pandémie naturelle, est environ 50 fois plus effrayant et plus probable que ce dernier. »

Dans le même temps, outre ces mises en garde, il propose également des idées novatrices pour faire avancer la société. Parmi ceux-ci figurent les concepts d’emplois réservés aux humains, de ce fait que les taxes sur les robots et les jetons. (La taxe sur les robots est une idée qu’il défend depuis longtemps.) Le premier concept permettrait de préserver certains emplois, définis d’un commun accord par la société, pour les êtres humains, ce qui, comme il le souligne, pourrait varier d’un pays à l’autre. Cette dernière est une taxe qui permet de prélever une partie des revenus générés par l’utilisation de l’IA lorsqu’elle remplace le travail humain.

Les acteurs concernés devront s’adapter à ce nouveau contexte.

Pour aller plus loin :

Via MIT Technology Review : MIT Technology Review