En mettant l'accent sur les catastrophes liées à la sécurité de l'IA, on passe à côté des risques quotidiens

L’intelligence artificielle reste au cœur de toutes les attentions.

En mettant l’accent sur les catastrophes liées à la sécurité de l’IA, on passe à côté des risques quotidiens

Les législateurs adoptent des projets de loi soutenus par le secteur concerné afin de se prémunir contre les pires scénarios, plutôt que de s’attaquer aux problèmes les plus courants.

À ce sujet, réfléchissons à ce qui passe pour une réussite en matière de politique technologique. Une entreprise spécialisée dans l’IA promet que son chatbot n’encouragera pas au suicide. Une plateforme de réseaux sociaux rend plus difficile l’achat de fentanyl par les enfants. Il s’agit là de mesures de protection importantes, qui auraient dû exister depuis longtemps. Mais les entreprises peuvent franchir ces obstacles peu exigeants tout en continuant à proposer des produits qui rendent les jeunes dépendants d’amitiés virtuelles ou les piègent dans des fils d’actualité conçus pour les inciter à faire défiler sans cesse.

Nous avons toujours laissé le débat sur la technologie se concentrer sur les pires conséquences possibles d’un produit, sans guère aborder les dommages insidieux qu’il cause au quotidien. Alors que nous entrons dans une ère marquée par des produits d’IA puissants, nous devrions exiger du secteur technologique qu’il ne se contente pas de remédier aux dommages catastrophiques. Nous devrions prendre des mesures pour veiller à ce que ses produits ne nuisent pas à notre façon de penser, d’apprendre et d’interagir les uns avec les autres.

Un adolescent qui développe une dépendance malsaine à un compagnon virtuel issu de l’intelligence artificielle n’apparaîtra peut-être jamais dans un procès ou dans la presse, sauf dans les cas les plus flagrants. Il en va de même pour l’étudiant qui commence à compter sur un chatbot pour rédiger tous ses devoirs, ou pour le jeune qui mesure sa vie à l’aune d’un fil d’actualité sur les réseaux sociaux conçu pour susciter l’envie et le maintenir en éveil. Un produit peut répondre à toutes les exigences de sécurité, aussi strictes soient-elles, tout en ayant des répercussions négatives sur l’ensemble de notre culture, qui ne font pas toujours la une des journaux.

Une définition restrictive de la réussite, axée sur la sécurité, est politiquement commode pour le secteur technologique, et les entreprises s’emploient activement à promouvoir ce type de définition. Prendre des mesures pour prévenir les catastrophes spectaculaires est bon pour les affaires : cela peut se traduire par une diminution du nombre de poursuites judiciaires et une pression moindre en faveur d’une réglementation stricte. Faire face aux conséquences quotidiennes de cette dépendance impliquerait un risque bien plus menaçant pour leurs résultats financiers. Cela pourrait impliquer de demander aux entreprises d’introduire davantage de freins dans leurs produits ou de limiter activement les interactions ou les fonctionnalités qui conduisent à des conséquences négatives, telles que les algorithmes addictifs visant à capter l’attention.

Autre élément, les géants de la technologie se sont au contraire efforcés d’orienter la législation vers les préjudices qu’ils sont déjà directement contraints de traiter. Cette année, par exemple, Google a soutenu des projets de loi visant à réglementer les chatbots basés sur l’IA dans plusieurs États. Cette législation imposait des mesures de protection élémentaires contre les contenus à caractère sexuel et l’incitation à l’automutilation, que les entreprises technologiques auraient de toute façon dû mettre en place, mais elle prévoyait de larges dérogations susceptibles d’exempter certains des services les plus populaires. L’adoption de ces projets de loi a permis aux législateurs de se targuer d’une victoire en matière de sécurité, tandis que les efforts visant à promouvoir une législation plus stricte — des lois destinées à empêcher les enfants de développer une dépendance affective à l’IA — ont échoué. Cette stratégie a porté ses fruits dans des États comme le Nebraska, où elle a donné lieu à une législation fortement influencée par le secteur privé, au détriment de projets de loi qui auraient davantage contribué à responsabiliser les entreprises.

Nous avons déjà connu une situation similaire avec les réseaux sociaux. À l’échelle mondiale, les internautes passent désormais en moyenne plus de deux heures par jour sur les réseaux sociaux — un temps qui a été discrètement soustrait à la vie quotidienne pour être cédé à des entreprises dont les bénéfices dépendent de notre présence sur ces plateformes. Personne, à l’exception peut-être de quelques PDG du domaine des technologies, ne souhaitait que ces algorithmes occupent une part aussi importante de nos heures de veille, et leur « ingénierie culturelle » peut en réalité contribuer à une violence d’une ampleur dévastatrice. Les plateformes de Meta ont été mises en cause pour avoir contribué au génocide des Rohingyas en Birmanie, aux émeutes antimusulmanes au Sri Lanka et aux appels présumés à la violence pendant la guerre du Tigré en Éthiopie. Ces mêmes mécanismes sont à l’œuvre dans les fils d’actualité qui façonnent la perception qu’ont les jeunes Américains de la politique, de leurs pairs et du monde en général.

Fait intéressant, l’IA étend cette logique à des aspects de la vie sur lesquels les réseaux sociaux ne pouvaient exercer qu’une influence à distance. Elle propose d’exprimer nos pensées à notre place et de se substituer aux personnes vers lesquelles nous nous tournerions autrement. Un tiers des adolescents choisissent désormais de discuter de sujets sérieux avec des assistants IA plutôt qu’avec d’autres personnes. Des chercheurs du MIT ont constaté que les jeunes utilisant ChatGPT pour rédiger des dissertations présentaient une connectivité cérébrale plus faible pendant cette tâche, et leurs résultats indiquaient que la « dette cognitive » persistait même une fois la tâche terminée. Il nous reste encore beaucoup à apprendre sur les effets à long terme. Nous avons déjà des raisons de nous demander si la technologie, présentée comme un moyen de renforcer nos capacités, n’est pas en train d’éroder les habitudes et les relations qui nous aident justement à développer ces capacités techniques.

Les mois à venir apporteront sans doute plus de précisions.

À lire également :

D’après MIT Technology Review : MIT Technology Review