L'IA pourrait-elle vraiment tous nous tuer ? Réponses à vos questions.

Nouvelle étape franchie dans l’univers des technologies d’intelligence artificielle.

L’IA pourrait-elle vraiment tous nous tuer ? Réponses à vos questions.

Vous avez posé de nombreuses questions concernant les récentes affirmations selon lesquelles l’humanité serait confrontée à un risque existentiel lié à l’IA. Nous avons tenté d’y répondre.

Mais les participants avaient tellement plus de questions que nous n’avons pas eu le temps d’y répondre toutes au cours de cette session de 30 minutes. Nous avons donc demandé à Will Douglas Heaven, notre rédacteur en chef chargé de l’IA, et à Grace Huckins, notre journaliste spécialisée dans l’IA, de sélectionner certaines des meilleures questions posées par les participants et de faire de leur mieux pour y répondre.

Des drones équipés d’IA ont déjà tué des personnes en Ukraine, et les cyberattaques contre des hôpitaux orchestrées par l’IA feront certainement des victimes d’ici peu.

Oui, à terme. Malheureusement, mes talents de journaliste en matière de prévisions ne sont pas assez développés pour que je puisse vous dire comment. Mais cela pourrait très bien être lié à l’IA. Des drones équipés d’IA ont déjà tué des personnes en Ukraine, et les cyberattaques contre des hôpitaux orchestrées par l’IA feront certainement des victimes d’ici peu.

Par ailleurs, l’IA pourrait-elle aller encore plus loin et nous tuer tous ? C’est peu probable. Mais certaines personnes — des personnages excentriques, mais qui s’y connaissent indéniablement en matière d’IA — ne cessent de mettre en garde depuis des années contre cette éventualité. Et même si je ne fais pas encore de réserves de conserves ni ne cherche à me mettre dans les bonnes grâces d’un méga-milliardaire propriétaire d’un bunker, j’ai remarqué que les prédictions des catastrophistes concernant les capacités de l’IA et son « alignement » se sont révélées, ces deux dernières années, d’une précision déconcertante. Cela ne signifie certes pas que leurs prévisions les plus sombres se réaliseront, mais cela suffit pour que je prenne conscience de la situation.

Allez-vous mourir à cause de l’IA ? Je dirais qu’il y a une probabilité non nulle. Imaginons que vous ayez la malchance d’être victime d’un événement ou d’un accident insolite dans un futur proche. Il pourrait s’agir d’une cyberattaque menée par une nuée d’agents IA contre des infrastructures critiques. Malheureusement, un tel scénario ne semble plus aussi invraisemblable qu’auparavant. Ou peut-être qu’un nouvel agent pathogène conçu par l’IA se propagera dans la population. Ou encore que l’économie mondiale s’effondrera, provoquant des conflits et une famine. Ces deux scénarios sont plausibles, mais je les considère comme moins probables.

Allons-nous tous mourir à cause de l’IA ? Non. Il n’existe aucune circonstance, en dehors de la science-fiction apocalyptique, dans laquelle l’IA pourrait tous nous tuer. On peut inventer autant d’histoires alarmistes qu’on veut, cependant elles ne reposent pas sur les réalités actuelles concernant les aptitudes de cette technologie ni sur son évolution future.

Les points essentiels à retenir :

L’IA pourrait-elle aller encore plus loin et nous tuer tous ?
Je dirais qu’il y a une probabilité non nulle.
Allons-nous tous mourir à cause de l’IA ?

Les acteurs concernés devront s’adapter à ce nouveau contexte.

À lire également :

Article original : MIT Technology Review : MIT Technology Review