Qu'est-ce qui se cache derrière les dernières mises en garde apocalyptiques du secteur de l'IA ?

Les dernières heures ont apporté leur lot d’informations dans l’écosystème IA.

Qu’est-ce qui se cache derrière les dernières mises en garde apocalyptiques du secteur de l’IA ? | TechCrunch

Le secteur de l’intelligence artificielle semble connaître actuellement le débat le plus animé à ce jour sur la question de savoir si cette technologie représente une menace existentielle pour l’humanité.

Le débat actuel a débuté après que Jacob Coxon, chercheur en IA, a annoncé avoir démissionné d’Anthropic, craignant que les principales sociétés du secteur de l’IA ne « jouent avec nos vies ». Le responsable de l’alignement chez Anthropic est alors intervenu dans un message affirmant : « Nous croyons sincèrement que l’IA pourrait tuer tous les humains ! », ajoutant qu’il estimait personnellement que cette probabilité était « supérieure à 10 % au cours de la prochaine décennie ».

Quelle ambiance bizarre. Ça a vraiment mis le feu aux poudres sur un post ou une série de posts déjà tendus.

Dans le dernier épisode du podcast « Equity » de TechCrunch, Kirsten Korosec, Sean O’Kane et moi-même avons discuté des dernières prédictions apocalyptiques. J’ai tenté d’expliquer pourquoi je reste sceptique face à bon nombre de discours alarmistes sur l’IA, tandis que Kirsten s’est demandé s’il ne s’agissait pas « simplement d’une façon étrange de se vanter pour montrer à quel point le modèle d’IA de leur entreprise est avancé », d’autant plus que ces structures s’apprêtent à entrer en bourse.

À ce sujet, et Sean s’est demandé comment ces préoccupations pourraient transparaître dans le dossier S-1 déposé par Anthropic dans le cadre de son introduction en bourse : « Y a-t-il en ce moment même des avocats débutants qui sont en train de relire et de devoir réécrire toute cette section du dossier S-1 pour y indiquer : “La position officielle d’Anthropic est qu’il existe plus de 10 % de chances que nous développions quelque chose qui anéantirait l’humanité tout entière et qui aurait des conséquences particulièrement néfastes pour notre activité” ? »

Poursuivez votre lecture pour découvrir un aperçu de notre entretien, dont le contenu a été retravaillé pour des raisons de longueur et de clarté. (Remarque : nous avons enregistré cet épisode avant que Dario Amodei, PDG d’Anthropic, ne publie son plan en faveur d’un développement plus prudent de l’IA.)

À relever, sean O’Kane : J’ai du mal à trouver un autre exemple de phénomène qui ait connu un succès aussi fulgurant. Non seulement cet avertissement a été lancé par ce jeune chercheur, qui a également travaillé chez OpenAI, cependant il a aussi été immédiatement partagé sur X par le responsable de l’alignement chez Anthropic — qui, dans ce qui pourrait bien rester dans les annales comme l’un des points d’exclamation les plus mal placés de tous les temps, a partagé la publication et le fil de discussion de Coxon en déclarant : « Nous croyons sincèrement que l’IA pourrait tuer tous les humains ! » Point d’exclamation !

Quelle ambiance bizarre. Ça a vraiment mis le feu aux poudres sur un post ou une série de posts déjà tendus. Après le piratage de Hugging Face à partir du système interne d’OpenAI, sans compter les capacités accrues que nous avons pu constater avec les derniers modèles publiés par Anthropic et, plus récemment, par OpenAI avec Astra il y a quelques semaines, je pense que le moment était parfaitement choisi pour que ce jeune chercheur tienne ces propos, qui ont eu l’effet d’une bombe.

À relever, anthony Ha : Juste pour te contredire, je pense quant à moi que si l’on croit que l’IA pourrait anéantir l’humanité tout entière, cela mérite bel et bien un point d’exclamation. Je dirais même que c’est un point d’exclamation parfaitement justifié !

Cette nouvelle étape pose plusieurs questions qui restent ouvertes.

Dans le même ordre d’idées :

Source : TechCrunch AI : TechCrunch AI