L’écosystème de l’intelligence artificielle continue sa progression à un rythme soutenu.
Des poursuites judiciaires liées à des fusillades dans des écoles accusent OpenAI d’avoir dissimulé l’existence d’usagers violents de ChatGPT
Procès : OpenAI n’a pas dénoncé un utilisateur de ChatGPT à la police afin de protéger Altman et son introduction en bourse.
OpenAI aurait pu empêcher l’une des fusillades de masse les plus meurtrières de l’histoire du Canada, selon sept plaintes déposées mercredi devant un tribunal californien.
OpenAI aurait pu empêcher l’une des fusillades de masse les plus meurtrières de l’histoire du Canada, selon sept plaintes déposées mercredi devant un tribunal californien.
En fin de compte, l’entreprise spécialisée dans l’IA a ignoré les recommandations de son équipe interne chargée de la sécurité. Plus de huit mois avant la fusillade dans l’établissement scolaire, des experts qualifiés avaient signalé qu’un compte ChatGPT, qui s’est avéré par la suite être lié au tireur, représentait une menace crédible de violence armée dans la vie réelle. Dans ces cas-là, OpenAI aurait dû avertir la police — qui, en l’occurrence, avait déjà un dossier sur le tireur et avait déjà procédé de sa propre initiative à la saisie des armes à feu chez lui — mais ce n’est pas ce qui s’est passé.
Selon des sources anonymes interrogées par le Wall Street Journal, OpenAI aurait estimé que la vie privée de l’utilisateur et le stress potentiel lié à une confrontation avec les forces de l’ordre l’emportaient sur les risques de violence. Les dirigeants ont rejeté les recommandations de l’équipe chargée de la sécurité et ont refusé de signaler l’utilisateur aux forces de l’ordre. Au lieu de cela, OpenAI se serait contenté de désactiver le compte, avant de contacter rapidement le tireur pour lui expliquer comment réintégrer ChatGPT et poursuivre ses préparatifs en s’inscrivant avec une autre adresse e-mail, selon les plaintes déposées.
Dans la foulée, « C’était une erreur », a déclaré depuis Sam Altman, tout en affirmant que le compte aurait été « banni ».
Dans des excuses publiques adressées la semaine dernière aux habitants en deuil d’une ville minière rurale de 2 000 habitants appelée Tumbler Ridge, le PDG d’OpenAI a promis de faire mieux la prochaine fois.
Les éléments clés de cette information :
- Les dirigeants ont rejeté les recommandations de l’équipe chargée de la sécurité et ont refusé de signaler l’utilisateur aux forces de l’ordre.
- « C’était une erreur », a déclaré depuis Sam Altman, tout en affirmant que le compte aurait été « banni ».
Ce développement s’ajoute à une longue série d’évolutions dans le secteur.
Pour aller plus loin :
- Guide du développeur sur les invites systématiques : maîtriser les contraintes négatives, les sorties JSON structurées et l’échantillonnage verbalisé à hypothèses multiples
- Elon Musk a passé une mauvaise semaine devant les tribunaux
- Selon une étude de Harvard, l’IA a posé des diagnostics plus précis aux urgences que deux médecins | TechCrunch
Couverture originale : Ars Technica AI : Ars Technica AI