Les développements se succèdent à un rythme impressionnant dans l’IA.
Des chercheurs en sécurité d’OpenAI licenciés contestent les accusations de faute professionnelle et mettent en garde contre un effet dissuasif | TechCrunch
Jasmine Wang, Tomek Korbak et Mikita Balesni, les trois chercheurs en sécurité licenciés la semaine dernière par OpenAI, ont publié une lettre ouverte dans laquelle ils réfutent les allégations de l’entreprise selon lesquelles ils auraient mal géré des informations sensibles en dehors des procédures établies par celle-ci. Ils ont également averti que leur licenciement risquait d’avoir un effet dissuasif qui se répercuterait sur l’ensemble de la culture d’entreprise.
« Nous craignons que les communications internes et externes concernant notre licenciement aient dissuadé nos anciens collègues de s’exprimer et d’adopter des comportements qui, jusqu’à la semaine dernière, faisaient partie intégrante du quotidien chez OpenAI », ont écrit les chercheurs jeudi dans une lettre ouverte adressée au Comité de sûreté et de sécurité, au Groupe consultatif sur la sûreté et au Conseil consultatif de mission d’OpenAI.
Les scientifiques ont été licenciés la semaine dernière après avoir prétendument partagé des informations confidentielles de l’entreprise avec une organisation tierce spécialisée dans la sécurité de l’IA. OpenAI a déclaré qu’ils avaient enfreint les règles de l’entreprise en « accédant à des informations sensibles de l’entreprise et en les traitant ».
« L’IA n’est pas une technologie comme les autres, et OpenAI n’est pas une entreprise comme les autres », ont écrit Wang, Korbak et Balesni. « Ceux d’entre nous qui travaillent sur la sécurité identifient les risques avant tout le monde, et nous comptons sur une collaboration étroite avec des experts externes pour déterminer comment y remédier. La liberté de le faire sans crainte, et de disposer de procédures internes bien définies qui permettent ce travail, constitue en soi un mécanisme de sécurité essentiel. »
Ils ont déclaré que leur licenciement reflétait un changement plus général dans la culture d’OpenAI, une entreprise qui encourageait auparavant ses employés à « faire part de leurs préoccupations en matière de sécurité et à exprimer ouvertement leur désaccord ». Ils ont ajouté que les employés ne savaient désormais « plus très bien où ils en étaient », alors qu’un comportement qui était considéré comme normal il y a encore un mois constitue désormais soudainement un motif de licenciement.
Fait intéressant, « Compte tenu des préoccupations majeures en matière de sécurité liées au développement de l’IA, les employés ne doivent pas être contraints de travailler dans un environnement où la peur et le flou réglementaire entravent les efforts en faveur de la sécurité de l’IA et affaiblissent la responsabilité des tiers », ont-ils écrit. « Des licenciements comme les nôtres, mis en œuvre et communiqués de manière aussi abrupte, portent atteinte à la culture d’ouverture qu’OpenAI a toujours chérie. »
Dans cette lettre, les trois personnes ont nié toute implication dans une fuite vers *The Information* concernant des architectures moins faciles à surveiller dans les derniers modèles d’OpenAI, qui rendent le raisonnement par « chaîne de pensée » plus difficile à contrôler. Elles ont également nié avoir entretenu des relations avec des tiers en dehors du cadre de leurs fonctions.
OpenAI n’a pas répondu officiellement à la lettre ouverte, mais a transmis à TechCrunch une note interne attribuée à un responsable de recherche, dans laquelle celui-ci salue les contributions des trois chercheurs à la sécurité de l’IA et nie qu’ils aient été licenciés à titre de représailles.
L’avenir dira si cette annonce tient toutes ses promesses.
Sur le même sujet :
- Les avancées de l’IA dans le domaine de la robotique ne changeront pas votre vie de sitôt
- Comment Oracle transforme des journées de travail en quelques minutes grâce à ChatGPT et Codex
Couverture originale : TechCrunch AI : TechCrunch AI