Un pas supplémentaire vient d’être franchi dans cette révolution technologique en cours.
OpenAI met en place de nouvelles mesures de sécurité après la faille de sécurité chez Hugging Face | TechCrunch
Mardi, OpenAI a annoncé une nouvelle série de mesures de sécurité visant à limiter les incidents de sécurité pendant la phase de test des modèles. Ces nouvelles mesures de sécurité prévoient un suivi plus approfondi des modèles tout au long du processus de avancée, ainsi qu’une attention accrue portée à l’alignement et à la sécurité lors de la phase post-apprentissage.
« À mesure que les modèles gagnent en performances, les risques liés à leur développement et à leur test en interne augmentent également », a déclaré l’entreprise dans un article de blog. « Nos normes en matière de surveillance, de conformité et de sécurité doivent toujours avoir une longueur d’avance sur ces risques. »
Notons par ailleurs, ces nouvelles mesures constituent l’un des premiers changements publics apportés aux pratiques d’OpenAI en matière de sécurité depuis les suites immédiates de l’incident Hugging Face, révélé le 21 juillet.
Sur ce point, les représentants d’OpenAI ont déclaré que ces mesures ne constituaient pas une réponse directe à l’incident de Hugging Face, mais qu’elles avaient en outre été motivées en partie par les aptitudes en matière de cybersécurité du futur modèle d’IA Astra, de ce fait que par le rythme global des progrès dans le domaine du développement de l’IA.
Dans ce même article, OpenAI a révélé avoir suspendu l’apprentissage par renforcement (RL) pendant deux semaines à la suite de l’incident de Hugging Face, cependant avoir depuis relancé bon nombre des modèles présentant le moins de risques.
« Notre plus grande série de tests en RL de pointe prévue reste en suspens, le temps que nous menions des entraînements et des évaluations à plus petite échelle afin d’analyser le comportement du modèle, de valider nos mesures de sécurité et de recueillir davantage de preuves d’alignement avant de poursuivre », peut-on lire dans ce message.
À ce sujet, s’adressant aux journalistes, Amelia Glaese, vice-présidente chargée de la recherche chez OpenAI, a souligné que la rigueur des contrôles s’intensifierait à mesure que les modèles gagneraient en performances, les modèles les plus volumineux faisant l’objet d’une surveillance particulièrement étroite.
Cette actualité s’inscrit dans une dynamique plus large qui mérite d’être suivie.
À lire également :
Reportage initial : TechCrunch AI : TechCrunch AI