L’industrie de l’IA poursuit sa transformation rapide avec cette nouvelle annonce.
OpenAI dévoile le « mode verrouillage » pour protéger les données sensibles contre les attaques par injection de prompt | TechCrunch
OpenAI a annoncé une nouvelle fonctionnalité qui, selon l’entreprise, offrira une protection supplémentaire contre les attaques par injection de prompt, dans lesquelles des instructions malveillantes destinées aux chatbots sont dissimulées dans des pages web et d’autres sources de contenu.
Le mode Confinement désactivera notamment la navigation Web en direct (vous ne pourrez donc accéder qu’au contenu mis en cache), le téléchargement et l’affichage d’images provenant du Web (vous pourrez toutefois continuer à générer des images), la exploration approfondie et le mode agent.
Selon l’entreprise, même lorsque le mode « Lockdown » est activé, ChatGPT pourrait rester vulnérable aux injections de requêtes — lesquelles pourraient, par exemple, « apparaître dans du contenu web mis en cache ou dans un fichier téléchargé, et continuer à influencer le comportement ou la précision d’une réponse ».
Cependant l’objectif est de réduire le risque que des éléments sensibles soient divulguées au cours du processus.
« Le mode Lockdown n’est pas destiné à tout le monde », précise OpenAI. « Il est conçu pour les personnes et les organisations qui traitent des données sensibles et souhaitent bénéficier d’une protection plus stricte contre les risques d’exfiltration de données liés à l’injection de prompts. »
L’entreprise indique qu’elle est en train de déployer le « mode confinement » pour les comptes ChatGPT Business en libre-service, de cette manière que pour les comptes personnels éligibles.
À suivre donc, dans un domaine qui n’a pas fini de nous surprendre.
Sur le même sujet :
- À quoi s’attendre lors de la WWDC 2026 : la refonte très attendue de Siri et les nouveautés concernant Apple Intelligence | TechCrunch
- Le S&P 500 rejette SpaceX et refuse également l’entrée d’OpenAI et d’Anthropic
- À l’approche de son introduction en bourse, Daniela Amodei, d’Anthropic, balaye les doutes quant à la rentabilité de l’IA | TechCrunch
Via TechCrunch AI : TechCrunch AI