L’industrie de l’IA poursuit sa transformation rapide avec cette nouvelle annonce.
Sécuriser l’entreprise « agentique » grâce à la traçabilité des données
La traçabilité des informations constitue le tout nouveau périmètre de sécurité ; elle offre la visibilité nécessaire à la gouvernance, à la responsabilité et à la confiance, sans entraver l’adoption de l’IA à grande échelle.
En parallèle, un commercial demande à un agent IA les tarifs applicables à un client, et celui-ci extrait les informations de plusieurs sources : systèmes tarifaires à accès restreint, communications internes et devis archivés. Les informations obtenues semblent exactes à l’agent, si bien qu’un deuxième agent utilise ces données pour rédiger la proposition destinée au commercial. Aucune vérification humaine n’est effectuée à aucun des deux stades de ce processus. Lorsqu’on constate que la proposition contient des informations non approuvées, confidentielles et sensibles, personne ne peut déterminer à quel moment ces données problématiques ont été intégrées au flux de travail ni comment elles se sont propagées à travers les systèmes, les fichiers et les agents.
Ce scénario illustre pourquoi la gouvernance de l’IA doit évoluer, rapidement et de manière dynamique. À mesure que de plus en plus d’entreprises commencent à utiliser l’IA agentique dans leurs processus quotidiens, elles se rendent compte qu’elles doivent gérer bien plus que de simples fichiers statiques ; elles doivent gérer des données en mouvement et fragmentées qui sont en permanence ingérées, copiées, synthétisées, transformées, réutilisées et redistribuées sous de nouvelles formes. En résumé, la sécurité de l’IA n’est pas un problème lié aux outils ; c’est un problème de visibilité des données.
Par conséquent, les approches traditionnelles en matière de sécurité, qui s’articulent exclusivement autour des applications, des systèmes, des réseaux ou des terminaux, ne suffisent plus. Pour sécuriser l’IA agentique à grande échelle, il est nécessaire de comprendre comment les données circulent. Les équipes doivent donc établir la traçabilité des données afin de gérer efficacement la gouvernance, la responsabilité et la confiance au sein des flux de travail impliquant des personnes, des agents et des systèmes hybrides.
Fait intéressant, ce contenu a été produit par Insights, la division chargée du contenu sur mesure de MIT Technology Review, et non par sa rédaction. Il a fait l’objet de recherches et a été rédigé par des personnes ; l’utilisation éventuelle d’outils d’IA s’est limitée aux processus de production, sous contrôle humain.
Ce développement s’ajoute à une longue série d’évolutions dans le secteur.
Pour aller plus loin :
- Vercel Labs met en open source « agent-desktop » pour une utilisation sur les ordinateurs des agents
Couverture originale : MIT Technology Review : MIT Technology Review