L’actualité tech du jour met en lumière un développement significatif.
Les agents IA ne sont pas vos « collègues »
Présenter les agents IA comme des « employés numériques » pourrait rendre les travailleurs humains moins aptes à repérer les erreurs et les inciter davantage à se décharger de leurs responsabilités.
Imaginez que vous arriviez au travail et que vous appreniez qu’un récent subordonné va être placé sous vos ordres. Ce « collaborateur » n’est pas une personne, cependant un outil d’IA — que votre entreprise a néanmoins baptisé Alex, un « employé » doté d’un titre et de responsabilités bien définies. À votre avis, dans quelle mesure seriez-vous capable de travailler avec Alex ?
Si vous êtes un peu comme les managers récemment étudiés par Emma Wiles, professeure de gestion à l’université de Boston, considérer Alex comme un « collègue » plutôt que comme un outil logiciel vous amènerait à faire un travail de moins bonne qualité. Wiles a constaté que les participants détectaient 18 % d’erreurs en moins lorsqu’on leur disait que le travail provenait d’un « employé IA » doté d’une capacité d’action plutôt que d’un chatbot. Il s’avère que le choix du nom a son importance. Une grande importance.
C’est un aperçu inquiétant de l’avenir vers lequel la Silicon Valley nous précipite. L’année dernière, le PDG de Nvidia, Jensen Huang, a évoqué les lieux de travail peuplés d’« humains numériques ». Depuis avril, Microsoft, OpenAI, Anthropic et Google ont tous lancé de nouveaux outils destinés à la gestion d’équipes d’agents IA, dont beaucoup sont explicitement présentés comme des collègues numériques dotés de la flexibilité et des capacités cognitives d’êtres humains réels. Et près d’un tiers des 1 261 cadres ayant participé à l’étude de Wiles ont déclaré que leur entreprise considérait déjà les agents d’IA comme des employés (23 % d’entre eux les font même figurer dans les organigrammes).
Point notable, les progrès techniques de l’IA agentique ne sont bien sûr pas que du vent. Les agents, que l’on peut en effet considérer comme des outils d’IA programmés pour fonctionner en boucle jusqu’à ce qu’ils atteignent un objectif, ont nettement amélioré leurs performances dans des tâches plus complexes. Cependant il y a un monde entre ces outils et le fait de les considérer comme des collègues ou des employés ; cela créerait des attentes irréalistes quant aux capacités de l’IA, tout en aggravant la situation des employés humains censés en être responsables.
Cela s’explique en partie, comme le suggèrent les recherches de Wiles, par le fait que cela renverse notre perception de qui détient le pouvoir. Lorsqu’un outil d’IA était présenté comme un employé, les participants à l’étude se considéraient comme moins responsables de ses résultats. Ils étaient également 44 % plus enclins à transmettre leur travail contestable à un responsable pour un examen plus approfondi plutôt que de se fier à leurs propres corrections (ce qui allait à l’encontre de l’objectif initial d’économie de temps lié à l’utilisation de l’agent IA).
Cela a des implications qui vont bien au-delà de la culture d’entreprise : à mesure que les agents d’IA s’intègrent dans les secteurs de la santé, de la défense, de l’éducation et de l’administration, le risque grandit qu’ils deviennent un bouc émissaire pratique pour rejeter la responsabilité d’échecs qui sont en réalité le fruit de mauvaises décisions humaines, de systèmes d’incitation inadaptés et de négligences (rappelons-nous comment l’attaque aérienne contre une école de filles en Iran a été largement imputée à Claude, alors que tous les indices indiquaient une cascade d’erreurs humaines).
À relever, « À l’heure actuelle, les agents d’IA sont présentés comme des outils capables de remplacer les humains, et je pense que c’est tout simplement une voie sans issue », déclare Daron Acemoglu, économiste au MIT, lauréat du prix Nobel en 2024, qui étudie l’impact de l’IA sur l’économie. « Ils devraient plutôt être optimisés de manière à améliorer les aptitudes humaines, ce qui n’est pas le cas pour l’instant. »
Le chapitre n’est pas clos, loin de là.
À lire également :
- Cartographie des opportunités en matière de main-d’œuvre dans le domaine de l’IA en Europe
- Présentation de GPT-5.6 Sol : un modèle de nouvelle génération
Information publiée en premier lieu par MIT Technology Review : MIT Technology Review