Voici une annonce qui mérite l’attention des observateurs du secteur.
L’IA a inséré des « citations synthétiques » dans son livre. Mais cet auteur souhaite continuer à les utiliser.
Steven Rosenbaum explique comment des citations erronées se sont glissées dans son livre *The Future of Truth*.
Le journaliste et auteur Steven Rosenbaum a plus de raisons que quiconque de se méfier de l’IA.
Précisons, son nouveau livre, *The Future of Truth: How AI Reshapes Reality* (L’avenir de la vérité : comment l’IA redessine la réalité), traite de la manière dont « la vérité est déformée, brouillée et synthétisée » sous l’effet de la « pression exercée par une IA en constante évolution et axée sur le profit ». Une enquête du *New York Times* publiée cette semaine a toutefois révélé ce que Rosenbaum reconnaît aujourd’hui comme étant « une poignée de citations mal attribuées ou synthétiques », liées à son utilisation d’outils d’IA lors de la recherche pour son livre.
Parmi ces citations, on en trouve une que la journaliste spécialisée dans les technologies Kara Swisher a déclaré au Times n’avoir « jamais prononcée », ainsi qu’une autre dont Lisa Feldman Barrett, professeure à l’université Northeastern, a affirmé qu’elle « ne figure pas dans [son] livre et qu’elle est en outre erronée ». Rosenbaum travaille actuellement avec les éditeurs sur ce qu’il qualifie de « vérification complète des citations », qui permettra de corriger les prochaines éditions.
S’adressant à Ars au lendemain de la polémique, Rosenbaum a déclaré avoir « tiré une leçon » et qu’il allait désormais « se montrer beaucoup plus méfiant » et « plus réticent à se fier » aux performances générés par l’IA.
Cependant il ne parvient pas non plus à se détacher de ces outils. Chose assez étonnante, Rosenbaum ne souhaite pas revenir au processus de recherche sans IA qu’il utilisait pour rédiger ses précédents ouvrages.
Par ailleurs, « L’idée de faire une pause de X ans [dans le domaine de l’IA] le temps que les choses se mettent en place, et de revenir à, disons, Microsoft Word… ça ne me ressemble tout simplement pas », a-t-il déclaré à Ars. « [L’IA] est magique. Parce qu’elle établit des liens, elle tisse des connexions entre les idées et vous ouvre des pistes de réflexion auxquelles vous n’auriez jamais pensé tout seul. »
L’écosystème continuera probablement de s’ajuster dans les semaines à venir.
À découvrir aussi :
- Le pape Léon appelle à faire preuve d’une « profonde humanité » à l’ère de l’IA
- Le moteur de exploration basé sur l’IA de Google est tellement défaillant qu’il peut « ignorer » ce que vous recherchez
- Tables rondes : L’IA peut-elle apprendre à comprendre le monde ?
Couverture originale : Ars Technica AI : Ars Technica AI