L’actualité du jour apporte un éclairage intéressant sur l’évolution du domaine.
« Personne n’a besoin de l’IA pour effectuer des recherches sur Internet », estime la Cour dans un jugement rendu contre Google
La défaite de Google AI devant les tribunaux allemands pourrait sonner le glas du secteur de la recherche basée sur l’IA.
Une décision rendue par un tribunal allemand, susceptible d’avoir des répercussions sur tous les moteurs de exploration et chatbots basés sur l’IA connus pour mal paraphraser les liens sources, a établi que Google était responsable des fausses déclarations figurant dans les résumés générés par l’IA.
À ce sujet, cette décision préjudicielle a été rendue dans une affaire signalée par The Decoder, dans laquelle deux éditeurs ont constaté que les résumés générés par l’IA de Google les associaient à tort à des escroqueries et à d’autres pratiques commerciales douteuses. Après avoir dénigré des éditeurs en affirmant sans ambages que « oui, [cette entreprise] est connue pour ses pratiques commerciales douteuses et est souvent perçue comme une arnaque », Google n’a pas corrigé ces informations trompeuses, même après que les éditeurs lui ont adressé une mise en demeure plus tôt cette année.
Google a invoqué les arguments habituels pour se dégager de toute responsabilité quant aux fausses déclarations contenues dans les résumés générés par l’IA, affirmant notamment que la plupart des usagers comprennent que les résultats fournis par l’IA ne sont pas toujours exacts et doivent être vérifiés.
Cependant le tribunal a estimé que, contrairement aux moteurs de exploration traditionnels qui se contentent de présenter des listes de liens vers des déclarations de tiers, l’solution de Google formulait des « déclarations indépendantes, nouvelles et de fond » fondées sur sa propre interprétation erronée des liens présents sur Internet.
Fait intéressant, c’est là un problème, a estimé le tribunal, car si les éditeurs ont pu intenter des poursuites pour empêcher des tiers de publier des propos diffamatoires apparaissant dans les résultats de recherche de Google, seul Google est en mesure de corriger l’algorithme sous-jacent et les retombées affichés dans les « AI Overviews ». Et comme, du moins au départ, l’entreprise ne l’a pas fait, elle « doit donc être tenue pour responsable », a jugé le tribunal. De plus, l’argument avancé par Google a été jugé particulièrement peu convaincant, car la description de l’IA en question « contient des affirmations qui n’apparaissent absolument pas dans les résultats de recherche ».
La décision du tribunal — qui ordonne une injonction provisoire interdisant à Google de diffuser ces fausses allégations dans de futurs « AI Overviews » — pourrait avoir des répercussions mondiales, car il semble que ce soit la première fois qu’un tribunal tienne une entreprise spécialisée dans l’IA pour responsable des propos émis par ses systèmes d’IA.
Cette nouvelle étape pose plusieurs questions qui restent ouvertes.
À découvrir aussi :
- Dépôt confidentiel du projet de formulaire S-1 auprès de la SEC
- Conçu pour le bien de tous : notre projet
- Apple utilise l’IA pour résoudre le problème lié aux extensions de Safari
Article original publié par Ars Technica AI : Ars Technica AI