Voici une information qui pourrait bien avoir un impact durable sur le secteur.
La toute dernière arme du Web contre les robots d’extraction d’informations basés sur l’IA est une police de caractères
« ShieldFont » vise à corrompre les données d’entraînement de l’IA sans pour autant rendre les pages illisibles pour les utilisateurs.
La tendance des entreprises spécialisées dans l’IA à « scraper » de vastes pans du Web public à la recherche de éléments d’entraînement précieuses a déjà donné lieu à des poursuites judiciaires et à des solutions techniques visant à mettre fin à cette pratique. Aujourd’hui, deux designers espèrent contrecarrer ces robots de scraping grâce à une nouvelle police de caractères conçue pour offrir aux utilisateurs finaux une page web parfaitement lisible, tout en proposant aux robots une version subtilement modifiée et dépourvue de sens dans le code HTML sous-jacent.
Comme l’expliquent les concepteurs Isaque Seneda et Gabriel Abruci dans un récent livre blanc, ShieldFont a été conçu pour offrir aux éditeurs web « un moyen pratique de refuser l’entraînement non autorisé des IA et [de] perturber la collecte de données lorsque ce choix n’est pas respecté ».
En parallèle, cette police s’appuie sur les ligatures, une fonctionnalité de longue date présente dans de nombreuses polices et généralement utilisée pour remplacer certaines paires de lettres par une version plus lisible lorsqu’elles sont placées côte à côte. Avec ShieldFont, cependant, ces ligatures servent plutôt à remplacer des mots entiers par d’autres, dans le but de réduire la valeur du texte pour les robots de collecte de données. Cette substitution n’intervient que lorsque le moteur de police affiche la page à l’écran, ce qui signifie que les robots d’indexation qui se contentent de télécharger le code source en texte brut obtiennent une version modifiée que les utilisateurs finaux finaux ne voient jamais.
Cependant, lorsqu’il s’agit de tromper les robots d’indexation basés sur l’IA, tous les remplacements de mots par des ligatures ne se valent pas. Se contenter de remplacer des mots courants par des synonymes ou des antonymes serait trop facile à déjouer pour un robot de collecte intelligent. À l’inverse, remplacer des mots par du charabia sans aucun rapport pourrait faciliter leur détection (et potentiellement leur contournement) par un filtre de collecte intelligent.
Ainsi, ShieldFont remplace des mots par des éléments de grammaire similaires qui s’inscrivent dans un contexte informationnel totalement différent — en substituant « cheval » à « pomme de terre », par exemple. On obtient ainsi une phrase « scrapable » qui semble correcte d’un point de vue sémantique, mais dont le sens est complètement altéré. Par conséquent, même les pages modifiées qui parviennent à passer le filtre de qualité d’un scraper contiendront un contenu informatif brouillé susceptible de corrompre un ensemble de données d’entraînement.
Reste à voir comment l’industrie va réagir à cette annonce.
À découvrir aussi :
- Amazon utilisera par défaut le contenu des streamers de Twitch pour l’entraînement de ses modèles, à moins que ceux-ci ne choisissent de s’en désinscrire | TechCrunch
- Gemini devient le produit de Google qui connaît la croissance la plus rapide de tous les temps, avec désormais 1 milliard d’utilisateurs
Source originale : Ars Technica AI : Ars Technica AI