Voici une information qui pourrait bien avoir un impact durable sur le secteur.
Anthropic lance FlashProve : des preuves cryptographiques attestant qu’une réponse provient de poids engagés
La « Frontier Red Team » d’Anthropic a lancé FlashProve, un prototype de recherche open source dédié à l’inférence vérifiable. FlashProve est un mécanisme zkSNARK développé par Anthropic qui prouve qu’une réponse provient bien d’un système validé. La preuve ne révèle aucune information sur les poids du système. Sur Llama 4 Maverick, un modèle de type « mixture-of-experts » de 400 milliards de paramètres, il atteint un débit d’environ 110 tokens par seconde sur un H100. Pour les développeuses et développeurs, cela comble une véritable lacune : aujourd’hui, il n’est pas possible de vérifier quel modèle d’IA a effectivement répondu à votre appel d’API.
Un utilisateur qui interroge un modèle ne peut pas vérifier quel modèle a généré la réponse. Un service de routage pourrait substituer un système moins coûteux. Un attaquant pourrait altérer le flux de jetons. Se fier uniquement à la qualité de la sortie n’est pas fiable.
FlashProve comprend un démonstrateur (le fournisseur de modèles) et un vérificateur (l’utilisateur). Il fonctionne en deux phases :
Le dispositif de preuve compile une preuve interactive de type « oracle » en une preuve cryptographique à l’aide de fonctions de hachage. Selon Anthropic, cela garantit une sécurité post-quantique. Il s’agit de la même famille de fonctions que celle utilisée par les réseaux de couche 2 (L2) à preuve de validité, tels que Starknet.
Trois choix techniques déterminent la vitesse. Le travail de vérification s’adapte aux quelque 17 milliards de paramètres actifs, et non aux 400 milliards. Les requêtes sont vérifiées par lots a posteriori, à l’instar du « prefill ». Les poids sont transmis en continu depuis la mémoire de l’hôte, de sorte qu’un seul GPU de 80 Go suffit.
Anthropic a mesuré les poids publics de 4 bits de Maverick sur un H100 doté de 24 cœurs de processeur. Conformément au guide des performances du dépôt :
Par rapport au vLLM exécutant FP8 Maverick sur 8 cartes H100, le coût est environ 72 fois supérieur en temps GPU par lot. À la charge maximale testée pour le vLLM, cet écart atteint environ 94 fois.
En parallèle, le code cryptographique étant fragile, Anthropic a formalisé le protocole dans Lean. Cela permet de prouver son exhaustivité, sa solidité et sa propriété « zéro connaissance ». Le fichier README précise qu’un fournisseur malhonnête ne peut être détecté qu’avec une probabilité d’environ q/2^124 + 2^-101.
Pour les professionnels du domaine, cette annonce mérite d’être surveillée.
Pour aller plus loin :
Via MarkTechPost : MarkTechPost