Le secteur de l’IA vient d’être le théâtre d’un développement notable.
Perplexity AI lance « pplx-embed-v2-late » : un modèle « edge » de 0,6 milliard de paramètres et un modèle de 9 milliards de paramètres atteignant un score de 92,4 % sur MADQA
Perplexity a lancé « pplx-embed-v2-late », une paire de modèles d’embeddings multimodaux de type ColBERT. Ils sont disponibles en deux tailles : 0,6 milliard pour des requêtes rapides et peu coûteuses, et 9 milliards pour une qualité optimale. Les deux modèles traitent du texte, des images et des pages PDF rendues, et partagent un même espace d’embedding.
Est-ce déployable ? Oui, si vous l’hébergez vous-même. Les deux modèles sont disponibles sur Hugging Face sous licence MIT. Un point de terminaison API Perplexity hébergé est prévu, mais n’est pas encore opérationnel.
Ce résultat est supérieur aux 62,3 % obtenus avec 0,6 milliard de chaque côté, pour un coût de requête identique.
Perplexity a conçu le modèle 0.6B comme un encodeur de requêtes léger pouvant également fonctionner sur des appareils en périphérie. Les deux fiches techniques du modèle indiquent l’utilisation du GPU via CUDA. Elles nécessitent Sentence-Transformers >= 6.0.0 et Transformers >= 5.4.0. Les chiffres relatifs à la mémoire correspondent à notre estimation de 2 octets par paramètre, pour les poids uniquement. Les checkpoints publiés sont stockés au format F32, ce qui double la taille du téléchargement.
Tous les chiffres ci-dessous sont tirés du communiqué de Perplexity :
Notons par ailleurs, le meilleur résultat : 92,4 % sur MADQA, obtenu par le modèle 9B. L’écart le plus important concerne BrowseComp+, avec 8,7 points de pourcentage d’avance sur le meilleur modèle dense.
Dans la foulée, le résultat le plus faible : 61,2 % sur ViDoRe v3 Markdown, avec le système 0,6B. Il s’agit tout de même du deuxième meilleur score obtenu sur ce benchmark. C’est dans la exploration d’images que le retard est le plus important : Gemini Embedding 2 devance le modèle 9B sur MIRACL-Vision et de 2 points de pourcentage sur PPLX-Q2I.
Mélange de tailles : une requête de 9 milliards d’index traitée par le système de 0,6 milliard a obtenu un score de 63,5 % à la tâche de recherche d’images ViDoRe v3. Ce résultat est supérieur aux 62,3 % obtenus avec 0,6 milliard de chaque côté, pour un coût de requête identique.
Les éléments clés de cette information :
- Le meilleur résultat : 92,4 % sur MADQA, obtenu par le modèle 9B.
- Il s’agit tout de même du deuxième meilleur score obtenu sur ce benchmark.
- Ce résultat est supérieur aux 62,3 % obtenus avec 0,6 milliard de chaque côté, pour un coût de requête identique.
Il faudra attendre les retours concrets pour juger de l’impact réel.
Dans le même ordre d’idées :
- Toutes les annonces faites lors de l’événement « Surface Laptop Ultra » de Microsoft
- Meta AI met « Rebalancer » en open source : un solveur de problèmes d’affectation en C++ qui traite environ 40 millions de problèmes d’affectation par jour
Article original publié par MarkTechPost : MarkTechPost