L’écosystème de l’intelligence artificielle continue sa progression à un rythme soutenu.
You.com lance « Inference Router » : 12 modèles à poids variables avec un SLA garantissant une disponibilité de 99,9 %
You.com a lancé « Inference Router », une API gérée permettant d’exécuter des modèles à poids ouvert en production. « Inference Router » de You.com est un service compatible avec OpenAI qui achemine les requêtes vers 12 modèles actifs. Il inclut un SLA garantissant une disponibilité minimale de 99,9 % et une politique de non-conservation des informations (ZDR). Il propose en outre un hébergement 100 % américain et une travaux de recherche Web côté serveur. Le paiement s’effectue à l’utilisation, sans frais de plateforme.
Il s’agit d’une API unique pour de nombreux modèles à poids variable. Le point de terminaison esthttps://api.you.com et propose des routes compatibles avec OpenAI et Anthropic. Le code SDK existant peut être migré en modifiant l’URL de base et la clé.
Dans la foulée, l’équipe de You.com identifie le problème comme étant lié aux migrations bloquées. Les équipes de développement testent des modèles à poids variable sur des agrégateurs, puis se heurtent à une évaluation de sécurité. Les évaluateurs posent des questions sur le ZDR, l’hébergement aux États-Unis, les contrôles d’accès et les autorités de protection des données (DPA). Les fournisseurs spécialisés parviennent à surmonter ces obstacles, mais généralement au prix d’un engagement notable. Inference Router vise à combler cette lacune.
Chaque requête est d’abord acheminée vers « You.com Inference Direct », la capacité d’inférence propre à l’entreprise. Si celle-ci est hors service ou saturée, la requête est redirigée vers un partenaire agréé. L’article officiel cite les noms suivants : Parasail, Wafer, Alibaba Cloud, Meta et Inception, Prime Intellect devant bientôt s’ajouter à la liste. Tous sont hébergés à 100 % aux États-Unis et doivent respecter les règles ZDR.
Point notable, le basculement n’entraîne aucune modification de la facture. Chaque modèle dispose d’un prix par jeton publié. You.com propose en outre des plafonds de dépenses par clé API ainsi que des rapports d’utilisation quotidiens classés par système, coût et fournisseur. Les comptes fonctionnent sur une infrastructure conforme à la norme SOC 2, avec un accord de traitement des données (DPA) proposée sur demande.
La politique ZDR stipule que les invites et les résultats sont traités en mémoire et ne sont pas stockés. Elle s’applique aussi bien aux appels de modèles qu’aux requêtes de travaux de recherche sur le Web. You.com ne conserve que les métadonnées opérationnelles, telles que le nombre de jetons, les horodatages et les identifiants de compte. Les hachages d’invites, les textes anonymisés et les caches d’invites stockés sur disque sont explicitement exclus.
La page « Modèles » répertorie 12 modèles actifs, tous hébergés aux États-Unis. Les prix s’entendent par million de jetons (entrée / sortie) :
Muse Wonder, Muse Spark 1.3, GLM 5.3 Flash, Qwen 3.8 Flash et MiniMax M3 complètent la liste.
Difficile à ce stade de prédire tous les impacts de cette annonce.
Sur le même sujet :
- Google Cloud lance Agent Compute Engine : une MicroVM par agent d’IA
- Laissés seuls sans rien à faire, les agents IA se sont mis à jouer | TechCrunch
Information publiée en premier lieu par MarkTechPost : MarkTechPost