Les développements se succèdent à un rythme impressionnant dans l’IA.
Un développeur présente un nouveau modèle d’IA et un harnais amélioré pour réduire les coûts liés aux jetons | TechCrunch
Dans l’ensemble du secteur de l’IA, les usagers prennent de plus en plus conscience du coût élevé de leurs déploiements et ressentent un besoin accru de réduire leurs dépenses. Cependant, bien que les modèles open source offrent des coûts par token nettement inférieurs, il peut s’avérer difficile de trouver le modèle adapté à une tâche donnée.
Jeudi, Writer, qui propose des outils et des agents basés sur l’IA destinés aux professionnels du marketing, a lancé un inédit modèle phare baptisé Palmyra X6, destiné à résoudre ce problème pour ses utilisateurs. Conçu comme une variante post-entraînement du modèle open source GLM-5.2 de Z.ai, ce nouveau mécanisme devrait, selon Writer, offrir des fonctionnalités prêtes à l’emploi à un prix nettement inférieur. L’entreprise estime que ce nouveau modèle, associé aux modifications apportées à son infrastructure de câblage, permettra à ses clients de réduire leurs coûts jusqu’à 50 % pour les tâches de base.
Cette nouvelle approche met particulièrement l’accent sur les tâches complexes comportant plusieurs étapes, qui sont exécutées plus rapidement et avec moins de tokens.
Parallèlement à ce nouveau modèle, l’entreprise a en outre dévoilé des améliorations notables apportées à son harnais agentique standard. Ces deux nouveautés seront disponibles pour les clients de Writer dès jeudi.
À relever, « Je pense que les structures en ont vraiment assez de courir sans cesse après la prochaine référence », a déclaré la PDG May Habib à TechCrunch. « Elles veulent stabiliser leurs coûts, et il semble que personne ne soit en mesure de leur offrir cela. »
Cette nouvelle approche met particulièrement l’accent sur les tâches complexes comportant plusieurs étapes, qui sont exécutées plus rapidement et avec moins de tokens. Et Writer considère l’optimisation des harnais comme un levier essentiel pour y parvenir.
Un article récent publié par des chercheurs de Writer vient étayer cette approche, en testant de légères modifications de l’efficacité du harnais sur plusieurs modèles différents. Les résultats de cette étude ont montré que, dans de nombreux cas, les modifications apportées au harnais constituaient un moyen plus fiable de réduire les coûts que le choix du modèle, les coûts ayant baissé en moyenne de 40 % lors des tests effectués.
Les retombées concrètes se feront sentir dans les mois qui viennent.
Pour aller plus loin :
- Tout l’équipement nécessaire à la production vidéo tient désormais sur un seul bureau : lancement du LTX-2.5, un modèle OpenWeights World accéléré par NVIDIA
- OpenAI lance l’application de bureau ChatGPT pour Linux | TechCrunch
- Xiaomi dévoile, dans le cadre de son projet MiLM Plus, les indicateurs RC-S et RC-T de suppression d’objets alignés sur la perception (PROVE), accompagnés d’un test de performance sur une vidéo réelle.
Source originale : TechCrunch AI : TechCrunch AI