Kimi AI et kvcache-ai publient en open source « AgentENV » : un dispositif distribué qui permet l’entraînement par apprentissage par renforcement (RL) agentique pour Kimi K3

L’actualité du jour apporte un éclairage intéressant sur l’évolution du domaine.

Kimi AI et kvcache-ai publient en open source « AgentENV » : un dispositif distribué qui permet l’entraînement par apprentissage par renforcement (RL) agentique pour Kimi K3

L’équipe Kimi de Moonshot AI et kvcache-ai ont mis en open source AgentENV (AENV), une plateforme distribuée permettant d’exécuter des environnements d’agents à grande échelle. AgentENV prend en charge l’entraînement par apprentissage par renforcement (RL) agentique de Kimi K3, le modèle d’IA « Mixture-of-Experts » de Moonshot comptant 2,8 billions de paramètres. Le code est distribué sous licence MIT.

L’apprentissage par renforcement agentique ne se contente pas d’échantillonner du texte. Il exige que le système agisse au sein d’un véritable ordinateur. Chaque itération nécessite un environnement Linux isolé doté d’un système de fichiers, d’une pile réseau et de processus actifs.

Cette exigence pose un dilemme difficile. Les conteneurs démarrent rapidement, mais partagent le noyau de l’hôte, ce qui affaiblit l’isolation du code généré par le système. Les machines virtuelles complètes assurent une isolation adéquate, mais démarrent lentement et occupent de la mémoire lorsqu’elles sont inactives.

Par ailleurs, agentENV vise précisément cette lacune. Il exécute des micro-machines virtuelles Firecracker, puis rend les opérations d’inactivité, de redémarrage et de branchement suffisamment peu coûteuses pour pouvoir être exécutées à l’échelle de l’entraînement.

Parallèlement, chaque sandbox est une micro-VM Firecracker dotée de son propre noyau Linux, de son propre mécanisme de fichiers et de son propre espace de noms réseau. Les requêtes sont adressées à une API HTTP Axum, qui les transmet à un orchestrateur chargé de gérer le cycle de vie de la sandbox.

C’est au niveau du stockage que la conception devient intéressante. Le système de fichiers racine (rootfs) est mis à disposition via un périphérique bloc aublkuserspace s’appuyant sur des images en couches overlaybd. Les couches de base en lecture seule sont partagées entre les bacs à sable, et chaque bac à sable écrit dans sa propre couche supérieure.

Difficile à ce stade de prédire tous les impacts de cette annonce.

Dans le même ordre d’idées :


Information rapportée par MarkTechPost : MarkTechPost