Une évolution notable vient d’être rendue publique dans le domaine.
Les 7 types de mémoire des agents : guide technique à l’intention des ingénieurs en IA
Les grands modèles linguistiques sont, par défaut, sans état. Chaque appel d’API part de zéro. Le système oublie votre dernier message dès que la réponse est renvoyée. Cela ne pose pas de problème pour une seule question. Mais cela devient problématique dès lors que l’on crée un agent.
Notons par ailleurs, les agents planifient, utilisent des outils d’appel et passent par de nombreuses étapes. Ils doivent s’en souvenir. La mémoire est l’infrastructure qui permet d’y parvenir. Elle transforme un modèle sans état en un système capable de conserver le contexte. Ce système peut tirer des leçons de l’expérience et agir au fil du temps.
Mémoire procédurale (à long terme) : il s’agit des connaissances de l’agent sur la manière de faire les choses.
En parallèle, la mémoire désigne tout mécanisme permettant de transmettre des informations tout au long du raisonnement d’un modèle. Une partie de ces informations se trouve dans la fenêtre de contexte, tandis qu’une autre partie se trouve à l’extérieur, dans des bases de données ou dans les poids du modèle. Chaque type de mémoire stocke une catégorie d’informations différente pendant une durée différente.
Sur ce point, la mémoire varie selon sa forme et selon la durée. Par « forme », on entend une mémoire paramétrique, stockée sous forme de coefficients, ou non paramétrique, stockée sous forme de texte. Par « durée », on entend la mémoire à court terme ou à long terme. Les sept types présentés ci-dessous s’inscrivent dans ces deux axes.
1. Mémoire contextuelle / mémoire de travail (à court terme) : il s’agit de tout ce que le modèle d’IA peut actuellement voir dans sa fenêtre contextuelle. Elle comprend l’invite du mécanisme, les messages récents, les résultats des outils et les étapes de raisonnement. Considérez-la comme de la mémoire vive (RAM). Elle est rapide et essentielle, mais temporaire et limitée en taille. Tous les autres types de mémoire se disputent l’espace disponible ici.
2. Mémoire sémantique (à long terme) : il s’agit d’un référentiel persistant de faits, de préférences et de connaissances métier. Elle contient des entrées telles que « l’utilisateur préfère Python à JavaScript ». Ces connaissances sont dissociées du moment où elles ont été acquises. Il s’agit de l’encyclopédie structurée de l’agent concernant un utilisateur ou un sujet donné.
Point notable, 3. Mémoire épisodique (à long terme) : elle consigne des événements passés spécifiques, des conversations entières et le déroulement des tâches. Elle enregistre ce qui a fonctionné et ce qui a échoué. L’agent s’en sert pour tirer des leçons de l’expérience. Des systèmes tels que Reflexion et ExpeL rédigent des comptes rendus verbaux et stockent les conclusions en vue d’exécutions futures.
Notons par ailleurs, 4. Mémoire procédurale (à long terme) : il s’agit des connaissances de l’agent sur la manière de faire les choses. Elle englobe les compétences, les modes d’utilisation des outils, les processus de travail et les règles de comportement. Un agent du service d’assistance qui traite sa centième réinitialisation de mot de passe ne recommence pas à réfléchir au processus à suivre. Il exécute plutôt une procédure qu’il a apprise.
À suivre donc, dans un domaine qui n’a pas fini de nous surprendre.
À lire également :
Lire l’article complet sur MarkTechPost : MarkTechPost