Au cœur, Memary fournit un système de gestion de mémoire modulaire adapté aux agents de modèles linguistiques de grande taille. En abstraisant les interactions de mémoire via une API commune, il supporte plusieurs backends, notamment des dictionnaires en mémoire, Redis pour la mise en cache distribuée, et des magasins vectoriels comme Pinecone ou FAISS pour la recherche sémantique. Les utilisateurs définissent des schémas de mémoire (épisodes, sémantique ou à long terme) et exploitent des modèles d’embedding pour remplir automatiquement les magasins vectoriels. Les fonctions de récupération permettent de rappeler la mémoire pertinente contextuellement lors des conversations, améliorant les réponses des agents avec des interactions passées ou des données spécifiques au domaine. Conçu pour l’extensibilité, Memary peut intégrer des backends et fonctions d’embedding personnalisées, rendant idéal le développement d’applications IA robustes et à états, comme les assistants virtuels, bots de service client, et outils de recherche nécessitant une connaissance persistante au fil du temps.

Memonto fonctionne comme une bibliothèque intermédiaire pour les agents IA, orchestrant tout le cycle de vie de la mémoire. Lors de chaque tour de conversation, il enregistre les messages utilisateur et IA, distille les détails importants et crée des résumés concis. Ces résumés sont convertis en embeddings et stockés dans des bases de données vectorielles ou des systèmes de fichiers. Lors de la création de nouveaux prompts, Memonto effectue des recherches sémantiques pour récupérer les souvenirs historiques les plus pertinents, permettant aux agents de maintenir le contexte, de se souvenir des préférences de l'utilisateur et de fournir des réponses personnalisées. Il supporte plusieurs backends de stockage (SQLite, FAISS, Redis) et offre des pipelines configurables pour l'intégration de l'embedding, du résumé et de la récupération. Les développeurs peuvent intégrer Memonto de manière transparente dans des frameworks d'agents existants, renforçant ainsi la cohérence et l'engagement à long terme.

GenAI Processors fournit une bibliothèque de processeurs réutilisables et configurables pour construire des flux de travail d'IA générative de bout en bout. Les développeurs peuvent ingérer des documents, les diviser en morceaux sémantiques, générer des embeddings, stocker et interroger des vecteurs, appliquer des stratégies de récupération, et construire dynamiquement des prompts pour les appels des grands modèles de langage. Son architecture plug-and-play permet une extension facile des étapes de traitement personnalisées, une intégration transparente avec les services Google Cloud ou d'autres magasins de vecteurs, et la gestion de pipelines RAG complexes pour des tâches telles que la réponse aux questions, le résumé et la récupération de connaissances.