Nestor propose une architecture modulaire pour assembler des agents d'IA qui maintiennent l'état de la conversation, invoquent des outils externes et personnalisent les pipelines de traitement. Les principales fonctionnalités incluent des magasins de mémoire basés sur la session, un registre pour les fonctions ou plugins d'outils, des modèles de prompts flexibles et des interfaces unifiées pour les clients LLM. Les agents peuvent exécuter des tâches séquentielles, effectuer des branchements décisionnels et s’intégrer aux API REST ou scripts locaux. Nestor est indépendant du framework, permettant aux utilisateurs de travailler avec OpenAI, Azure ou des fournisseurs LLM auto-hébergés.

ChainLite rationalise la création d’agents IA en abstraisant la complexité de l’orchestration LLM en modules de chaînes réutilisables. À l’aide de décorateurs Python simples et de fichiers de configuration, les développeurs définissent les comportements des agents, les interfaces d’outils et les structures de mémoire. Le framework s’intègre aux fournisseurs LLM populaires (OpenAI, Cohere, Hugging Face) et aux sources de données externes (API, bases de données), permettant aux agents de récupérer des informations en temps réel. Avec une interface utilisateur basée sur le navigateur intégrée, alimentée par Streamlit, les utilisateurs peuvent inspecter l’historique des conversations au niveau des jetons, déboguer les invites et visualiser les graphes d’exécution de la chaîne. ChainLite prend en charge plusieurs cibles de déploiement, du développement local à la production en conteneurs, permettant une collaboration fluide entre data scientists, ingénieurs et équipes produit.

Rags fournit un pipeline modulaire pour construire des applications génératives augmentées par récupération. Il s'intègre avec des magasins vectoriels populaires (par ex., FAISS, Pinecone), propose des modèles de prompt configurables et inclut des modules de mémoire pour maintenir le contexte conversationnel. Les développeurs peuvent passer d’un fournisseur LLM à un autre comme Llama-2, GPT-4 et Claude2 via une API unifiée. Rags supporte la réponse en flux, la prétraitement personnalisé et des hooks d’évaluation. Son design extensible permet une intégration transparente dans les services de production, permettant l’ingestion automatique de documents, la recherche sématique et la génération de tâches pour chatbots, assistants de connaissances et le résumé de documents à grande échelle.

Cognita offre une architecture modulaire pour la création d’applications RAG : ingestion et indexation des documents, sélection parmi OpenAI, TrueFoundry ou des fournisseurs tiers d’intégration, et configuration des pipelines de récupération via YAML ou Python DSL. Son interface frontend intégrée permet de tester les requêtes, d’ajuster les paramètres de récupération et de visualiser la similarité vectorielle. Une fois validé, Cognita fournit des modèles de déploiement pour Kubernetes et les environnements serverless, permettant de faire évoluer des assistants IA basés sur la connaissance en production avec observabilité et sécurité.