Nestor propose une architecture modulaire pour assembler des agents d'IA qui maintiennent l'état de la conversation, invoquent des outils externes et personnalisent les pipelines de traitement. Les principales fonctionnalités incluent des magasins de mémoire basés sur la session, un registre pour les fonctions ou plugins d'outils, des modèles de prompts flexibles et des interfaces unifiées pour les clients LLM. Les agents peuvent exécuter des tâches séquentielles, effectuer des branchements décisionnels et s’intégrer aux API REST ou scripts locaux. Nestor est indépendant du framework, permettant aux utilisateurs de travailler avec OpenAI, Azure ou des fournisseurs LLM auto-hébergés.

Rags fournit un pipeline modulaire pour construire des applications génératives augmentées par récupération. Il s'intègre avec des magasins vectoriels populaires (par ex., FAISS, Pinecone), propose des modèles de prompt configurables et inclut des modules de mémoire pour maintenir le contexte conversationnel. Les développeurs peuvent passer d’un fournisseur LLM à un autre comme Llama-2, GPT-4 et Claude2 via une API unifiée. Rags supporte la réponse en flux, la prétraitement personnalisé et des hooks d’évaluation. Son design extensible permet une intégration transparente dans les services de production, permettant l’ingestion automatique de documents, la recherche sématique et la génération de tâches pour chatbots, assistants de connaissances et le résumé de documents à grande échelle.