Granite Retrieval Agent offre aux développeurs une plateforme flexible pour construire des agents IA génératives augmentés par récupération combinant recherche sémantique et grands modèles linguistiques. Les utilisateurs peuvent ingérer des documents provenant de sources diverses, créer des embeddings vectoriels et configurer des index Azure Cognitive Search ou d'autres magasins vectoriels. Lorsqu’une requête arrive, l’agent récupère les passages les plus pertinents, construit des fenêtres contextuelles et appelle les API LLM pour des réponses ou résumés précis. Il supporte la gestion de la mémoire, l’orchestration en chaîne de la réflexion et des plugins personnalisés pour le pré et post-traitement. Déployable via Docker ou directement en Python, Granite Retrieval Agent accélère la création de chatbots basés sur la connaissance, assistants d'entreprise et systèmes Q&A avec moins d’hallucinations et une meilleure précision factuelle.

AgentRails permet aux développeurs Rails de construire des agents intelligents utilisant de grands modèles de langage pour la compréhension et la génération de langage naturel. Les développeurs peuvent définir des outils personnalisés et des flux de travail, maintenir l'état de la conversation entre les requêtes et s'intégrer de manière transparente aux contrôleurs et vues Rails. Il abstrait les appels API vers des fournisseurs comme OpenAI et permet un prototypage rapide de fonctionnalités basées sur l'IA, des chatbots aux générateurs de contenu, tout en respectant les conventions Rails pour la configuration et le déploiement.

Nestor propose une architecture modulaire pour assembler des agents d'IA qui maintiennent l'état de la conversation, invoquent des outils externes et personnalisent les pipelines de traitement. Les principales fonctionnalités incluent des magasins de mémoire basés sur la session, un registre pour les fonctions ou plugins d'outils, des modèles de prompts flexibles et des interfaces unifiées pour les clients LLM. Les agents peuvent exécuter des tâches séquentielles, effectuer des branchements décisionnels et s’intégrer aux API REST ou scripts locaux. Nestor est indépendant du framework, permettant aux utilisateurs de travailler avec OpenAI, Azure ou des fournisseurs LLM auto-hébergés.