Nestor proporciona una arquitectura modular para ensamblar agentes IA que mantienen el estado de la conversación, invocan herramientas externas y personalizan las pipelines de procesamiento. Las características principales incluyen almacenes de memoria basados en sesiones, un registro para funciones o plugins de herramientas, plantillas de prompts flexibles e interfaces unificadas para clientes LLM. Los agentes pueden ejecutar tareas secuenciales, realizar ramificaciones de decisiones e integrarse con APIs REST o scripts locales. Nestor no depende de un framework específico, permitiendo a los usuarios trabajar con OpenAI, Azure u otros proveedores de LLM autohospedados.

Granite Retrieval Agent proporciona a los desarrolladores una plataforma flexible para construir agentes AI generativos aumentados por recuperación que combinan búsqueda semántica y grandes modelos de lenguaje. Los usuarios pueden ingerir documentos de diversas fuentes, crear embeddings vectoriales y configurar índices de Azure Cognitive Search u otros almacenes vectoriales. Cuando llega una consulta, el agente recupera los pasajes más relevantes, construye ventanas de contexto y llama a las APIs de LLM para respuestas o resúmenes precisos. Soporta gestión de memoria, orquestación de cadenas de pensamiento y plugins personalizados para pre y post-procesamiento. Desplegable con Docker o directamente en Python, Granite Retrieval Agent acelera la creación de chatbots basados en conocimiento, asistentes empresariales y sistemas Q&A con menos alucinaciones y mayor precisión factual.