Nestor oferece uma arquitetura modular para montar agentes de IA que mantêm o estado da conversa, invocam ferramentas externas e personalizam pipelines de processamento. Recursos principais incluem armazéns de memória baseados em sessões, um registro para funções de ferramentas ou plugins, templating de prompts flexível e interfaces unificadas de clientes LLM. Os agentes podem executar tarefas sequenciais, realizar ramificações de decisão e integrar-se com APIs REST ou scripts locais. Nestor é independente de framework, permitindo aos usuários trabalhar com OpenAI, Azure ou provedores de LLM hospedados por eles próprios.

Rags fornece um pipeline modular para construir aplicações gerativas com recuperação aprimorada. Integra-se com lojas vetoriais populares (por exemplo, FAISS, Pinecone), oferece templates de prompt configuráveis e inclui módulos de memória para manter o contexto da conversa. Desenvolvedores podem alternar entre provedores de LLMs como Llama-2, GPT-4 e Claude2 por meio de uma API unificada. Rags suporta respostas em streaming, pré-processamento personalizado e hooks de avaliação. Seu design extensível permite uma integração perfeita em serviços de produção, possibilitando ingestão automatizada de documentos, pesquisa semântica e tarefas de geração em escala para chatbots, assistentes de conhecimento e sumarização de documentos.