rag-services é uma plataforma extensível que divide pipelines RAG em microsserviços discretos. Oferece um serviço de armazenamento de documentos, um serviço de índice vetorial, um serviço de embedder, múltiplos serviços de inferência de LLM e um serviço de orquestração para coordenar fluxos de trabalho. Cada componente expõe APIs REST, permitindo combinar bancos de dados e provedores de modelos. Com suporte a Docker e Docker Compose, pode ser implantado localmente ou em clusters Kubernetes. A estrutura permite soluções RAG escaláveis e tolerantes a falhas para chatbots, bases de conhecimento e respostas automáticas a documentos.

Arenas foi projetada para agilizar o ciclo de desenvolvimento de agentes baseados em LLM. Os desenvolvedores podem definir personas de agentes, integrar APIs e ferramentas externas como plugins e compor fluxos de trabalho de múltiplas etapas usando uma DSL flexível. A estrutura gerencia a memória da conversa, tratamento de erros e logging, habilitando pipelines RAG robustos e colaboração multi-agente. Com uma interface de linha de comando e API REST, as equipes podem criar protótipos de agentes localmente e implantá-los como microsserviços ou aplicativos em containers. Arenas suporta provedores populares de LLM, oferece dashboards de monitoramento e inclui modelos pré-construídos para casos de uso comuns. Essa arquitetura flexível reduz código boilerplate e acelera o time-to-market de soluções de IA em domínios como engajamento do cliente, pesquisa e processamento de dados.