rag-services é uma plataforma extensível que divide pipelines RAG em microsserviços discretos. Oferece um serviço de armazenamento de documentos, um serviço de índice vetorial, um serviço de embedder, múltiplos serviços de inferência de LLM e um serviço de orquestração para coordenar fluxos de trabalho. Cada componente expõe APIs REST, permitindo combinar bancos de dados e provedores de modelos. Com suporte a Docker e Docker Compose, pode ser implantado localmente ou em clusters Kubernetes. A estrutura permite soluções RAG escaláveis e tolerantes a falhas para chatbots, bases de conhecimento e respostas automáticas a documentos.

SmartRAG é uma biblioteca Python modular projetada para fluxos de trabalho de geração aprimorada por recuperação (RAG) com modelos de linguagem grandes. Ele combina ingestão de documentos, indexação vetorial e APIs de LLM de ponta para fornecer respostas precisas e ricas em contexto. Os usuários podem importar PDFs, arquivos de texto ou páginas web, indexá-los usando lojas de vetores populares como FAISS ou Chroma, e definir templates de prompts personalizados. O SmartRAG coordena a recuperação, montagem de prompts e inferência de LLM, retornando respostas coerentes fundamentadas nos documentos fonte. Ao abstrair a complexidade de pipelines RAG, ele acelera o desenvolvimento de sistemas de perguntas e respostas de base de conhecimento, chatbots e assistentes de pesquisa. Desenvolvedores podem estender conectores, trocar provedores de LLM e ajustar estratégias de recuperação para atender a domínios de conhecimento específicos.