rag-services é uma plataforma extensível que divide pipelines RAG em microsserviços discretos. Oferece um serviço de armazenamento de documentos, um serviço de índice vetorial, um serviço de embedder, múltiplos serviços de inferência de LLM e um serviço de orquestração para coordenar fluxos de trabalho. Cada componente expõe APIs REST, permitindo combinar bancos de dados e provedores de modelos. Com suporte a Docker e Docker Compose, pode ser implantado localmente ou em clusters Kubernetes. A estrutura permite soluções RAG escaláveis e tolerantes a falhas para chatbots, bases de conhecimento e respostas automáticas a documentos.

UltiHash é uma plataforma de armazenamento de objetos de alto desempenho e compatível com S3, projetada especificamente para cargas de trabalho de IA, como IA generativa, treinamento de modelos, geração aumentada por recuperação e ambientes de data lakehouse. Ajuda equipes a gerenciar grandes volumes de dados estruturados e não estruturados com throughput otimizado, deduplicação em nível binário e opções de implantação nativas Kubernetes para melhorar a eficiência de GPU/TPU e reduzir custos de armazenamento.