rag-services est une plateforme extensible qui décompose les pipelines RAG en microservices discrets. Elle offre un service de stockage de documents, un service d'indexation vectorielle, un service d'embedding, plusieurs services d'inférence LLM et un orchestrateur pour coordonner les flux de travail. Chaque composant expose des API REST, vous permettant de mélanger et d'associer bases de données et fournisseurs de modèles. Avec la prise en charge de Docker et Docker Compose, vous pouvez déployer localement ou dans des clusters Kubernetes. Le cadre permet des solutions RAG évolutives et tolérantes aux pannes pour chatbots, bases de connaissances et Q&A automatiques.

UltiHash est une plateforme de stockage d'objets haute performance compatible S3, conçue spécifiquement pour les charges de travail IA telles que l'IA générative, l'entraînement de modèles, la génération augmentée par récupération et les environnements de data lakehouse. Elle aide les équipes à gérer des données structurées et non structurées à grande échelle avec un débit optimisé, une déduplication au niveau binaire et des options de déploiement natives Kubernetes pour améliorer l'efficacité GPU/TPU et réduire les coûts de stockage.