rag-services是一個可擴展的平台，將RAG流程拆分成不同的微服務。它提供文件存儲服務、向量索引服務、嵌入服務、多個LLM推理服務，以及協調工作流程的編排器。每個模組都提供REST API，允許你組合資料庫和模型供應商。支持Docker和Docker Compose，可以在本地或Kubernetes叢集部署。此框架支持為聊天機器人、知識庫和自動文件問答提供擴展性和容錯性強的解決方案。