rag-services是一個可擴展的平台，將RAG流程拆分成不同的微服務。它提供文件存儲服務、向量索引服務、嵌入服務、多個LLM推理服務，以及協調工作流程的編排器。每個模組都提供REST API，允許你組合資料庫和模型供應商。支持Docker和Docker Compose，可以在本地或Kubernetes叢集部署。此框架支持為聊天機器人、知識庫和自動文件問答提供擴展性和容錯性強的解決方案。

Arenas 旨在簡化基於 LLM 的代理開發生命週期。開發者可以定義代理角色，將外部 API 和工具作為插件集成，並使用靈活的 DSL 組合多步驟工作流程。此框架管理對話記憶、錯誤處理和日誌記錄，支持堅固的 RAG 管線和多代理協作。通過命令列界面和 REST API，團隊可以在本地原型設計代理並將其部署為微服務或容器化應用。Arenas 支援流行的 LLM 提供商，提供監控儀表板，並內建常見用例的模板。這種靈活架構可以減少樣板代碼，加速面向客戶、研究和數據處理等領域 AI 解決方案的推向市場。