rag-services是一個可擴展的平台，將RAG流程拆分成不同的微服務。它提供文件存儲服務、向量索引服務、嵌入服務、多個LLM推理服務，以及協調工作流程的編排器。每個模組都提供REST API，允許你組合資料庫和模型供應商。支持Docker和Docker Compose，可以在本地或Kubernetes叢集部署。此框架支持為聊天機器人、知識庫和自動文件問答提供擴展性和容錯性強的解決方案。

SPEAR（可擴展邊緣AI即時平台）旨在管理邊緣端AI推理的完整生命週期。開發者可以定義串流管道，通過連接器從Kafka、MQTT或HTTP來源攝取感測器數據、影片或日誌。SPEAR動態將容器化模型部署到工作節點，平衡叢集負載，確保低延遲回應。它包含內建的版本控制、健康檢查和遙測，並將監控指標展現給Prometheus和Grafana。用戶可透過模組化插件架構應用自訂轉換或警示。透過自動擴展和故障恢復，SPEAR能提供可靠的即時分析，適用於物聯網、工業自動化、智慧城市及自主系統的異構環境。

Universal Basic Compute 提供一個統一的環境，用於設計、訓練與部署多種工作流程中的 AI 代理。使用者可以從多個大型語言模型中選擇，配置自訂記憶存儲以提升情境意識，並整合第三方 API 與工具來擴充功能。平台會自動處理調度、容錯與擴展，同時提供即時監控與性能分析儀表板。抽象基礎架構細節，使團隊能專注於代理邏輯與用戶體驗，而非後端複雜性。

ToolFuzz 提供一套完整的模糊測試框架，專為使用工具的 AI 代理量身打造。系統性產生隨機的工具調用序列、格式錯誤的 API 輸入與意外的參數組合，用以壓力測試代理的工具調用模組。使用者可用模組化插件界面定義自訂模糊策略，整合第三方工具或 API，並調整突變規則以針對特定失效模式。框架收集執行軌跡、衡量各組件的程式碼覆蓋率，並突出未處理的例外或邏輯缺陷。結合內建的結果彙整與報告功能，ToolFuzz 可加速找出極端情況、回歸問題與安全漏洞，最終增強 AI 驅動工作流程的魯棒性與可靠性。

Agent Supervisor Demonstrates存儲庫展示如何在協調的工作流程中編排多個自主AI代理。用Python編寫，定義一個Supervisor類，用於調度任務、監控代理狀態、處理故障及整合回應。您可以擴展基本代理類，插入不同模型API，並配置排程策略。它記錄活動以作稽核，支援平行執行，並提供模組化設計，方便定制與整合入更大型的AI系統。

AgentMesh 為開發者提供一個模組化基礎設施，建立包含多個專注於特定任務或範疇的 AI 代理網絡。代理可以在運行時動態發現與註冊，異步交換訊息，並遵循可配置的路由規則。該框架處理重試、備援及錯誤恢復，支援用於資料處理、決策支援或對話式應用的多代理流程。它可輕鬆與現有的 LLM 及客製模型整合，透過簡單的插件介面。