APIPark作為一個綜合性的LLM網關，提供對大型語言模型的高效和安全管理。它支持200多種LLM，實現細粒度的視覺管理，並無縫集成到生產環境中。該平台提供負載均衡、實時流量監控和智能語義緩存。此外，APIPark促進提示管理和API轉換，提供堅固的安全功能，如數據遮掩以保護敏感信息。其開源性質和以開發者為中心的設計使其成為希望精簡AI模型部署和管理的企業的多功能工具。

SPEAR（可擴展邊緣AI即時平台）旨在管理邊緣端AI推理的完整生命週期。開發者可以定義串流管道，通過連接器從Kafka、MQTT或HTTP來源攝取感測器數據、影片或日誌。SPEAR動態將容器化模型部署到工作節點，平衡叢集負載，確保低延遲回應。它包含內建的版本控制、健康檢查和遙測，並將監控指標展現給Prometheus和Grafana。用戶可透過模組化插件架構應用自訂轉換或警示。透過自動擴展和故障恢復，SPEAR能提供可靠的即時分析，適用於物聯網、工業自動化、智慧城市及自主系統的異構環境。

AgentMesh是一個以開發者為中心的框架，讓你可以註冊個別的AI代理，並將它們連接成動態網格。每個代理可以專注於特定任務，例如LLM提示、資訊檢索或自定義邏輯，而AgentMesh則負責整個網路中的路由、負載平衡、錯誤處理和遠端監控。這樣可以建立複雜的多步驟工作流程、串聯代理，並水平擴展執行能力。配備插拔式傳輸、分狀會話和擴展鎖點，AgentMesh加快了穩健分散式AI代理系統的建立。