CamelAGI是一個簡化創建自主AI代理的開源框架。它具有插件架構用於自定義工具，長期記憶集成以保持上下文，以及支持GPT-4和Llama 2等多種大型語言模型。通過明確的計劃與執行模塊，代理可以拆解任務、調用外部API並隨時間調整。CamelAGI的擴展性和社群驅動的設計使其適合研究原型、生產系統和教育項目。

llama-cpp-agent是一個開源的C++框架，可完整離線運行AI代理。它利用llama.cpp推理引擎提供快速、低延時的互動，支持模組化插件系統、可配置記憶體和任務執行。開發者可以整合自定義工具，切換多個本地LLM模型，建立重視隱私的對話助手，無需外部依賴。

Universal Basic Compute 提供一個統一的環境，用於設計、訓練與部署多種工作流程中的 AI 代理。使用者可以從多個大型語言模型中選擇，配置自訂記憶存儲以提升情境意識，並整合第三方 API 與工具來擴充功能。平台會自動處理調度、容錯與擴展，同時提供即時監控與性能分析儀表板。抽象基礎架構細節，使團隊能專注於代理邏輯與用戶體驗，而非後端複雜性。

Emma-X提供一個模組化的代理協調平台，用於構建使用大型語言模型的對話式AI助手。開發者可以通過JSON配置定義代理行為，選擇OpenAI、Hugging Face或本地端點等LLM供應商，並附加搜索、資料庫或自訂API等外部工具。內建的記憶層可跨會話存取上下文，UI組件則用於聊天呈現、文件上傳及互動式提示。插件掛鉤支持即時數據獲取、分析和自定義行動按鈕。Emma-X附帶客服支援、內容創造和程式碼生成範例代理。其開放架構讓團隊能擴展代理能力、整合現有web應用，並快速迭代對話流程，無需深厚LLM專業知識。

LiteLLM是一個全面的框架，旨在通過統一的API簡化多個大型語言模型（LLMs）的管理。通過提供類似OpenAI API的標準化交互模型，用戶可以輕鬆利用100多個不同的LLM，而不需要處理多樣的格式和協議。LiteLLM處理跨不同服務提供商的複雜性，如負載平衡、後備方案和支出跟蹤，為開發人員在應用中集成和管理各種LLM服務提供了便利。