AiChat 提供一個多功能工具包，用於創建智慧聊天代理，包含角色基標題管理、記憶處理和串流回應功能。使用者可以設定多個對話角色，例如系統、助手與用戶，以塑造對話語境與行為。該框架支援外部 API 的插件整合、資料取得或自訂邏輯，實現功能的無縫擴展。模組化設計允許輕鬆交換語言模型和調整回饋迴路，以優化回應效果。內建記憶功能能在多輪對話中維持上下文，串流 API 則可提供低延遲互動。開發者可藉由清楚的文件及範例專案，加速在網頁、桌面或伺服器環境部署聊天機器人。

AIFoundry-AgentService-Streamlit 是一個用 Python 打造的開源演示應用，利用 Streamlit 快速啟動 AI 代理人，藉由 AIFoundry 的 AgentService API。界面提供選擇代理設定、調整對話參數（如溫度和最大 tokens），並顯示對話歷史。它支援串流回應、多個代理環境，以及記錄請求與回應以便除錯。此工具簡化測試各種代理配置，縮短原型開發週期，減少整合負擔，適合在正式部署前驗證。

AutoGen UI是一個前端工具包，專為渲染和管理多代理對話流程而設計。它提供現成的組件，如聊天視窗、代理選擇器、訊息時間軸以及除錯面板。開發者可以配置多個AI代理、實時串流回應、記錄每一步對話並套用自定義樣式。它與後端調度庫易於整合，提供完整的端到端界面，用於建立和監控AI代理的交互。

DelphiGemini提供一個輕量級且易於使用的封裝，適用於Delphi開發者與Google Gemini LLM API交互。它管理驗證、請求格式化與回應解析，讓你能傳送提示詞並獲得文字完成或聊天回應。支援串流輸出，可以實時顯示Token。此函式庫也提供同步和非同步方法、可配置的逾時設定與詳細的錯誤回報。用它來建立聊天機器人、內容產生器、翻譯器、摘要器或任何AI驅動的功能，直接在Delphi應用中實現。

LLM驅動的RAG系統是一個針對開發者的框架，用於建立檢索增強式生成（RAG）管道。提供文件集合的嵌入模組、FAISS、Pinecone或Weaviate的索引，以及反應時的相關語境檢索。系統利用LangChain封裝管理調度LLM調用，支持提示模板、串流回應與多向量存儲驅動器。簡化知識庫端到端的部署過程，從嵌入模型配置到提示設計與結果後處理均可自定義。

MIU CS589 AI Agent API提供一個標準化界面，用於建立客制化AI代理。開發者可以定義代理行為、整合外部工具或服務，並透過HTTP端點管理串流或批次回應。框架內建身份驗證、請求路由、錯誤處理與日誌記錄。可擴充性高——用戶可以註冊新工具、調整代理記憶和配置大型語言模型（LLM）參數。適用於實驗、演示及生產原型，極大簡化多工具協調流程，加快AI代理開發，不受限制於單一平台。

AWS Sample Model Context Protocol Demos是一個開源儲存庫，展示了用於大語言模型（LLM）上下文管理與工具調用的標準化範式。包含兩個完整範例—一個使用JavaScript/TypeScript，另一個是Python—實作模型上下文協議，使開發者可以建立呼叫AWS Lambda函數、維持對話記錄及串流回應的AI代理。範例程式碼涵蓋訊息格式化、函數參數序列化、錯誤處理與可客製化的工具整合，加速生成式AI應用的原型開發。

Stellar Chat 讓團隊能夠建立對話式人工智慧代理，提供一個堅固的框架，抽象化LLM互動、記憶管理和工具整合。核心包含一個擴充性管線，處理用戶輸入預處理、透過向量記憶檢索進行上下文豐富，以及用可配置的提示策略調用LLM。開發者可以接入流行的向量存儲方案，如 Pinecone、Weaviate 或 FAISS，並整合第三方API或自訂插件以進行網頁搜尋、資料庫查詢或企業應用控制。支援串流輸出及即時反饋循環，確保用戶體驗的響應速度。還提供入門範例及最佳實作範例，適用於客戶服務、知識搜尋及內部工作流程自動化。由 Docker 或 Kubernetes 部署，能滿足生產需求，且完全採用MIT開源授權。

HyperChat 是以開發者為中心的 AI 代理框架，簡化將對話式 AI 整合到應用中。它統一連接多個 LLM 提供者，處理會話背景和記憶持久化，並提供串流部分回應以實現響應式界面。內建函數呼叫和插件支援，允許執行外部 API，豐富對話內容，結合真實世界資料與行動。其模組化架構與 UI 工具包，支持快速原型設計與正式部署於 Web、Electron 和 Node.js 環境。

Goat SDK旨在簡化用Go建立和調度AI代理的流程。它提供可插拔的LLM整合（OpenAI、Anthropic、Azure、本地模型）、工具註冊表以支持自定義行動，以及用於狀態式對話的記憶存儲。開發者可以定義連鎖、表達策略和發布器，通過CLI、WebSocket、REST端點或內嵌Web UI輸出互動內容。Goat支援串流回應、可定制記錄與簡單的錯誤處理。結合這些組件，您可以在Go中用最少模版代碼開發聊天機器人、自動化流程和決策支持系統，同時保持更換或擴展供應商和工具的彈性。

Rusty Agent 是一個輕量但強大的 Rust 函式庫，旨在簡化運用大型語言模型的自主 AI 代理的創建。它引入核心抽象如 Agent、Tools 和 Memory，允許開發者定義自訂工具集成（例如 HTTP 客戶端、知識庫、計算器）並以程式化方式協調多步對話。支持動態提示構建、串流回應和會話間的上下文記憶存取。與 OpenAI API（GPT-3.5/4）無縫集成，亦可擴展支持其他 LLM 提供者。Rust 提供的強型別和高效能保障安全且併發執行代理工作流程。應用範例包括自動資料分析、互動式聊天機器人、任務自動化管道等，讓 Rust 開發者能在應用中嵌入智慧型語言驅動的代理。

Rags 提供一個模組化的管線，用於建立檢索增強的生成應用。它可與流行的向量儲存庫（如 FAISS、Pinecone）整合，並提供可配置的提示範本與記憶模組，以維持對話上下文。開發者可以透過統一 API 在 Llama-2、GPT-4 及 Claude2 等不同 LLM 提供者間切換。Rags 支援串流回應、自定義預處理和評估鉤子。其擴展設計允許無縫整合到生產服務中，實現自動文件輸入、語義搜尋及大規模產生任務，適用於聊天機器人、知識助手和文件摘要。