OSU NLP Middleware是一個輕量級的Python框架，簡化AI代理系統的開發。它提供一個核心代理循環，協調自然語言模型與作為插件定義的外部工具功能的交互。該框架支持流行的LLM供應商（如OpenAI、Hugging Face等），並允許開發者註冊用於資料庫查詢、文件檢索、網絡搜索、數學計算和RESTful API調用等任務的自定義工具。Middleware管理對話歷史，處理速率限制，並記錄所有互動。它還提供可配置的快取和重試策略，以提升可靠性，讓用戶能輕鬆建立智能助理、聊天機器人和自主工作流程，且代碼量最小化。

Pipe Pilot 是一個開源工具，讓開發者可以用 Python 建立、視覺化並管理 AI 流水線。它提供宣告式 API 或 YAML 配置，串連文本產生、分類、資料增強和 REST API 呼叫等任務。用戶可以實作條件分支、迴圈、重試及錯誤處理，建立彈性工作流程。Pipe Pilot 追蹤執行內容、記錄每個步驟，並支援平行或串行執行模式。它與主要 LLM 提供商、自訂函數和外部服務整合，適用於自動化報告、多回合聊天、智慧資料處理與複雜多階段 AI 應用。