TreeInstruct 提供一個架構，建構層級式、基於決策樹的大型語言模型提示管道。用戶可以定義代表提示或函式呼叫的節點，根據模型輸出設置條件分支，並執行樹狀結構來引導複雜的工作流程。它支援與 OpenAI 及其他 LLM 提供者整合，並提供日誌記錄、錯誤處理及可客製化的節點參數，以確保多回合互動的透明度與彈性。

Whiz旨在為開發能執行複雜對話和任務導向工作流程的智能代理提供堅實的基礎。使用Whiz時，開發者定義「工具」——Python函數或外部API——代理在處理用戶查詢時可以調用。內建的記憶模組能捕捉並檢索對話上下文，促進連貫的多輪交互。一個動態規劃引擎將目標拆解為可行的步驟，而彈性的界面則允許注入自訂策略、工具註冊表和記憶後端。Whiz支援基於embedding的語義搜尋來獲取相關文件、日誌記錄以供稽核，以及非同步執行來擴展規模。Whiz完全開源，能在Python運行的任何地方部署，實現快速原型設計，如客服機器人、資料分析助手或專門領域代理，幾乎不需繁瑣設定。