Hyperpocket是一個模組化的推理引擎，允許開發者導入預訓練的大型語言模型，將其轉換為優化格式，並以最少依賴本地運行。它支持量化技術以縮小模型尺寸，加快在CPU和ARM設備上的性能。該框架提供C++和Python接口，方便集成到現有應用和管道中。Hyperpocket自動管理記憶體分配、分詞和批處理，以提供穩定的低延遲反應。其跨平台設計意味著相同模型可在Windows、Linux、macOS和嵌入式系統上運行，無需修改。這使得Hyperpocket非常適合實現重視隱私的聊天機器人、離線資料分析和邊緣硬件上的自訂AI工具。

SegAgent是一個Python框架，協調AI代理透過自然語言互動進行語義圖像分割。結合GPT語言理解與Segment Anything Model（SAM），將用戶提示（如「分割腫瘤區域」或「邊緣細化」）轉換為精確的遮罩。代理保留對話上下文，支援反覆優化分割結果，並能整合自定義模型或後處理步驟。它提供可擴展的API、命令列工具及Jupyter範例。SegAgent加速標註流程，降低手動描繪負擔，並讓開發者將對話式分割功能嵌入更廣泛的流程或應用中。