Co-Sight 是一個開源的 AI 框架，簡化了實時視頻分析解決方案的開發與部署。它提供視頻數據輸入、預處理、模型訓練和分散推理的模塊，支援邊緣與雲端操作。內建物體檢測、分類、追蹤及管道編排等功能，確保低延遲處理與高吞吐量。其模塊化設計可與流行的深度學習庫集成，並利用 Kubernetes 無縫擴展。開發者可通過 YAML 定義管道，利用 Docker 部署，並通過網頁儀表板監控性能。Co-Sight 使用戶能建立智慧城市監控、智能運輸和工業質量檢測的高階視覺應用，縮短開發時間並降低運營複雜度。

Hyperpocket是一個模組化的推理引擎，允許開發者導入預訓練的大型語言模型，將其轉換為優化格式，並以最少依賴本地運行。它支持量化技術以縮小模型尺寸，加快在CPU和ARM設備上的性能。該框架提供C++和Python接口，方便集成到現有應用和管道中。Hyperpocket自動管理記憶體分配、分詞和批處理，以提供穩定的低延遲反應。其跨平台設計意味著相同模型可在Windows、Linux、macOS和嵌入式系統上運行，無需修改。這使得Hyperpocket非常適合實現重視隱私的聊天機器人、離線資料分析和邊緣硬件上的自訂AI工具。