llama-cpp-agent是一個開源的C++框架，可完整離線運行AI代理。它利用llama.cpp推理引擎提供快速、低延時的互動，支持模組化插件系統、可配置記憶體和任務執行。開發者可以整合自定義工具，切換多個本地LLM模型，建立重視隱私的對話助手，無需外部依賴。