Sanctum是一款尖端的AI助手應用程式，旨在於您的Mac設備上本地運行功能齊全的開源大型語言模型（LLMs）。它優先考慮用戶的隱私，通過AES-256加密保護數據，包括聊天記錄和緩存，確保沒有數據離開您的設備。Sanctum允許用戶導入各種文檔格式，如PDF和DOCX，讓他們可以提問、獲取摘要，並以完全私密的方式與AI互動。它適合任何需要安全可靠的AI助手進行個人或專業用途的人。

GAMA Genstar Plugin通過連接OpenAI、本地LLM及自訂模型端點，為GAMA平台增添生成式AI能力。用戶在GAML中定義提示和流程，以即時產生代理決策、環境描述或場景參數。此插件支持同步與非同步API調用、響應快取與參數調整，簡化自然語言模型在大規模模擬中的整合，降低手動腳本工作，促進更豐富、適應性的代理行為。

Ollama Bot是一個基於Node.js的AI代理，專為在Discord伺服器上運行而設，利用Ollama CLI與本地LLM模型生成對話回應。它建立持久的聊天上下文，讓用戶能在多條訊息中維持主題連貫。管理員可設置自訂提示、模型參數，並限制指令於特定角色。此機器人支持多模型，能自動管理訊息排隊以應付高吞吐量，並記錄交互以備審核。安裝流程包括克隆存儲庫、透過npm安裝依賴，並配置環境變數如Discord Token和Ollama設置。部署後，機器人監聽slash指令，將請求傳送給Ollama模型，並直接在Discord頻道發布回應。

echoOLlama 利用 Ollama 生態系統，提供一個最小的代理框架：它從終端讀取用戶輸入，傳送到配置好的本地 LLM，並即時流回回答。用戶可以腳本化多次交互，鏈接 prompts，實驗提示工程，而無需修改底層模型程式碼。此設計非常適合測試會話模式、建立簡易命令行工具，以及處理迭代式代理任務，同時保障資料隱私。