直覺操作的local LLM工具

快速掌握並使用local LLM工具,不論新手或專業人士,都能享受流暢的操作體驗。

local LLM

  • 一款開源的命令列工具,能利用 Ollama LLMs 對用戶提示進行回音和處理,用於本地 AI 代理流程。
    0
    0
    echoOLlama 是什麼?
    echoOLlama 利用 Ollama 生態系統,提供一個最小的代理框架:它從終端讀取用戶輸入,傳送到配置好的本地 LLM,並即時流回回答。用戶可以腳本化多次交互,鏈接 prompts,實驗提示工程,而無需修改底層模型程式碼。此設計非常適合測試會話模式、建立簡易命令行工具,以及處理迭代式代理任務,同時保障資料隱私。
  • 安全、私密的AI助手,運行開源模型於本地。
    0
    0
    Sanctum AI 是什麼?
    Sanctum是一款尖端的AI助手應用程式,旨在於您的Mac設備上本地運行功能齊全的開源大型語言模型(LLMs)。它優先考慮用戶的隱私,通過AES-256加密保護數據,包括聊天記錄和緩存,確保沒有數據離開您的設備。Sanctum允許用戶導入各種文檔格式,如PDF和DOCX,讓他們可以提問、獲取摘要,並以完全私密的方式與AI互動。它適合任何需要安全可靠的AI助手進行個人或專業用途的人。
  • Ollama Bot是利用本地Ollama LLM模型的Discord聊天機器人,能即時生成對話回應並保障隱私。
    0
    0
    Ollama Bot 是什麼?
    Ollama Bot是一個基於Node.js的AI代理,專為在Discord伺服器上運行而設,利用Ollama CLI與本地LLM模型生成對話回應。它建立持久的聊天上下文,讓用戶能在多條訊息中維持主題連貫。管理員可設置自訂提示、模型參數,並限制指令於特定角色。此機器人支持多模型,能自動管理訊息排隊以應付高吞吐量,並記錄交互以備審核。安裝流程包括克隆存儲庫、透過npm安裝依賴,並配置環境變數如Discord Token和Ollama設置。部署後,機器人監聽slash指令,將請求傳送給Ollama模型,並直接在Discord頻道發布回應。
精選