Milvus 是一種專為管理 AI 工作負載而設計的開源向量資料庫。它提供高效能的嵌入與其他向量數據類型的存儲和檢索,能夠在大型數據集中進行高效的相似性搜尋。該平台支援各種機器學習和深度學習框架,讓使用者可以無縫地將 Milvus 整合到其即時推斷和分析的 AI 應用程式中。Milvus 擁有分散式架構、自動擴展及不同索引類型的支援,專為滿足現代 AI 解決方案的需求而量身定製。
MInD 是一個基於 Python 的記憶框架,旨在為由 LLM 驅動的 AI 代理提供強大的記憶能力。它可以捕捉用戶輸入和系統事件作為事件日誌,將這些日誌濃縮為語義摘要,並根據需求檢索相關記憶。通過可配置的保留策略、相似度搜尋與自動摘要,MInD 維持一個持久的知識庫,供代理在推理時查詢。這確保它們能準確回憶先前的互動、根據歷史調整回應,並在多個會話中提供個性化且連貫的對話。