본질적으로, Memary는 대형 언어 모델 에이전트용으로 맞춤화된 모듈식 메모리 관리 시스템을 제공합니다. 공통 API를 통해 메모리 상호작용을 추상화하여, 인메모리 딕셔너리, Redis의 분산 캐시, Pinecone 또는 FAISS와 같은 벡터 저장소의 의미론적 검색을 지원합니다. 사용자는 스키마 기반의 메모리(에피소드, 의미론적 또는 장기)를 정의하고 임베딩 모델을 활용해 벡터 저장소를 자동으로 채웁니다. 검색 기능을 통해 대화 중 관련 컨텍스트를 호출하여 이전 상호작용 또는 도메인 특정 데이터를 기반으로 응답을 향상시킵니다. 확장성을 고려하여 설계된 Memary는 사용자 정의 백엔드와 임베딩 함수를 통합할 수 있어, 지속적인 지식을 요구하는 가상 비서, 고객 지원 봇, 연구 도구와 같은 강력하고 상태가 있는 AI 애플리케이션 개발에 이상적입니다.
