Memonto는 AI 에이전트의 미들웨어 라이브러리로, 전체 메모리 수명 주기를 조율합니다. 각 대화 턴마다 사용자 및 AI 메시지를 기록하고, 중요한 세부 정보를 요약하며, 이 요약을 임베딩으로 변환하여 저장합니다. 새 프롬프트를 생성할 때, Memonto는 의미론적 검색을 수행하여 가장 관련성 높은 과거 기억을 검색하며, 에이전트가 맥락을 유지하고, 사용자 선호도를 기억하며, 맞춤형 응답을 제공할 수 있도록 합니다. SQLite, FAISS, Redis 등 여러 저장소 백엔드를 지원하며, 임베딩, 요약, 검색을 위한 구성 가능한 파이프라인을 제공합니다. 개발자는 기존 에이전트 프레임워크에 쉽게 통합하여 일관성과 장기 참여를 강화할 수 있습니다.

Rags는 검색 증강 생성 애플리케이션을 구축하기 위한 모듈형 파이프라인을 제공합니다. FAISS, Pinecone 등 인기 벡터 저장소와 통합하며, 설정 가능한 프롬프트 템플릿과 대화 맥락 유지를 위한 메모리 모듈을 갖추고 있습니다. 개발자는 Llama-2, GPT-4, Claude2 같은 LLM 제공자를 통합 API를 통해 선택적으로 전환할 수 있습니다. Rags는 스트리밍 응답, 사용자 지정 전처리, 평가 훅을 지원하며, 확장 가능한 설계 덕분에 프로덕션 서비스에 원활히 통합 가능하며, 자동 문서 수집, 의미 검색, 대규모 텍스트 생성 작업에 적합합니다.

LangChain은 외부 데이터 소스와 도구를 연결하여 고급 AI 애플리케이션을 만드는 데 도움을 주는 모듈식 프레임워크입니다. 순차적 LLM 호출을 위한 체인 추상화, 의사 결정 워크플로우를 위한 에이전트 오케스트레이션, 맥락 유지를 위한 메모리 모듈, 문서 로더, 벡터 저장소 및 API 기반 도구와의 통합을 제공합니다. Python 및 JavaScript SDK를 지원하며, 챗봇, QA 시스템, 맞춤형 도우미의 프로토타입화와 배포를 가속화합니다.