Nestor는 대화 상태를 유지하고 외부 도구를 호출하며 처리 파이프라인을 사용자 정의할 수 있는 모듈형 아키텍처를 제공합니다. 주요 기능에는 세션 기반 메모리 저장소, 도구 기능 또는 플러그인 등록을 위한 레지스트리, 유연한 프롬프트 템플릿 및 통합 LLM 클라이언트 인터페이스가 포함됩니다. 에이전트는 순차적 작업을 수행하거나 결정 분기를 하고 REST API 또는 로컬 스크립트와 통합할 수 있습니다. Nestor는 프레임워크에 구애받지 않으며, OpenAI, Azure 또는 자체 호스팅 LLM 제공자를 사용할 수 있습니다.

Rags는 검색 증강 생성 애플리케이션을 구축하기 위한 모듈형 파이프라인을 제공합니다. FAISS, Pinecone 등 인기 벡터 저장소와 통합하며, 설정 가능한 프롬프트 템플릿과 대화 맥락 유지를 위한 메모리 모듈을 갖추고 있습니다. 개발자는 Llama-2, GPT-4, Claude2 같은 LLM 제공자를 통합 API를 통해 선택적으로 전환할 수 있습니다. Rags는 스트리밍 응답, 사용자 지정 전처리, 평가 훅을 지원하며, 확장 가능한 설계 덕분에 프로덕션 서비스에 원활히 통합 가능하며, 자동 문서 수집, 의미 검색, 대규모 텍스트 생성 작업에 적합합니다.