CartographAI의 Sherpa는 지능형 어시스턴트와 자동화 워크플로우 생성을 간소화하는 Python 기반 에이전트 프레임워크입니다. 이는 개발자가 사용자 입력을 해석하고, 적절한 LLM 엔드포인트 또는 외부 API를 선택하며, 문서 요약, 데이터 검색, 대화형 Q&A와 같은 복잡한 작업을 조율하는 에이전트를 정의할 수 있게 합니다. 플러그인 아키텍처를 통해 맞춤형 도구, 메모리 저장소, 라우팅 전략을 쉽게 통합하여 응답 관련성과 비용을 최적화할 수 있습니다. 사용자는 의미 검색, 텍스트 분석 또는 코드 생성과 같은 각 모듈이 고유한 기능을 수행하는 다중 단계 파이프라인을 구성할 수 있으며, Sherpa는 컨텍스트 전달과 폴백 로직을 관리합니다. 이 모듈식 접근 방식은 프로토타입 개발을 가속화하고 유지보수성을 높이며, 다양한 응용 분야를 위한 확장 가능한 AI 기반 솔루션 구축을 지원합니다.

AgenticIR(Agentic Information Retrieval)는 LLM 기반 에이전트가 자율적으로 IR 워크플로우를 계획하고 실행하는 모듈형 프레임워크입니다. 쿼리 생성자, 문서 검색기, 요약기 등의 에이전트 역할을 정의하고, 이를 사용자 지정 가능한 시퀀스에서 실행할 수 있습니다. 에이전트는 원시 텍스트를 수집하고, 중간 결과를 바탕으로 쿼리를 개선하며, 추출된 구절을 간결한 요약으로 병합할 수 있습니다. 이 프레임워크는 반복적 웹 검색, API 기반 데이터 수집, 로컬 문서 파싱 등 다단계 파이프라인을 지원합니다. 개발자는 에이전트 파라미터를 조정하고, 다양한 LLM을 통합하며, 동작 정책을 세밀하게 조정할 수 있습니다. 또한, 로그 기록, 오류 처리, 병렬 에이전트 실행을 제공하여 대규모 정보 수집이 즉각적으로 가능합니다. 최소한의 코드로 연구자와 엔지니어는 자율 검색 시스템의 프로토타입 제작 및 배포가 가능합니다.