Granite Retrieval Agent는 의미적 검색과 대형 언어 모델을 결합한 검색 강화 생성형 AI 에이전트를 유연하게 구축할 수 있는 플랫폼을 제공합니다. 사용자는 다양한 출처의 문서를 수집하고, 벡터 임베딩을 생성하며, Azure Cognitive Search 인덱스 또는 기타 벡터 저장소를 구성할 수 있습니다. 쿼리가 들어오면, 에이전트는 가장 관련성 높은 구절을 검색하고, 컨텍스트 윈도우를 구성하며, LLM API를 호출하여 정확한 답변 또는 요약을 제공합니다. 메모리 관리, 사고 사슬 오케스트레이션 및 맞춤 플러그인 지원으로 전처리 및 후처리도 수행합니다. Docker 또는 파이썬 직접 배포가 가능하며, 이를 통해 지식 기반 챗봇, 엔터프라이즈 어시스턴트, Q&A 시스템을 빠르게 개발할 수 있으며, 환각 현상을 줄이고 사실 정확성을 향상시킵니다.

RecurSearch는 재귀적 의미 검색을 가능하게 하여 Retrieval-Augmented Generation(RAG) 및 AI 에이전트 워크플로우를 향상시키도록 설계된 오픈소스 파이썬 라이브러리입니다. 사용자는 쿼리와 문서를 벡터 공간에 임베딩하는 검색 파이프라인을 정의한 후, 이전 결과를 기반으로 쿼리를 반복적으로 정제하고, 메타데이터 또는 키워드 필터를 적용하며, 결과를 요약 또는 집계합니다. 이러한 단계별 정제를 통해 정밀도가 향상되고, API 호출이 줄어들며, 에이전트가 대용량 코퍼스에서 깊이 중첩되거나 문맥 특화된 정보를 추출하는데 도움을 줍니다.

Embedditor는 벡터 임베딩을 위한 효율적인 MS Word 동등 툴로 설계된 최첨단 오픈 소스 툴입니다. LLM 벡터 임베딩을 편집할 수 있는 사용자 친화적인 인터페이스를 제공하여 사용자가 다양한 파일 형식으로 내용을 업로드, 결합, 분할 및 편집할 수 있도록 합니다. 목표는 벡터 검색 기능을 최적화하여 더 나은 성능과 더 정확한 검색 결과를 보장하는 것입니다. 이 도구는 임베딩 프로세스에 대한 상당한 유연성과 제어를 제공하여 모든 벡터 검색 및 언어 모델 작업 흐름에 귀중한 추가 요소가 됩니다.