rag-services는 RAG 파이프라인을 별도 마이크로서비스로 분해하는 확장 가능한 플랫폼입니다. 문서 저장소 서비스, 벡터 인덱스 서비스, 임베더 서비스, 여러 LLM 추론 서비스, 워크플로우를 조정하는 오케스트레이터 서비스를 제공합니다. 각각의 구성 요소는 REST API를 공개하여 데이터베이스와 모델 제공업체를 자유롭게 조합할 수 있습니다. 도커(Docker)와 도커 컴포즈(Docker Compose)를 지원하여 로컬 또는 쿠버네티스 클러스터에 배포 가능합니다. 이 프레임워크는 챗봇, 지식 기반, 자동 문서 Q&A를 위한 확장 가능하며 장애 허용력이 뛰어난 RAG 솔루션을 지원합니다.

Griptape는 AI 에이전트의 개발 및 배포를 단순화하는 포괄적인 AI 프레임워크를 제공합니다. 이는 데이터 준비(ETL), 검색 기반 서비스(RAG) 및 에이전트 워크플로우 관리 도구를 개발자에게 제공합니다. 이 플랫폼은 전통적인 AI 프레임워크의 복잡성 없이 안전하고 신뢰할 수 있는 AI 시스템을 구축하는 것을 지원하여 조직이 지능형 애플리케이션을 위해 데이터를 효과적으로 활용할 수 있도록 합니다.