Letta는 지능형 디지털 워커를 통해 복잡한 워크플로우를 자동화할 수 있도록 설계된 종합 AI 에이전트 오케스트레이션 플랫폼입니다. 맞춤형 에이전트 템플릿과 강력한 시각적 워크플로우 빌더를 결합하여 팀이 단계별 프로세스를 정의하고, 다양한 API와 데이터 소스를 통합하며, 문서 처리, 데이터 분석, 고객 참여, 시스템 모니터링 등을 담당하는 자율 에이전트를 배포할 수 있습니다. 마이크로서비스 아키텍처 기반으로, 인기 있는 AI 모델, 버전 관리, 거버넌스 도구를 내장 지원합니다. 실시간 대시보드는 에이전트 활동, 성능 지표, 오류 처리를 제공하여 투명성과 신뢰성을 보장합니다. 역할 기반 액세스 제어와 보안 배포 옵션을 통해 Letta는 시험 프로젝트에서 기업 전반의 디지털 워크포스 관리까지 확장됩니다.

rag-services는 RAG 파이프라인을 별도 마이크로서비스로 분해하는 확장 가능한 플랫폼입니다. 문서 저장소 서비스, 벡터 인덱스 서비스, 임베더 서비스, 여러 LLM 추론 서비스, 워크플로우를 조정하는 오케스트레이터 서비스를 제공합니다. 각각의 구성 요소는 REST API를 공개하여 데이터베이스와 모델 제공업체를 자유롭게 조합할 수 있습니다. 도커(Docker)와 도커 컴포즈(Docker Compose)를 지원하여 로컬 또는 쿠버네티스 클러스터에 배포 가능합니다. 이 프레임워크는 챗봇, 지식 기반, 자동 문서 Q&A를 위한 확장 가능하며 장애 허용력이 뛰어난 RAG 솔루션을 지원합니다.