bedrock-agent는 AWS Bedrock의 대규모 언어 모델 세트와 통합하여 복잡하고 작업 중심의 워크플로우를 오케스트레이션하는 다용도 AI 에이전트 프레임워크입니다. 사용자 정의 도구 등록을 위한 플러그인 아키텍처, 컨텍스트 영속성을 위한 메모리 모듈, 향상된 추론을 위한 사고 사슬 메커니즘을 제공합니다. 간단한 Python API와 명령줄 인터페이스를 통해 외부 서비스 호출, 문서 처리, 코드 생성 또는 채팅을 통한 사용자 상호작용이 가능한 에이전트 정의를 지원합니다. 에이전트는 사용자 프롬프트에 따라 적절한 도구를 자동으로 선택하고 세션 간 대화 상태를 유지할 수 있습니다. 이 프레임워크는 오픈 소스이며 확장 가능하고, 신속한 프로토타이핑 및 AI 지원 어시스턴트 배포에 최적화되어 있습니다.

StableAgents는 대형 언어 모델을 활용하여 계획, 실행 및 복잡한 워크플로우에 적응하는 자율 AI 에이전트를 만드는 포괄적 도구 세트를 제공합니다. 플래너, 메모리 저장소, 도구, 평가자를 포함하는 모듈형 구성요소를 지원하며, 외부 API 접근, 검색 강화 태스크 수행, 대화 또는 상호작용 컨텍스트 저장이 가능합니다. CLI와 Python SDK를 제공하여 로컬 개발 또는 클라우드 배포를 지원하며, 플러그인 아키텍처로 인기 LLM 제공자 및 벡터 데이터베이스와 연동되고 성능 추적을 위한 모니터링 대시보드와 로깅 기능도 포함됩니다.

PySpur는 사용자 친화적인 노드 기반 인터페이스를 통해 AI 에이전트의 구축, 테스트, 배포를 위한 통합 환경을 제공합니다. 개발자는 언어 모델 호출, 데이터 검색, 결정 분기, API 인터랙션과 같은 작업의 체인을 모듈화된 블록으로 끌어다 놓기 방식으로 구성합니다. 실시간 시뮬레이션 모드에서는 로직을 검증하고, 중간 상태를 검사하며, 배포 전 워크플로우를 디버깅할 수 있습니다. PySpur는 버전 제어, 성능 프로파일링, 원클릭 배포도 지원하여, 팀이 복잡한 판단 에이전트, 자동화 도우미, 데이터 파이프라인을 신속하게 프로토타입할 수 있도록 합니다. 오픈소스이며 확장 가능하여, 보일러플레이트 코드와 인프라 오버헤드를 최소화하면서 빠른 반복과 견고한 에이전트 솔루션을 가능하게 합니다.

rag-services는 RAG 파이프라인을 별도 마이크로서비스로 분해하는 확장 가능한 플랫폼입니다. 문서 저장소 서비스, 벡터 인덱스 서비스, 임베더 서비스, 여러 LLM 추론 서비스, 워크플로우를 조정하는 오케스트레이터 서비스를 제공합니다. 각각의 구성 요소는 REST API를 공개하여 데이터베이스와 모델 제공업체를 자유롭게 조합할 수 있습니다. 도커(Docker)와 도커 컴포즈(Docker Compose)를 지원하여 로컬 또는 쿠버네티스 클러스터에 배포 가능합니다. 이 프레임워크는 챗봇, 지식 기반, 자동 문서 Q&A를 위한 확장 가능하며 장애 허용력이 뛰어난 RAG 솔루션을 지원합니다.