SonAgent는 Python에서 AI 에이전트를 구축, 구성 및 실행하기 위해 설계된 확장 가능한 오픈 소스 프레임워크입니다. 메모리 저장, 도구 래퍼, 계획 논리, 비동기 이벤트 처리를 위한 핵심 모듈을 제공합니다. 개발자는 맞춤형 도구 등록, 언어 모델 통합, 장기 에이전트 메모리 관리, 여러 에이전트를 조정하여 복잡한 작업에 협력하게 할 수 있습니다. SonAgent의 모듈화된 설계는 대화형 봇, 워크플로우 자동화, 분산 에이전트 시스템 개발을 가속화합니다.

FastAPI Agents는 FastAPI 웹 프레임워크를 사용하여 LLM 기반 에이전트를 개발하기 위한 강력한 서비스 계층을 제공합니다. LangChain의 체인, 도구, 메모리 시스템을 사용하여 에이전트 동작을 정의할 수 있습니다. 각각의 에이전트는 표준 REST 엔드포인트로 노출되어 비동기 요청, 스트리밍 응답, 맞춤형 페이로드를 지원합니다. 벡터 스토어와의 연계를 통해 지식 기반 애플리케이션에 대해 검색 증강 생성이 가능합니다. 이 프레임워크는 내장 로깅, 모니터링 훅, 컨테이너화 배포를 위한 Docker 지원 등을 포함하고 있습니다. 새 도구, 미들웨어, 인증으로 쉽게 확장할 수 있습니다. FastAPI Agents는 AI 솔루션의 실운영 준비를 빠르게 하고, 보안, 확장성, 유지보수가 용이한 에이전트 기반 애플리케이션을 기업 및 연구 환경에서 보장합니다。

Agentle은 개발자가 최소한의 보일러플레이트로 맞춤형 AI 에이전트를 구축할 수 있는 구조화된 프레임워크를 제공합니다. 작업의 시퀀스로 에이전트 워크플로를 정의하거나, 외부 API 및 도구와 원활히 통합, 대화 문맥을 유지하는 대화 기억 관리, 감사 가능성을 위한 내장 로깅을 지원합니다. 또한 플러그인 훅을 통한 기능 확장, 복잡한 파이프라인을 위한 다중 에이전트 조정, 로컬 실행 또는 HTTP API를 통한 배포를 위한 통합 인터페이스도 포함되어 있습니다.

Crayon은 외부 API 호출, 대화 기록 유지, 다단계 작업 계획, 비동기 프로세스 처리 능력을 갖춘 JavaScript/Node.js 기반 자율 AI 에이전트 개발을 지원합니다. 핵심적으로, Crayon은 고수준 목표를 개별 행동으로 분해하는 계획-실행 루프를 구현하며, 맞춤형 도구 키트와 연동하고 세션 간 정보를 저장하고 호출하는 메모리 모듈을 활용합니다. 이 프레임워크는 여러 메모리 백엔드, 플러그인 기반 도구 통합 및 디버깅을 위한 포괄적 로깅을 지원합니다. 개발자는 Prompts와 YAML 기반 파이프라인을 통해 에이전트의 동작을 설계할 수 있으며, 데이터 스크래핑, 보고서 생성, 인터랙티브 채팅봇 등 복잡한 워크플로우를 수행할 수 있습니다. Crayon의 아키텍처는 확장성을 강화하며, 특정 도메인 도구를 통합하거나 에이전트를 비즈니스 요구에 맞게 맞춤 설정할 수 있습니다.

MIU CS589 AI Agent API는 맞춤형 AI 에이전트를 구축하기 위한 표준화된 인터페이스를 제공합니다. 개발자는 에이전트 행동을 정의하고, 외부 도구 또는 서비스를 통합하며, HTTP 엔드포인트를 통해 스트리밍 또는 배치 응답을 처리할 수 있습니다. 프레임워크는 인증, 요청 라우팅, 오류 처리, 로깅을 내장하고 있으며, 확장 가능하여 새 도구 등록, 에이전트 메모리 조정, LLM 매개변수 구성도 가능합니다. 실험, 데모, 프로토타입 제작에 적합하며, 다중 도구 오케스트레이션을 간소화하고 AI 에이전트 개발을 가속화합니다.

Notte는 대규모 언어 모델로 구동되는 AI 에이전트의 오케스트레이션을 위해 설계된 개발자 중심의 Python 프레임워크입니다. 대화 컨텍스트를 저장하고 검색하는 빌트인 메모리 모듈, 외부 API 또는 맞춤 기능과의 유연한 도구 통합, 작업을 시퀀스하는 기획 엔진을 제공합니다. Notte를 사용하면 대화형 비서, 데이터 분석 봇 또는 자동화 워크플로우를 빠르게 프로토타이핑할 수 있으며, 오픈 소스 확장성 및 크로스 플랫폼 지원의 혜택을 누릴 수 있습니다.

rag-services는 RAG 파이프라인을 별도 마이크로서비스로 분해하는 확장 가능한 플랫폼입니다. 문서 저장소 서비스, 벡터 인덱스 서비스, 임베더 서비스, 여러 LLM 추론 서비스, 워크플로우를 조정하는 오케스트레이터 서비스를 제공합니다. 각각의 구성 요소는 REST API를 공개하여 데이터베이스와 모델 제공업체를 자유롭게 조합할 수 있습니다. 도커(Docker)와 도커 컴포즈(Docker Compose)를 지원하여 로컬 또는 쿠버네티스 클러스터에 배포 가능합니다. 이 프레임워크는 챗봇, 지식 기반, 자동 문서 Q&A를 위한 확장 가능하며 장애 허용력이 뛰어난 RAG 솔루션을 지원합니다.