FastAPI Agents는 FastAPI 웹 프레임워크를 사용하여 LLM 기반 에이전트를 개발하기 위한 강력한 서비스 계층을 제공합니다. LangChain의 체인, 도구, 메모리 시스템을 사용하여 에이전트 동작을 정의할 수 있습니다. 각각의 에이전트는 표준 REST 엔드포인트로 노출되어 비동기 요청, 스트리밍 응답, 맞춤형 페이로드를 지원합니다. 벡터 스토어와의 연계를 통해 지식 기반 애플리케이션에 대해 검색 증강 생성이 가능합니다. 이 프레임워크는 내장 로깅, 모니터링 훅, 컨테이너화 배포를 위한 Docker 지원 등을 포함하고 있습니다. 새 도구, 미들웨어, 인증으로 쉽게 확장할 수 있습니다. FastAPI Agents는 AI 솔루션의 실운영 준비를 빠르게 하고, 보안, 확장성, 유지보수가 용이한 에이전트 기반 애플리케이션을 기업 및 연구 환경에서 보장합니다。

HackerGCLASS Agent API는 AI 에이전트를 실행하는 RESTful 엔드포인트를 공개하는 오픈소스 Python 프레임워크입니다. 개발자는 사용자 지정 도구 통합, 프롬프트 템플릿 구성, 세션 간 에이전트 상태 및 메모리를 유지할 수 있습니다. 이 프레임워크는 여러 에이전트를 병렬로 조율하고, 복잡한 대화 흐름을 처리하며, 외부 서비스와의 연계를 지원합니다. Uvicorn 또는 기타 ASGI 서버를 통해 배포를 간소화하며, 플러그인 모듈로 확장할 수 있어 다양한 용도의 도메인 특화 AI 에이전트 빠른 제작이 가능합니다.

Agentic-Systems는 에이전트, 도구, 메모리 구성요소로 이루어진 모듈식 아키텍처를 제공하여 정교한 자율형 AI 애플리케이션 개발을 간소화합니다. 개발자는 외부 API 또는 내부 기능을 캡슐화하는 커스텀 도구를 정의할 수 있으며, 메모리 모듈은 에이전트 반복 간에 맥락 정보를 유지합니다. 내장된 오케스트레이션 엔진은 작업을 스케줄링하고 의존성을 해결하며, 다중 에이전트 간의 상호작용을 관리합니다. 에이전트 로직과 실행 세부 사항을 분리함으로써 빠른 실험, 용이한 확장, 세밀한 에이전트 행동 제어가 가능합니다. 연구 보조 도구 프로토타이핑, 데이터 파이프라인 자동화, 의사결정 지원 에이전트 배치 등 다양한 용도에 적합하며, Agentic-Systems는 이러한 개발을 가속화하기 위한 추상화와 템플릿을 제공합니다.

ai-agents-trial은 LLM을 사용하여 자율 AI 에이전트를 구축하는 방식을 보여주는 오픈소스 Python 프로젝트입니다. 에이전트 계획, 도구 호출(예: 웹 검색, 계산기) 및 메모리 관리를 위한 모듈화된 추상화를 제공합니다. 개발자는 사용자 정의 도구를 정의하고, 여러 단계를 거치는 작업을 연결하며, 세션 간 컨텍스트를 유지할 수 있습니다. 이 코드베이스는 OpenAI API와 보조 유틸리티를 사용하여 워크플로우를 오케스트레이션하며, 채팅 기반 어시스턴트, 연구용 봇 또는 도메인별 자동화 에이전트의 빠른 프로토타이핑에 적합합니다. 확장 포인트를 통해 새로운 커넥터와 데이터 소스를 추가할 수 있으며, 핵심 로직은 변경하지 않습니다.

기본적으로 AI Orchestra는 개발자가 AI 에이전트, 도구, 맞춤형 모듈을 나타내는 노드를 정의할 수 있는 모듈식 오케스트레이션 엔진을 제공합니다. 각 노드는 특정 LLM(예: OpenAI, Hugging Face), 매개변수, 입력/출력 매핑으로 구성할 수 있어 동적 작업 위임이 가능합니다. 이 프레임워크는 구성 가능한 파이프라인, 동시성 제어, 분기 로직을 지원하여 중간 결과에 따라 적응하는 복잡한 흐름을 만듭니다. 내장된 텔레메트리와 로깅은 실행 세부 정보를 캡처하며, 콜백 후크는 오류와 재시도를 처리합니다. 플러그인 시스템에는 외부 API 또는 맞춤형 기능과의 통합도 포함되어 있습니다. YAML 또는 Python 기반의 파이프라인 정의로 사용자는 채팅 기반 어시스턴트부터 자동화된 데이터 분석 워크플로우에 이르기까지 몇 분 만에 견고한 다중 에이전트 시스템을 프로토타입하고 배포할 수 있습니다.

OSU NLP Middleware는 Python으로 구축된 경량 프레임워크로, AI 에이전트 시스템 개발을 간단하게 합니다. 자연어 모델과 플러그인으로 정의된 외부 도구의 상호작용을 조율하는 핵심 에이전트 루프를 제공합니다. 이 프레임워크는 OpenAI, Hugging Face 등 인기 있는 LLM 제공자를 지원하며, 데이터베이스 쿼리, 문서 검색, 웹 검색, 수학 계산, RESTful API 호출과 같은 작업을 위한 커스텀 도구 등록을 허용합니다. 미들웨어는 대화 기록을 관리하고, 속도 제한을 처리하며, 모든 상호작용을 로깅합니다. 또한, 신뢰성을 높이기 위해 캐시와 재시도 정책을 구성할 수 있으며, 최소한의 코드로 지능형 어시스턴트, 챗봇, 자율 워크플로우를 쉽게 구축할 수 있습니다.

MiniAgent는 고급 목표를 순차적인 단계로 분해하는 작업 계획 모듈, 각 단계를 순차적으로 실행하는 실행 컨트롤러, 웹 서비스, 데이터베이스, 사용자 지정 스크립트 등을 포함한 외부 도구 및 API와 통합하기 위한 기본 제공 어댑터를 갖춘 Python 기반의 최소한의 오픈소스 프레임워크입니다. 이와 함께 대화 또는 작업 맥락을 지속시키는 가벼운 메모리 관리 시스템도 갖추고 있습니다. 개발자는 사용자 정의 액션 플러그인 등록, 정책 규칙 정의, 도구 기능 확장 등을 쉽게 수행할 수 있으며, OpenAI 모델이나 로컬 LLM 지원을 통해 챗봇, 디지털 워커, 자동화된 파이프라인의 신속한 프로토타입 제작이 가능합니다. 해당 프레임워크는 MIT 라이선스로 배포됩니다.

Playbooks AI는 선언형 플레이북 DSL을 통해 AI 에이전트를 구축하는 개발자 프레임워크입니다. 다양한 LLM, 맞춤형 도구, 메모리 저장소와의 통합을 지원하며, CLI와 웹 UI를 통해 사용자는 에이전트의 행동을 정의하고 다단계 워크플로우를 오케스트레이션하며 실행 상태를 모니터링할 수 있습니다. 주요 특징으로는 도구 라우팅, 상태 유지를 위한 메모리, 버전 관리, 분석, 다중 에이전트 협업이 있으며, 프로토타입 설계와 프로덕션 배포를 용이하게 합니다.

Promptix Python은 Python에서 자율 AI 에이전트를 구축하기 위한 오픈소스 프레임워크입니다. pip를 통해 간단히 설치하고, 주요 LLM으로 구동되는 에이전트를 인스턴스화하며, 도메인별 도구를 등록하고, 인메모리 또는 영속 데이터 저장소를 구성하며, 다단계 의사 결정 루프를 오케스트레이션할 수 있습니다. SDK는 토큰 출력을 실시간으로 스트리밍하고, 로깅 또는 커스텀 처리를 위한 콜백 핸들러를 지원하며, 맥락을 유지하는 내부 메모리 모듈도 포함되어 있습니다. 개발자는 이 라이브러리를 활용하여 챗봇 어시스턴트, 자동화, 데이터 파이프라인 또는 연구용 에이전트를 몇 분 만에 프로토타입할 수 있습니다. 모듈식 설계로 모델 교체, 맞춤형 도구 추가, 메모리 백엔드 확장이 가능하여 다양한 AI 에이전트 사용 사례에 유연성을 제공합니다.