A2A SDK는 Python에서 AI 에이전트를 구축, 연결 및 관리할 수 있는 개발자 도구 키트입니다. 프롬프트 또는 코드를 통해 에이전트 동작을 정의하고, 파이프라인 또는 워크플로에 에이전트를 연결하며, 비동기 메시지 전달을 가능하게 합니다. OpenAI, Llama, Redis, REST 서비스와의 통합을 통해 에이전트는 데이터를 검색하고, 기능을 호출하며, 상태를 저장할 수 있습니다. 내장 UI는 에이전트 활동을 모니터링하며, 모듈식 설계 덕분에 사용자 정의 유스케이스에 맞게 구성 요소를 확장 또는 교체할 수 있습니다.

Agentic Framework는 대형 언어 모델과 MongoDB를 활용하는 자율 AI 에이전트 생성을 간소화하는 다목적 오픈소스 프레임워크입니다. 모듈식 컴포넌트를 제공하여 에이전트 메모리 관리, 도구 세트 정의, 다단계 워크플로우 조정, 프롬프트 템플릿 구성을 지원합니다. 통합된 MongoDB 기반 메모리 저장소는 세션 간 지속적 컨텍스트를 유지하게 하며, 플러그인 가능한 도구 인터페이스는 외부 API 및 데이터 소스와의 원활한 상호작용을 가능하게 합니다. Node.js 기반으로 로깅, 모니터링 훅, 배포 예제도 포함되어 있어 지능형 에이전트의 빠른 프로토타이핑과 확장이 가능합니다. 사용자 맞춤형 구성으로 지식 검색, 고객 지원 자동화, 데이터 분석, 프로세스 자동화 등 다양한 작업에 적합한 에이전트를 설계할 수 있어 개발 시간과 비용을 절감합니다.

Aladin은 개발자가 대형 언어 모델(LLMs)에 의해 구동되는 자율형 에이전트를 정의할 수 있는 모듈식 아키텍처를 제공합니다. 각 에이전트는 SQLite, 인메모리 등 메모리 백엔드를 로드하고, 동적 프롬프트 템플릿을 활용하며, 외부 API 호출 또는 로컬 명령 실행을 위한 커스텀 플러그인을 통합할 수 있습니다. 목표를 시퀀스화된 실행 행동으로 분해하는 작업 플래너를 갖추고 있으며, 우선순위에 따라 순차적으로 실행하고 LLM 피드백을 기반으로 반복합니다. YAML 파일과 환경 변수로 구성하여 다양한 사용 사례에 적응 가능하며, Docker Compose 또는 pip를 통해 배포할 수 있습니다. CLI와 FastAPI 기반 HTTP 엔드포인트를 통해 에이전트 시작, 실행 모니터링, 메모리 상태 점검이 가능하며, CI/CD 파이프라인, 채팅 인터페이스 또는 사용자 지정 대시보드와의 통합을 용이하게 합니다.

Flyte는 유연하고 확장 가능한 오픈 소스 워크플로우 오케스트레이션 플랫폼입니다. 데이터 및 ML 스택에 매끄럽게 통합되어 강력하고 재현 가능한 데이터 및 ML 워크플로우를 쉽게 정의, 배포 및 관리할 수 있습니다. 그 강력하고 확장 가능한 기능은 데이터 과학자, 엔지니어 및 분석가에게 필수적인 도구가 되는 생산 수준의 워크플로우를 만드는 데 도움이 됩니다.

LangGraphJS API는 유향 그래프를 사용하여 AI 에이전트 워크플로우를 설계하는 프로그래밍 인터페이스를 제공합니다. 그래프 내의 각 노드는 LLM 호출, 의사 결정 로직 또는 데이터 변환을 나타냅니다. 개발자는 노드를 체인으로 연결하고, 분기 로직을 처리하며, 비동기 실행을 원활하게 관리할 수 있습니다. TypeScript 정의와 인기 있는 LLM 제공업체에 대한 내장 통합을 통해 대화형 에이전트, 데이터 추출 파이프라인 및 복잡한 다중 단계 프로세스의 개발이 간소화됩니다.

rag-services는 RAG 파이프라인을 별도 마이크로서비스로 분해하는 확장 가능한 플랫폼입니다. 문서 저장소 서비스, 벡터 인덱스 서비스, 임베더 서비스, 여러 LLM 추론 서비스, 워크플로우를 조정하는 오케스트레이터 서비스를 제공합니다. 각각의 구성 요소는 REST API를 공개하여 데이터베이스와 모델 제공업체를 자유롭게 조합할 수 있습니다. 도커(Docker)와 도커 컴포즈(Docker Compose)를 지원하여 로컬 또는 쿠버네티스 클러스터에 배포 가능합니다. 이 프레임워크는 챗봇, 지식 기반, 자동 문서 Q&A를 위한 확장 가능하며 장애 허용력이 뛰어난 RAG 솔루션을 지원합니다.