TinyAgent는 OpenAI GPT 모델을 이용한 복잡한 작업을 오케스트레이션하는 경량 에이전트 프레임워크를 제공합니다. 개발자는 pip를 통해 설치하고, API 키를 구성하며, 도구 또는 플러그인을 정의하고, 인메모리 컨텍스트를 활용하여 다단계 대화를 유지할 수 있습니다. TinyAgent는 작업 체인, 외부 API 통합, 사용자 또는 시스템의 메모리 유지 기능을 지원합니다. 간단한 Pythonic API로 자율 데이터 분석 워크플로우, 고객 서비스 챗봇, 코드 생성 도우미 등 지능적이고 상태를 유지하는 에이전트의 프로토타입을 빠르게 만들 수 있습니다. 이 라이브러리는 오픈소스이며, 확장 가능하고 플랫폼에 구애받지 않습니다.

이 저장소는 JADE 프레임워크 기반 에이전트 간 양방향 통신의 실습 데모를 제공합니다. 에이전트 설정, FIPA-ACL 호환 메시지 생성, 비동기 행동 처리 예제를 포함합니다. 개발자는 에이전트 A가 REQUEST를 보내고, 에이전트 B가 요청을 처리하며, INFORM 메시지를 반환하는 과정을 학습할 수 있습니다. 코드는 디렉터리 담당자에 에이전트 등록, 순환형 및 단발성 행동 사용, 메시지 템플릿을 통한 메시지 필터링, 대화 시퀀스 로깅을 보여줍니다. 이는 다중 에이전트 교환 프로토콜 개발, 맞춤형 프로토콜 또는 JADE 에이전트를 더 큰 분산 AI 시스템과 통합하는 데 이상적인 출발점입니다.

FastAPI Agents는 FastAPI 웹 프레임워크를 사용하여 LLM 기반 에이전트를 개발하기 위한 강력한 서비스 계층을 제공합니다. LangChain의 체인, 도구, 메모리 시스템을 사용하여 에이전트 동작을 정의할 수 있습니다. 각각의 에이전트는 표준 REST 엔드포인트로 노출되어 비동기 요청, 스트리밍 응답, 맞춤형 페이로드를 지원합니다. 벡터 스토어와의 연계를 통해 지식 기반 애플리케이션에 대해 검색 증강 생성이 가능합니다. 이 프레임워크는 내장 로깅, 모니터링 훅, 컨테이너화 배포를 위한 Docker 지원 등을 포함하고 있습니다. 새 도구, 미들웨어, 인증으로 쉽게 확장할 수 있습니다. FastAPI Agents는 AI 솔루션의 실운영 준비를 빠르게 하고, 보안, 확장성, 유지보수가 용이한 에이전트 기반 애플리케이션을 기업 및 연구 환경에서 보장합니다。

AiChat은 역할 기반 프롬프트 관리, 메모리 처리, 스트리밍 응답 기능을 제공하는 다목적 툴킷입니다. 사용자는 시스템, 어시스턴트, 사용자 등 여러 대화 역할을 설정하여 대화 맥락과 행동을 형성할 수 있습니다. 프레임워크는 외부 API, 데이터 검색 또는 맞춤 로직을 위한 플러그인 통합을 지원하여 기능 확장을 원활하게 합니다. 모듈형 설계로 언어 모델 교체 및 피드백 루프 구성이 용이합니다. 내장된 메모리 기능은 세션 간 컨텍스트를 유지하며, 스트리밍 API는 낮은 지연 시간으로 상호작용을 제공합니다. 개발자는 명확한 문서 및 샘플 프로젝트를 통해 웹, 데스크탑, 서버 환경에서 챗봇 배포를 가속화할 수 있습니다.