llama-cpp-agent는 완전히 오프라인에서 실행할 수 있는 오픈소스 C++ 프레임워크입니다. llama.cpp 추론 엔진을 활용하여 빠르고 저지연의 상호작용을 제공하며, 모듈식 플러그인 시스템, 구성 가능한 메모리, 작업 실행을 지원합니다. 개발자는 사용자 정의 도구를 통합하고, 다양한 로컬 LLM 모델 간 전환하며, 외부 의존성없이 프라이버시 중심의 대화형 도우미를 구축할 수 있습니다.

Notte는 대규모 언어 모델로 구동되는 AI 에이전트의 오케스트레이션을 위해 설계된 개발자 중심의 Python 프레임워크입니다. 대화 컨텍스트를 저장하고 검색하는 빌트인 메모리 모듈, 외부 API 또는 맞춤 기능과의 유연한 도구 통합, 작업을 시퀀스하는 기획 엔진을 제공합니다. Notte를 사용하면 대화형 비서, 데이터 분석 봇 또는 자동화 워크플로우를 빠르게 프로토타이핑할 수 있으며, 오픈 소스 확장성 및 크로스 플랫폼 지원의 혜택을 누릴 수 있습니다.

AI-Creator는 자연어로 상호작용하고 외부 도구를 활용하는 작업을 수행할 수 있는 AI 에이전트 생성을 위한 유연한 구조를 제공합니다. 이는 프롬프트 관리, 사유 체인, 세션 메모리 및 커스터마이징 가능한 파이프라인 모듈을 포함합니다. 개발자는 간단한 JSON 또는 코드 구성으로 에이전트 행동을 정의하고, API와 데이터베이스를 도구로 통합하며, 웹 서비스 또는 CLI 앱으로 배포할 수 있습니다. 이 프레임워크는 확장성과 모듈성을 지원하여 챗봇, 가상 비서, 전문화된 디지털 워커의 프로토타입 작성에 적합합니다.