llama-cpp-agent는 완전히 오프라인에서 실행할 수 있는 오픈소스 C++ 프레임워크입니다. llama.cpp 추론 엔진을 활용하여 빠르고 저지연의 상호작용을 제공하며, 모듈식 플러그인 시스템, 구성 가능한 메모리, 작업 실행을 지원합니다. 개발자는 사용자 정의 도구를 통합하고, 다양한 로컬 LLM 모델 간 전환하며, 외부 의존성없이 프라이버시 중심의 대화형 도우미를 구축할 수 있습니다.

echoOLlama은 Ollama 생태계를 활용하여 최소한의 에이전트 프레임워크를 제공합니다. 터미널에서 사용자 입력을 읽고, 이를 구성된 로컬 LLM에 전송하며, 실시간으로 응답을 스트리밍합니다. 사용자는 상호작용 시퀀스를 스크립트화하고, 프롬프트를 연결하며, 기본 모델 코드를 수정하지 않고 프롬프트 엔지니어링을 실험할 수 있습니다. 이는 대화 패턴 테스트, 간단한 명령 기반 도구 구축, 반복적 에이전트 작업 처리에 이상적입니다.

이 저장소는 JADE 프레임워크 기반 에이전트 간 양방향 통신의 실습 데모를 제공합니다. 에이전트 설정, FIPA-ACL 호환 메시지 생성, 비동기 행동 처리 예제를 포함합니다. 개발자는 에이전트 A가 REQUEST를 보내고, 에이전트 B가 요청을 처리하며, INFORM 메시지를 반환하는 과정을 학습할 수 있습니다. 코드는 디렉터리 담당자에 에이전트 등록, 순환형 및 단발성 행동 사용, 메시지 템플릿을 통한 메시지 필터링, 대화 시퀀스 로깅을 보여줍니다. 이는 다중 에이전트 교환 프로토콜 개발, 맞춤형 프로토콜 또는 JADE 에이전트를 더 큰 분산 AI 시스템과 통합하는 데 이상적인 출발점입니다.

Agents-Flex는 대규모 언어 모델(LLM) 애플리케이션을 위한 경량화되고 우아한 Java 프레임워크입니다. 개발자는 지역 메서드를 효율적으로 정의, 분석 및 실행할 수 있습니다. 이 프레임워크는 지역 함수 정의, 파싱 기능, LLM을 통한 콜백 및 결과를 반환하는 메서드 실행을 지원합니다. 최소한의 코드로 개발자는 LLM의 힘을 활용하고 애플리케이션에 정교한 기능을 통합할 수 있습니다.

Cyrano는 자연어 프롬프트를 통해 대형 언어 모델과 외부 도구를 오케스트레이션하는 오픈소스 Python 프레임워크 및 CLI입니다. 사용자들은 커스텀 도구(함수)를 정의하고, 메모리와 토큰 제한을 설정하며, 콜백을 처리할 수 있습니다. Cyrano는 LLM의 JSON 응답을 파싱하고 지정된 도구를 순차적으로 실행합니다. 간단함, 모듈성, 외부 의존성 없음에 중점을 두고 있어 개발자가 채팅봇을 프로토타이핑하고, 자동 워크플로우를 구축하며, 신속히 애플리케이션에 AI 기능을 통합할 수 있습니다.