AgentGateway는 다중 에이전트 AI 애플리케이션 생성을 위한 개발자 중심 환경을 제공합니다. 분산 에이전트 오케스트레이션, 플러그인 통합 및 안전한 접근 제어를 지원합니다. 벡터 데이터베이스, REST/gRPC API, Slack 및 Notion과 같은 일반 서비스용 내장 커넥터로 에이전트가 문서를 쿼리하고, 비즈니스 논리를 수행하며 자율적으로 응답을 생성할 수 있습니다. 모니터링, 로깅 및 역할 기반 접근 제어도 포함되어 있어 조직 전체에 확장 가능하고 감사 가능한 AI 솔루션을 쉽게 배포할 수 있습니다.

Functionary는 사용자 정의 도구(API 호출, 데이터베이스 쿼리 또는 비즈니스 논리를 캡슐화하는 JavaScript 함수)를 등록하는 선언적 방법을 제공합니다. 사용자 입력을 분석하고 호출할 도구를 결정하며, 도구의 출력을 대화 응답으로 다시 파싱하는 LLM 상호작용을 래핑합니다. 프레임워크는 메모리, 오류 처리, 액션 연결을 지원하며, 사전 및 사후 처리에 대한 훅을 제공합니다. 개발자는 보일러플레이트 없이 역동적인 함수 오케스트레이션이 가능한 에이전트를 신속하게 구축하여 AI 워크플로우에 대한 제어력을 높일 수 있습니다.

LLM Functions는 대규모 언어 모델의 응답과 실제 코드 실행을 연결하는 간단한 프레임워크를 제공합니다. JSON 스키마를 통해 함수를 정의하고 라이브러리에 등록하면, 적절한 경우 LLM이 구조화된 함수 호출을 반환합니다. 라이브러리는 이러한 응답을 분석하고, 매개변수를 검증하며, 올바른 핸들러를 호출합니다. 동기 및 비동기 콜백, 사용자 지정 오류 처리, 플러그인 확장을 지원하며, 데이터 검색, 외부 API 호출 또는 복잡한 비즈니스 로직이 필요한 애플리케이션에 이상적입니다.