AgentGateway는 다중 에이전트 AI 애플리케이션 생성을 위한 개발자 중심 환경을 제공합니다. 분산 에이전트 오케스트레이션, 플러그인 통합 및 안전한 접근 제어를 지원합니다. 벡터 데이터베이스, REST/gRPC API, Slack 및 Notion과 같은 일반 서비스용 내장 커넥터로 에이전트가 문서를 쿼리하고, 비즈니스 논리를 수행하며 자율적으로 응답을 생성할 수 있습니다. 모니터링, 로깅 및 역할 기반 접근 제어도 포함되어 있어 조직 전체에 확장 가능하고 감사 가능한 AI 솔루션을 쉽게 배포할 수 있습니다.

LLM Functions는 대규모 언어 모델의 응답과 실제 코드 실행을 연결하는 간단한 프레임워크를 제공합니다. JSON 스키마를 통해 함수를 정의하고 라이브러리에 등록하면, 적절한 경우 LLM이 구조화된 함수 호출을 반환합니다. 라이브러리는 이러한 응답을 분석하고, 매개변수를 검증하며, 올바른 핸들러를 호출합니다. 동기 및 비동기 콜백, 사용자 지정 오류 처리, 플러그인 확장을 지원하며, 데이터 검색, 외부 API 호출 또는 복잡한 비즈니스 로직이 필요한 애플리케이션에 이상적입니다.