MCP Agent Proxy는 애플리케이션과 OpenAI API 사이의 미들웨어 서비스 역할을 합니다. ChatCompletion 및 Embedding 호출을 투명하게 전달하고, 클라이언트에 스트리밍 응답을 처리하며, 성능 향상과 비용 절감을 위해 결과를 캐시하고, 요청 및 응답 메타데이터를 기록하며, 실시간으로 API 매개변수의 사용자 지정을 허용합니다. 개발자는 기존 에이전트 프레임워크에 통합하여 멀티 채널 처리를 간소화하고, 모든 AI 상호작용을 위한 하나의 관리 엔드포인트를 유지할 수 있습니다.