Granite Retrieval Agent는 의미적 검색과 대형 언어 모델을 결합한 검색 강화 생성형 AI 에이전트를 유연하게 구축할 수 있는 플랫폼을 제공합니다. 사용자는 다양한 출처의 문서를 수집하고, 벡터 임베딩을 생성하며, Azure Cognitive Search 인덱스 또는 기타 벡터 저장소를 구성할 수 있습니다. 쿼리가 들어오면, 에이전트는 가장 관련성 높은 구절을 검색하고, 컨텍스트 윈도우를 구성하며, LLM API를 호출하여 정확한 답변 또는 요약을 제공합니다. 메모리 관리, 사고 사슬 오케스트레이션 및 맞춤 플러그인 지원으로 전처리 및 후처리도 수행합니다. Docker 또는 파이썬 직접 배포가 가능하며, 이를 통해 지식 기반 챗봇, 엔터프라이즈 어시스턴트, Q&A 시스템을 빠르게 개발할 수 있으며, 환각 현상을 줄이고 사실 정확성을 향상시킵니다.

PromptMule은 생성 AI 및 LLM 애플리케이션에 맞춤화된 클라우드 기반 API 캐싱 서비스입니다. 낮은 대기 시간의 AI 및 LLM 최적화 캐싱을 제공하여 API 호출 비용을 크게 줄이고 앱 성능을 개선합니다. 강력한 보안 조치를 통해 데이터 보호를 보장하며 효율적인 확장을 가능하게 합니다. 개발자들은 PromptMule을 활용하여 GenAI 앱을 향상시키고, 더 빠른 응답 시간을 확보하고, 운영 비용을 절감할 수 있으므로 현대 앱 개발에 필수적인 도구입니다.