Granite Retrieval Agent предоставляет разработчикам гибкую платформу для создания генеративных AI-агентов с повышенной точностью, объединяющих семантический поиск и большие языковые модели. Пользователи могут внедрять документы из разнообразных источников, создавать векторные вкрапления и настраивать индексы Azure Cognitive Search или другие хранилища векторов. При поступлении запроса агент извлекает наиболее релевантные отрывки, создает контекстные окна и вызывает API LLM для получения точных ответов или сводок. Поддерживается управление памятью, оркестрация цепочек мышления и пользовательские плагины для пред- и пост-обработки. Возможна установка через Docker или прямо на Python, что ускоряет создание чатботов на базе знания, корпоративных помощников и систем Q&A с меньшим количеством галлюцинаций и повышенной точностью фактов.