Supervisor LlamaIndex — это ориентированный на разработчиков фреймворк на Python для создания, запуска и мониторинга агентов ИИ на базе LlamaIndex. Он предоставляет инструменты для определения рабочих процессов в виде узлов — таких как извлечение, подведение итогов и пользовательская обработка — и соединения их в направленные графы. Supervisor контролирует каждый шаг, проверяя выводы на соответствие схемам, повторно пытается при ошибках и ведет учет метрик. Это обеспечивает надежные, воспроизводимые цепочки процессов для задач, таких как генерация с использованием дополненного извлечения, QA документов и извлечение данных из различных наборов данных.

AgentGateway предоставляет среду, ориентированную на разработчика, для создания приложений IA с несколькими агентами. Поддерживается распределённая оркестрация агентов, интеграция плагинов и безопасный контроль доступа. Благодаря встроенным коннекторам для векторных баз данных, REST/gRPC API и популярных сервисов, таких как Slack и Notion, агенты могут запрашивать документы, выполнять бизнес-логику и генерировать ответы автономно. Платформа включает мониторинг, логирование и контроль доступа на основе ролей, что облегчает развертывание масштабируемых и проверяемых решений IA в корпоративной среде.