Мониторинг генерирующего ИИ — это комплексное решение, предназначенное для организаций, чтобы контролировать использование технологий генерирующего ИИ. Оно позволяет компаниям реализовывать политику на уровне предприятия и защищаться от потенциальных рисков, связанных с использованием ИИ. Путем отслеживания развертывания и производительности инструментов генерирующего ИИ организации могут гарантировать соблюдение отраслевых стандартов, создавая безопасную и эффективную среду интеграции ИИ.

OpenDerisk предоставляет модульную, расширяемую платформу для оценки и снижения рисков в системах ИИ. В нее входят показатели оценки справедливости, обнаружение утечек конфиденциальной информации, тесты на противодействие, мониторинг предвзятости и контроль качества выводов. Пользователи могут настраивать готовые зонды или разрабатывать пользовательские модули для конкретных областей риска. Результаты сводятся в интерактивные отчеты, подчеркивающие уязвимости и предлагающие шаги по устранению. OpenDerisk работает как CLI и Python SDK, обеспечивая бесшовную интеграцию в рабочие процессы разработки, непрерывную интеграцию и автоматические системы контроля качества для обеспечения безопасных и надежных запусков ИИ.