Die Überwachung der generativen KI ist eine umfassende Lösung, die für Organisationen entwickelt wurde, um deren Nutzung generativer KI-Technologien zu überwachen. Sie ermöglicht es Unternehmen, unternehmensweite Richtlinien zu implementieren und sich gegen potenzielle Risiken im Zusammenhang mit der Nutzung von KI zu schützen. Durch das Verfolgen des Einsatzes und der Leistung generativer KI-Tools können Organisationen die Einhaltung von Branchenstandards sicherstellen und gleichzeitig ein sicheres und effektives Umfeld für die Integration von KI fördern.

OpenDerisk bietet eine modulare, erweiterbare Plattform zur Bewertung und Minderung von Risiken in KI-Systemen. Es umfasst Metriken zur Fairness-Bewertung, Erkennung von Privatsphärendatenverlust, Tests im Bereich adversarialer Robustheit, Bias-Überwachung und Überprüfung der Ausgabequalität. Nutzer können vorkonfigurierte Sonden anpassen oder eigene Module entwickeln, um spezifische Risiko-Gebiete anzugehen. Die Ergebnisse werden in interaktive Berichte zusammengefasst, die Schwachstellen hervorheben und Abhilfeschritte vorschlagen. OpenDerisk läuft als CLI und Python SDK und ermöglicht nahtlose Integration in Entwicklungsprozesse, Continuous-Integration-Pipelines und automatisierte Qualitätsprüfungen, um sichere und zuverlässige KI-Einsätze zu gewährleisten.