OpenDeriskは、AIシステムのリスクを評価し軽減するためのモジュール式で拡張可能なプラットフォームを提供します。 公平性評価指標、プライバシー漏洩検出、敵対的堅牢性テスト、バイアス監視、出力品質チェックを含みます。 ユーザーは、事前に構築されたプローブを設定するか、特定のリスク領域をターゲットにしたカスタムモジュールを開発できます。 結果はインタラクティブなレポートにまとめられ、脆弱性を強調し修正手順を提案します。OpenDeriskはCLIおよびPython SDKとして動作し、開発作業フロー、継続的インテグレーションパイプライン、自動品質ゲートへのシームレスな統合を可能にします。
