Captum は、PyTorch におけるモデルの解釈可能性のための汎用実装を提供する拡張可能なライブラリです。複雑な機械学習モデルを解明することを目的として、モデル予測を分析し理解するためのいくつかのアルゴリズムを提供しています。Captum には、特徴消失、統合勾配などのいくつかの手法が含まれており、研究者や開発者が自らのモデルを理解し改善するのに役立ちます。