Captum ist eine erweiterbare Bibliothek, die allgemeine Implementierungen für Modellinterpretierbarkeit in PyTorch bereitstellt. Ziel ist es, komplexe Maschinenlernmodelle zu entschlüsseln, indem mehrere Algorithmen angeboten werden, um Modellvorhersagen zu analysieren und zu verstehen. Captum umfasst eine Vielzahl von Methoden wie Merkmalsablation, integrierte Gradienten und andere, die Forschern und Entwicklern helfen, ihre Modelle zu verstehen und zu verbessern.