Captum es una biblioteca extensible que proporciona implementaciones de propósito general para la interpretabilidad de modelos en PyTorch. Su objetivo es desmitificar modelos complejos de aprendizaje automático ofreciendo varios algoritmos para analizar y comprender las predicciones de los modelos. Captum incluye una variedad de métodos, como la ablación de características, los gradientes integrados y otros, que ayudan a investigadores y desarrolladores a comprender y mejorar sus modelos.

Imandra ofrece un sistema de razonamiento automatizado nativo en la nube diseñado para aportar rigor y transparencia al análisis y diseño de algoritmos complejos. Con Imandra, los usuarios pueden convertir entradas en lógica matemática y automatizar procesos de razonamiento, asegurando la seguridad, equidad y conformidad de los algoritmos. Imandra es especialmente adecuado para industrias de alto riesgo, como la financiera, donde la fiabilidad de los algoritmos es crítica.