Captum é uma biblioteca extensível que fornece implementações de uso geral para interpretabilidade de modelos no PyTorch. O objetivo é desmistificar modelos complicados de aprendizado de máquina oferecendo vários algoritmos para analisar e compreender previsões de modelos. Captum inclui uma variedade de métodos, como ablação de características, gradientes integrados e outros, que ajudam pesquisadores e desenvolvedores a entender e melhorar seus modelos.