Captum é uma biblioteca extensível que fornece implementações de uso geral para interpretabilidade de modelos no PyTorch. O objetivo é desmistificar modelos complicados de aprendizado de máquina oferecendo vários algoritmos para analisar e compreender previsões de modelos. Captum inclui uma variedade de métodos, como ablação de características, gradientes integrados e outros, que ajudam pesquisadores e desenvolvedores a entender e melhorar seus modelos.

Imandra oferece um sistema de raciocínio automatizado nativo em nuvem projetado para trazer rigor e transparência à análise e ao design de algoritmos complexos. Com o Imandra, os usuários podem converter entradas em lógica matemática e automatizar processos de raciocínio, garantindo a segurança, a equidade e a conformidade dos algoritmos. O Imandra é especialmente adequado para indústrias de alto risco, como finanças, onde a confiabilidade dos algoritmos é crítica.