Captum ist eine erweiterbare Bibliothek, die allgemeine Implementierungen für Modellinterpretierbarkeit in PyTorch bereitstellt. Ziel ist es, komplexe Maschinenlernmodelle zu entschlüsseln, indem mehrere Algorithmen angeboten werden, um Modellvorhersagen zu analysieren und zu verstehen. Captum umfasst eine Vielzahl von Methoden wie Merkmalsablation, integrierte Gradienten und andere, die Forschern und Entwicklern helfen, ihre Modelle zu verstehen und zu verbessern.

Imandra bietet ein cloud-native automatisiertes Reasoning-System, das darauf abzielt, Strenge und Transparenz in die Analyse und Gestaltung komplexer Algorithmen zu bringen. Mit Imandra können Benutzer Eingaben in mathematische Logik umwandeln und den Reasoning-Prozess automatisieren, um die Sicherheit, Fairness und Compliance der Algorithmen zu gewährleisten. Imandra eignet sich besonders für risikobehaftete Branchen wie die Finanzindustrie, in denen die Zuverlässigkeit von Algorithmen entscheidend ist.