Captum ist eine erweiterbare Bibliothek, die allgemeine Implementierungen für Modellinterpretierbarkeit in PyTorch bereitstellt. Ziel ist es, komplexe Maschinenlernmodelle zu entschlüsseln, indem mehrere Algorithmen angeboten werden, um Modellvorhersagen zu analysieren und zu verstehen. Captum umfasst eine Vielzahl von Methoden wie Merkmalsablation, integrierte Gradienten und andere, die Forschern und Entwicklern helfen, ihre Modelle zu verstehen und zu verbessern.

CommNet ist eine forschungsorientierte Bibliothek, die die CommNet-Architektur implementiert und es mehreren Agenten erlaubt, Hidden-States bei jedem Zeitschritt zu teilen und Aktionen in kooperativen Umgebungen zu koordinieren. Es beinhaltet PyTorch-Modell-Definitionen, Trainings- und Evaluierungsskripte, Umgebungswrapper für OpenAI Gym und Utilities zur Anpassung der Kommunikationskanäle, Agentenzahlen und Netzwerktiefen. Forscher und Entwickler können CommNet nutzen, um Inter-Agent-Kommunikationsstrategien bei Navigations-, Verfolgungs- und Ressourcen-Sammelaufgaben zu prototypisieren und zu benchmarken.