Captum es una biblioteca extensible que proporciona implementaciones de propósito general para la interpretabilidad de modelos en PyTorch. Su objetivo es desmitificar modelos complejos de aprendizaje automático ofreciendo varios algoritmos para analizar y comprender las predicciones de los modelos. Captum incluye una variedad de métodos, como la ablación de características, los gradientes integrados y otros, que ayudan a investigadores y desarrolladores a comprender y mejorar sus modelos.

CommNet es una biblioteca orientada a la investigación que implementa la arquitectura CommNet, permitiendo que múltiples agentes compartan estados ocultos en cada paso temporal y aprendan a coordinar acciones en entornos cooperativos. Incluye definiciones de modelos en PyTorch, scripts de entrenamiento y evaluación, envoltorios para entornos OpenAI Gym y utilidades para personalizar canales de comunicación, conteo de agentes y profundidades de red. Investigadores y desarrolladores pueden usar CommNet para prototipar y evaluar estrategias de comunicación entre agentes en tareas de navegación, persecución-salvación y recolección de recursos.