Captum é uma biblioteca extensível que fornece implementações de uso geral para interpretabilidade de modelos no PyTorch. O objetivo é desmistificar modelos complicados de aprendizado de máquina oferecendo vários algoritmos para analisar e compreender previsões de modelos. Captum inclui uma variedade de métodos, como ablação de características, gradientes integrados e outros, que ajudam pesquisadores e desenvolvedores a entender e melhorar seus modelos.

CommNet é uma biblioteca orientada à pesquisa que implementa a arquitetura CommNet, permitindo que múltiplos agentes compartilhem estados ocultos em cada passo de tempo e aprendam a coordenar ações em ambientes cooperativos. Inclui definições de modelos PyTorch, scripts de treinamento e avaliação, wrappers de ambientes para OpenAI Gym e utilitários para personalizar canais de comunicação, contagem de agentes e profundidade da rede. Pesquisadores e desenvolvedores podem usar o CommNet para prototipar e fazer benchmarking de estratégias de comunicação entre agentes em tarefas de navegação, perseguição-evitação e coleta de recursos.