Captum — это расширяемая библиотека, которая предоставляет общие реализации для интерпретируемости моделей в PyTorch. Она направлена на разъяснение сложных моделей машинного обучения, предлагая несколько алгоритмов для анализа и понимания предсказаний моделей. Captum включает в себя разнообразные методы, такие как абляция признаков, интегрированные градиенты и другие, которые помогают исследователям и разработчикам осмысливать и улучшать свои модели.

CommNet — это библиотека ориентированная на исследования, реализующая архитектуру CommNet, позволяющую нескольким агентам делиться скрытыми состояниями на каждом шаге времени и обучаться координировать действия в кооперативных средах. Включает определения моделей PyTorch, скрипты обучения и оценки, оболочки среды для OpenAI Gym и утилиты для настройки каналов связи, количества агентов и глубины сети. Исследователи и разработчики могут использовать CommNet для прототипирования и бенчмаркинга стратегий межагентской коммуникации в задачах навигации, преследования–уклонения и сбора ресурсов.