EthicalEvalMAS обеспечивает модульную среду для оценки систем с несколькими агентами по ключевым этическим аспектам, таким как справедливость, автономия, конфиденциальность, прозрачность и благотворительность. Пользователи могут генерировать пользовательские сценарии или использовать встроенные шаблоны, задавать собственные метрики, запускать автоматические скрипты оценки и визуализировать результаты с помощью встроенных инструментов отчетности. Его расширяемая архитектура облегчает интеграцию с существующими платформами MAS и поддерживает воспроизводимое этическое бенчмаркинг для различных поведений агентов.

Captum — это расширяемая библиотека, которая предоставляет общие реализации для интерпретируемости моделей в PyTorch. Она направлена на разъяснение сложных моделей машинного обучения, предлагая несколько алгоритмов для анализа и понимания предсказаний моделей. Captum включает в себя разнообразные методы, такие как абляция признаков, интегрированные градиенты и другие, которые помогают исследователям и разработчикам осмысливать и улучшать свои модели.