MARL-DPP — это открытый исходный код, позволяющий организовать многоагентное обучение с подкреплением (MARL) с принудительным разнообразием через детерминантные точечные процессы (DPP). Традиционные подходы MARL часто сталкиваются с сходимостью политик к похожему поведению; MARL-DPP решает эту проблему, внедряя меры на базе DPP, чтобы поощрять агентов сохранять разнообразное распределение действий. Набор инструментов предоставляет модульный код для включения DPP в цели обучения, выбор политик и управление исследованием. В комплект входит готовое интегрирование с стандартными средами OpenAI Gym и Multi-Agent Particle Environment (MPE), а также утилиты для управления гиперпараметрами, журналирования и визуализации метрик разнообразия. Исследователи могут оценить влияние ограничений на разнообразие на кооперативные задачи, ресурсо-распределение и соревновательные игры. Расширяемый дизайн поддерживает пользовательские среды и продвинутые алгоритмы, способствуя исследованию новых вариантов MARL-DPP.

OpenSpiel — это исследовательский фреймворк, обеспечивающий широкий спектр окружений (от простых матричных игр до сложных настольных игр, таких как шахматы, го и покер) и реализующий различные алгоритмы обучения с укреплением и поиска (например, итерацию значений, градиент политики, Монтекарло-дерево поиска). Его модульное ядро на C++ и привязки к Python позволяют пользователям вставлять собственные алгоритмы, определять новые игры и сравнивать эффективность на стандартных бенчмарках. Спроектированный с учетом расширяемости, он поддерживает сценарии с одним и несколькими агентами, позволяя изучать кооперативные и соревновательные ситуации. Исследователи используют OpenSpiel для быстрого прототипирования алгоритмов, проведения масштабных экспериментов и обмена воспроизводимым кодом.

Ребята RL-агенты для PettingZoo — это библиотека на Python, обеспечивающая готовые алгоритмы DQN, PPO и A2C для многопользовательского обучения с подкреплением в средах PettingZoo. Включает стандартизированные скрипты обучения и оценки, настраиваемые гиперпараметры, встроенное логирование в TensorBoard и поддержку как соревновательных, так и кооперативных игр. Исследователи и разработчики могут клонировать репозиторий, настраивать параметры среды и алгоритмов, запускать тренировки и визуализировать метрики для быстрой разработки и сравнения своих экспериментов по многопользовательскому RL.