MARL-DPP — это открытый исходный код, позволяющий организовать многоагентное обучение с подкреплением (MARL) с принудительным разнообразием через детерминантные точечные процессы (DPP). Традиционные подходы MARL часто сталкиваются с сходимостью политик к похожему поведению; MARL-DPP решает эту проблему, внедряя меры на базе DPP, чтобы поощрять агентов сохранять разнообразное распределение действий. Набор инструментов предоставляет модульный код для включения DPP в цели обучения, выбор политик и управление исследованием. В комплект входит готовое интегрирование с стандартными средами OpenAI Gym и Multi-Agent Particle Environment (MPE), а также утилиты для управления гиперпараметрами, журналирования и визуализации метрик разнообразия. Исследователи могут оценить влияние ограничений на разнообразие на кооперативные задачи, ресурсо-распределение и соревновательные игры. Расширяемый дизайн поддерживает пользовательские среды и продвинутые алгоритмы, способствуя исследованию новых вариантов MARL-DPP.

Multi-Agent Miners предоставляет среду мира в виде сетки, где несколько автономных минёров происходят навигацию, копают и собирают ресурсы, взаимодействуя друг с другом. Поддерживаются настраиваемые размеры карт, количество агентов и схемы награждения, что позволяет создавать как соревновательные, так и кооперативные сценарии. Интеграция с популярными библиотеками RL через PettingZoo обеспечивает стандартизированные API для функций сброса, шага и отображения. Режимы визуализации и журналирование помогают анализировать поведение и результаты, делая этот инструмент идеальным для исследований, обучения и бенчмаркинга алгоритмов в области мультиагентного обучения с усилением.

Этот репозиторий предоставляет полный набор алгоритмов обучения с усилением для многоагентных систем, включая MADDPG, DDPG, PPO и другие, интегрированные с стандартными тестовыми средами, такими как Multi-Agent Particle Environment и OpenAI Gym. Он включает настраиваемые оболочки окружений, конфигурируемые скрипты обучения, логирование в реальном времени и метрики оценки производительности. Пользователи могут легко расширять алгоритмы, адаптировать их под собственные задачи и сравнивать политики в условиях сотрудничества и конфликта с минимальной настройкой.

Масштабируемый MADDPG — это исследовательская рамка для многопрограммного обучения с усилением, обеспечивающая масштабируемую реализацию алгоритма MADDPG. В ней используются центральные критики в процессе обучения и независимые актеры при выполнении для стабильности и эффективности. Библиотека включает Python-скрипты для определения пользовательских окружений, настройки архитектур сетей и гиперпараметров. Пользователи могут обучать множество агентов параллельно, отслеживать метрики и визуализировать кривые обучения. Он интегрируется с окружениями, похожими на OpenAI Gym, и поддерживает ускорение с помощью GPU через TensorFlow. Благодаря модульной структуре, масштабируемый MADDPG обеспечивает гибкие эксперименты в кооперативных, соревновательных или смешанных задачах, облегчая быстрое прототипирование и бенчмаркинг.

AutoDRIVE Cooperative MARL — это проект на GitHub, сочетающий симулятор городского вождения AutoDRIVE с адаптируемыми алгоритмами мультиагентного обучения с подкреплением. Включает скрипты обучения, оболочки среды, метрики оценки и инструменты визуализации для разработки и тестирования политик кооперативного вождения. Пользователи могут настраивать наблюдаемые пространства агентов, функции вознаграждения и гиперпараметры обучения. Репозиторий поддерживает модульные расширения, позволяющие определять индивидуальные задачи, использовать обучение по куррикулуму и отслеживать показатели эффективности для исследований по координации автономных транспортных средств.

DeepMind MAS Environment — это библиотека на Python, предоставляющая стандартизированный интерфейс для построения и моделирования задач обучения с множеством агентов. Позволяет настраивать число агентов, определять пространства наблюдений и действий, а также кастомизировать структуры наград. Фреймворк поддерживает каналы коммуникации между агентами, ведение логов производительности и функции отображения. Исследователи могут легко интегрировать DeepMind MAS Environment с популярными библиотеками RL, такими как TensorFlow и PyTorch, для бенчмаркинга новых алгоритмов, тестирования протоколов связи и анализа дискретных и непрерывных управляемых систем.

MADDPG-Keras обеспечивает полный каркас для исследований в области обучения с подкреплением с несколькими агентами, реализуя алгоритм MADDPG в Keras. Поддерживаются непрерывные пространства действий, несколько агентов и стандартные среды OpenAI Gym. Исследователи и разработчики могут настраивать архитектуры нейронных сетей, гиперпараметры обучения и функции вознаграждения, после чего запускать эксперименты с встроенным логированием и контрольными точками для ускорения обучения политик и оценки производительности.

Selective Reincarnation вводит динамический механизм обучения на основе популяции, ориентированный на MARL. Производительность каждого агента регулярно оценивается по заранее заданным порогам. Когда производительность агента падает ниже уровня его коллег, его веса сбрасываются к текущему лучшему агенту, эффективно воскрешая его с подтвержденными поведениями. Этот подход сохраняет разнообразие, сбрасывая только тех, кто показывает слабые результаты, минимизируя разрушительные сбросы и направляя исследование к политикам с высоким вознаграждением. Благодаря целенаправленной наследуемости параметров нейронной сети, платформа снижает дисперсию и ускоряет сходимость как в кооперативных, так и в конкурентных средах. Совместима с любыми алгоритмами MARL на основе градиента политики, реализована в PyTorch и включает настраиваемые гиперпараметры для частоты оценки, критериев выбора и настройки стратегии сброса.

CrewAI-Learning — это библиотека с открытым исходным кодом, предназначенная для упрощения проектов по обучению с несколькими агентами с усилением. Она предлагает каркасы окружений, модульное определение агентов, настраиваемые функции вознаграждения и набор встроенных алгоритмов, таких как DQN, PPO и A3C, адаптированных для совместных задач. Пользователи могут определять сценарии, управлять циклами обучения, вести журнал метрик и визуализировать результаты. Фреймворк поддерживает динамическую настройку команд агентов и стратегий обмена вознаграждениями, что облегчает прототипирование, оценку и оптимизацию решений ИИ для сотрудничества в различных областях.