MARO (Multi-Agent Resource Optimization) — это фреймворк на Python, предназначенный для поддержки разработки и оценки агентов обучения с подкреплением с несколькими агентами в сценариях цепей поставок, логистики и управления ресурсами. Включает шаблоны для управления запасами, планирования грузовиков, кросс-докинга, аренды контейнеров и прочего. MARO предлагает унифицированный API агентов, встроенные трекеры для ведения экспериментов, возможности параллельного моделирования для масштабных тренировок и инструменты визуализации для анализа эффективности. Платформа модульная, расширяемая, интегрируется с популярными RL-библиотеками, обеспечивая воспроизводимость исследований и быструю прототипирование решений на базе ИИ.

MineLand предоставляет гибкую 3D-среду, вдохновленную Minecraft, для обучения агентов с усилением. Она имеет API, совместимый с Gym, для бесшовной интеграции с существующими библиотеками RL, такими как Stable Baselines, RLlib и пользовательские реализации. Пользователи имеют доступ к библиотеке задач, включая сбор ресурсов, навигацию и строительные вызовы, каждая с настраиваемой сложностью и структурой наград. В режиме реального времени, мультиагентские сценарии и безграфические режимы позволяют масштабируемое обучение и бенчмаркинг. Разработчики могут проектировать новые карты, определять пользовательские функции награды и добавлять дополнительные датчики или контроллеры. Открытый исходный код MineLand способствует воспроизводимости исследований, совместной разработке и быстрому прототипированию AI-агентов в сложных виртуальных мирах.

В основе RxAgent-Zoo лежит реактивная RL-структура, которая рассматривает события данных из окружающей среды, буферы повторного воспроизведения и циклы обучения как наблюдаемые потоки. Пользователи могут цепочками операторов предобрабатывать наблюдения, обновлять сети и асинхронно регистрировать метрики. Библиотека поддерживает параллельную работу с окружающими средами, настраиваемые планировщики и интеграцию с популярными бенчмарками Gym и Atari. API "подключи и используй" позволяет бесшовно заменять компоненты агента, что способствует воспроизводимости, быстрому экспериментированию и масштабируемым рабочим потокам обучения.

Масштабируемый MADDPG — это исследовательская рамка для многопрограммного обучения с усилением, обеспечивающая масштабируемую реализацию алгоритма MADDPG. В ней используются центральные критики в процессе обучения и независимые актеры при выполнении для стабильности и эффективности. Библиотека включает Python-скрипты для определения пользовательских окружений, настройки архитектур сетей и гиперпараметров. Пользователи могут обучать множество агентов параллельно, отслеживать метрики и визуализировать кривые обучения. Он интегрируется с окружениями, похожими на OpenAI Gym, и поддерживает ускорение с помощью GPU через TensorFlow. Благодаря модульной структуре, масштабируемый MADDPG обеспечивает гибкие эксперименты в кооперативных, соревновательных или смешанных задачах, облегчая быстрое прототипирование и бенчмаркинг.

Lightning AI — это комплексная платформа, которая интегрирует ваши любимые инструменты машинного обучения в единый интерфейс. Она поддерживает весь жизненный цикл разработки ИИ, включая подготовку данных, обучение моделей, масштабирование и развертывание. Спроектированная создателями PyTorch Lightning, эта платформа предоставляет мощные возможности для совместного кодирования, бесшовного прототипирования, масштабируемого обучения и простого обслуживания моделей ИИ. Облачный интерфейс обеспечивает отсутствие настройки и плавный пользовательский опыт.

VMAS — полный набор инструментов для построения и обучения мультиагентных систем с помощью глубокого обучения с подкреплением. Он обеспечивает параллельное моделирование сотен экземпляров окружений на GPU, что позволяет собирать данные с высокой пропускной способностью и масштабировать обучение. VMAS включает реализации популярных алгоритмов MARL, таких как PPO, MADDPG, QMIX и COMA, и предлагает модульные интерфейсы для быстрой прототипизации политики и среды. Фреймворк позволяет организовать централизованное обучение с децентрализованным исполнением (CTDE), поддерживаемые настраиваемые наградные функции, пространства наблюдения и хуки обратных вызовов для ведения журналов и визуализации. Благодаря модульной архитектуре VMAS легко интегрируется с моделями PyTorch и внешними средами, что делает его идеальным для исследований в задачах сотрудничества, соревнований и смешанных мотиваций в робототехнике, управлении трафиком, распределении ресурсов и сценариях игровой AI.