Шепортинг — это открытая симуляционная платформа, предназначенная для исследований и разработок в области обучения с подкреплением с целью изучения и реализации задач пастушества с несколькими агентами. Она предоставляет среду, совместимую с Gym, в которой агенты могут обучаться выполнять поведение, такое как охватывание, сбор и рассеивание целевых групп в непрерывных или дискретных пространствах. В рамках реализованы модульные функции формировки наград, параметризация среды и утилиты для мониторинга обучения. Пользователи могут задавать препятствия, динамичные популяции агентов и собственные политики с использованием TensorFlow или PyTorch. Скрипты визуализации создают траектории и видео взаимодействия агентов. Модульная структура Шепортинга обеспечивает легкую интеграцию с существующими библиотеками RL, что позволяет воспроизводимые эксперименты, сравнение новых стратегий координации и быстрое создание прототипов решений на базе ИИ.

NeuralABM — это open-source библиотека на Python, использующая PyTorch для интеграции нейронных сетей в агентное моделирование. Пользователи могут задавать архитектуру агентов в виде нейронных модулей, определять динамику среды и обучать поведение агентов с помощью обратного распространения ошибок на этапах симуляции. Фреймворк поддерживает пользовательские сигналы вознаграждения, обучение по куррикулуму и синхронное или асинхронное обновление, что позволяет исследовать возникающие феномены. В комплект входят утилиты для логирования, визуализации и экспорта наборов данных, что позволяет исследователям и разработчикам анализировать производительность агентов, отлаживать модели и оптимизировать дизайн симуляций. NeuralABM упрощает сочетание обучения с подкреплением и ABM для приложений в области социальных наук, экономики, робототехники и AI-управляемого поведения NPC в играх. Он предоставляет модульные компоненты для настройки среды, поддерживает взаимодействие нескольких агентов и позволяет внедрять внешние датасеты или API для реальных симуляций. Открытая архитектура способствует воспроизводимости и совместной работе благодаря ясной конфигурации экспериментов и интеграции систем контроля версий.

Acme — это фреймворк на базе Python, упрощающий разработку и оценку агентов обучения с подкреплением. Он включает коллекцию заранее созданных реализаций агентов (например, DQN, PPO, SAC), оболочки для среды, буферы повтора и движки для распределённого выполнения. Исследователи могут комбинировать компоненты для прототипирования новых алгоритмов, контролировать метрики обучения с помощью встроенного логирования и использовать масштабируемые распределённые пайплайны для масштабных экспериментов. Acme интегрируется с TensorFlow и JAX, поддерживает пользовательские среды через интерфейсы OpenAI Gym и включает утилиты для создания контрольных точек, оценки и настройки гиперпараметров.

Agent-Squad — это модульная платформа на Python, которая дает командам возможность проектировать, развертывать и запускать системы с несколькими агентами для выполнения сложных задач. В основе Agent-Squad позволяет определять разные профили агентов — такие как сборщики данных, резюмирующие, кодеры и валидаторы — которые общаются через определенные каналы и делятся памятью. Разделяя высокоуровневые цели на подтasks, рамки управляют параллальной обработкой, используют LLM вместе с внешними API, базами данных или пользовательскими инструментами. Разработчики могут задавать рабочие процессы в JSON или коде, следить за взаимодействиями агентов и динамически адаптировать стратегии с помощью встроенных журналов и средств оценки.