El entorno de búsqueda cooperativa proporciona un entorno de aprendizaje por refuerzo multiagente flexible y compatible con gym, diseñado para tareas de búsqueda cooperativa en espacios en cuadrícula discretos y continuos. Los agentes operan bajo observabilidad parcial y pueden compartir información basándose en topologías de comunicación personalizables. El marco soporta escenarios predefinidos como búsqueda y rescate, seguimiento de objetivos dinámicos y mapeo colaborativo, con API para definir entornos personalizados y estructuras de recompensa. Se integra a la perfección con bibliotecas RL populares como Stable Baselines3 y Ray RLlib, incluye utilidades de registro para análisis de rendimiento y herramientas de visualización integradas para monitoreo en tiempo real. Los investigadores pueden ajustar tamaños de cuadrículas, conteo de agentes, rangos de sensores y mecanismos de compartición de recompensas para evaluar estrategias de coordinación y probar nuevos algoritmos de manera efectiva.

El simulador MARL está diseñado para facilitar el desarrollo eficiente y escalable de algoritmos de aprendizaje por refuerzo multiagente (MARL). Aprovechando el backend distribuido de PyTorch, permite a los usuarios ejecutar entrenamiento paralelo en múltiples GPUs o nodos, reduciendo significativamente el tiempo de experimentos. El simulador ofrece una interfaz modular de entorno que soporta escenarios de referencia estándar — como navegación cooperativa, depredador-presa y mundo en cuadrícula — así como entornos personalizados definidos por el usuario. Los agentes pueden utilizar diversos protocolos de comunicación para coordinar acciones, compartir observaciones y sincronizar recompensas. Espacios de recompensa y observación configurables permiten un control preciso de la dinámica de entrenamiento, mientras que herramientas integradas de registro y visualización proporcionan información en tiempo real sobre métricas de rendimiento.

MARTI (Toolkit e Interfaz de Aprendizaje por Refuerzo Multiagente) es un marco orientado a la investigación que simplifica el desarrollo, evaluación y evaluación comparativa de algoritmos RL multiagente. Ofrece una arquitectura plug-and-play donde los usuarios pueden configurar entornos personalizados, políticas de agentes, estructuras de recompensas y protocolos de comunicación. MARTI se integra con bibliotecas de aprendizaje profundo populares, soporta aceleración GPU y entrenamiento distribuido, y genera registros y visualizaciones detalladas para análisis de rendimiento. El diseño modular del paquete permite la creación rápida de prototipos de enfoques novedosos y comparaciones sistemáticas con líneas base estándar, siendo ideal para investigaciones académicas y proyectos piloto en sistemas autónomos, robótica, IA de juegos y escenarios cooperativos multiagente.

Mava es una biblioteca de código abierto basada en JAX para desarrollar, entrenar y evaluar sistemas de aprendizaje por refuerzo multiagente. Ofrece implementaciones preconstruidas de algoritmos cooperativos y competitivos como MAPPO y MADDPG, junto con bucles de entrenamiento configurables que soportan flujos de trabajo en un solo nodo y distribuidos. Los investigadores pueden importar entornos desde PettingZoo o definir entornos personalizados, y luego usar los componentes modulares de Mava para optimización de políticas, gestión de búferes de repetición y registro de métricas. La arquitectura flexible del marco permite integrar nuevos algoritmos, espacios de observación personalizados y estructuras de recompensa. Aprovechando las capacidades de auto-vectorización y aceleración de hardware de JAX, Mava garantiza experimentos eficientes a gran escala y comparación reproducible en diversos escenarios multiagente.

simple_rl es una biblioteca Python minimalista diseñada para agilizar la investigación y educación en aprendizaje por refuerzo. Ofrece una API coherente para definir entornos y agentes, con soporte incorporado para paradigmas RL comunes como Q-learning, Monte Carlo y algoritmos de programación dinámica como iteración de valores y políticas. El marco incluye entornos de ejemplo como GridWorld, MountainCar y Multi-Armed Bandits, facilitando experimentación práctica. Los usuarios pueden extender clases base para implementar entornos o agentes personalizados, mientras que funciones utilitarias manejan el registro, seguimiento de rendimiento y evaluación de políticas. La arquitectura ligera y código claro de simple_rl lo hacen ideal para prototipado rápido, enseñanza de fundamentos de RL y benchmarking de nuevos algoritmos en un entorno reproducible y fácil de entender.

MultiAgentModel proporciona una API unificada para definir entornos personalizados y clases de agentes para escenarios multiagentes. Los desarrolladores pueden especificar espacios de observación y acción, estructuras de recompensa y canales de comunicación. La compatibilidad con algoritmos RL populares como PPO, DQN y A2C permite entrenar con una configuración mínima. Las herramientas de visualización en tiempo real ayudan a monitorear las interacciones de los agentes y las métricas de rendimiento. La arquitectura modular garantiza una fácil integración de nuevos algoritmos y módulos personalizados. También incluye un sistema de configuración flexible para ajuste de hiperparámetros, utilidades de registro para seguimiento de experimentos y compatibilidad con entornos OpenAI Gym para portabilidad sin problemas. Los usuarios pueden colaborar en entornos compartidos y reproducir sesiones registradas para análisis.

Acme es un marco basado en Python que simplifica el desarrollo y la evaluación de agentes de aprendizaje por refuerzo. Ofrece una colección de implementaciones predefinidas de agentes (por ejemplo, DQN, PPO, SAC), envoltorios de entornos, buffers de repetición y motores de ejecución distribuidos. Los investigadores pueden combinar componentes para prototipar nuevos algoritmos, monitorear métricas de entrenamiento con registro incorporado y aprovechar pipelines distribuidos escalables para experimentos a gran escala. Acme se integra con TensorFlow y JAX, soporta entornos personalizados mediante interfaces OpenAI Gym, y incluye utilidades para guardar, evaluar y configurar hiperparámetros.