DEf-MARL (Estrutura de Execução Descentralizada para Aprendizado por Reforço Multiagente) fornece uma infraestrutura robusta para executar e treinar agentes cooperativos sem controladores centralizados. Ela utiliza protocolos de comunicação ponto a ponto para compartilhar políticas e observações entre agentes, permitindo coordenação por meio de interações locais. A estrutura se integra perfeitamente com ferramentas comuns de RL, como PyTorch e TensorFlow, oferecendo wrappers personalizáveis de ambientes, coleta distribuída de rollout e módulos de sincronização de gradientes. Os usuários podem definir espaços de observação específicos do agente, funções de recompensa e topologias de comunicação. O DEf-MARL suporta adição e remoção dinâmica de agentes em tempo de execução, execução tolerante a falhas através da replicação de estados críticos entre nós e agendamento adaptativo de comunicação para equilibrar exploração e explotação. Ele acelera o treinamento ao paralelizar simulações de ambientes e reduzir gargalos centrais, tornando-o adequado para pesquisa em MARL em grande escala e simulações industriais.

VMAS é um kit completo para construir e treinar sistemas multiagentes usando aprendizado por reforço profundo. Suporta simulação paralela baseada em GPU de centenas de instâncias de ambientes, permitindo coleta de dados de alta taxa e treinamento escalável. Inclui implementações de algoritmos populares de MARL como PPO, MADDPG, QMIX e COMA, juntamente com interfaces modulares de políticas e ambientes para prototipagem rápida. O framework facilita o treinamento centralizado com execução descentralizada (CTDE), oferece ajuste de recompensa personalizável, espaços de observação e hooks de callback para logging e visualização. Com seu design modular, o VMAS integra-se perfeitamente com modelos PyTorch e ambientes externos, tornando-se ideal para pesquisa em tarefas cooperativas, competitivas e de motivos mistos, abrangendo robótica, controle de tráfego, alocação de recursos e cenários de IA de jogos.

O MultiAgentSystems foi projetado para simplificar o processo de construção e avaliação de aplicações de aprendizado por reforço multiagente (MARL). A plataforma inclui implementações de algoritmos de ponta como MADDPG, QMIX, VDN e treinamento centralizado com execução descentralizada. Possui wrappers de ambiente modulares compatíveis com OpenAI Gym, protocolos de comunicação para interação entre agentes e utilitários de registro para rastrear métricas como modelagem de recompensas e taxas de convergência. Pesquisadores podem personalizar arquiteturas de agentes, ajustar hiperparâmetros e simular configurações como navegação cooperativa, alocação de recursos e jogos adversariais. Com suporte integrado para PyTorch, aceleração por GPU e integração com TensorBoard, o MultiAgentSystems acelera experimentação e benchmarking em domínios colaborativos e competitivos de múltiplos agentes.

AutoDRIVE Cooperative MARL é uma estrutura de código aberto projetada para treinar e implantar políticas de aprendizado por reforço multiagente cooperativo (MARL) para tarefas de condução autônoma. Ela integra simuladores realistas para modelar cenários de tráfego como interseções, formação de comboios em rodovias e fusões. A estrutura implementa treinamento centralizado com execução descentralizada, permitindo que veículos aprendam políticas compartilhadas que maximizam a eficiência e segurança do tráfego. Os usuários podem configurar parâmetros do ambiente, escolher algoritmos MARL de base, visualizar o progresso do treinamento e comparar o desempenho da coordenação dos agentes.