A MARTI (Toolkit e Interface de Aprendizado por Reforço Multiagente) é uma estrutura orientada à pesquisa que agiliza o desenvolvimento, avaliação e benchmarking de algoritmos de RL multiagente. Oferece uma arquitetura plug-and-play onde os usuários podem configurar ambientes personalizados, políticas de agentes, estruturas de recompensas e protocolos de comunicação. A MARTI integra-se com bibliotecas populares de deep learning, suporta aceleração por GPU e treinamento distribuído, e gera registros detalhados e visualizações para análise de desempenho. O design modular da caixa de ferramentas permite rápida prototipagem de abordagens inovadoras e comparação sistemática com bases padrão, tornando-a ideal para pesquisa acadêmica e projetos pilotos em sistemas autônomos, robótica, IA de jogos e cenários cooperativos multiagentes.

Pits and Orbs é um ambiente de aprendizado por reforço de código aberto implementado em Python, oferecendo um mundo em grade multi-agente baseado em turnos onde os agentes perseguem objetivos e enfrentam perigos ambientais. Cada agente deve navegar por uma grade personalizável, evitar poços colocados aleatoriamente que penalizam ou encerram episódios, e coletar orbes para recompensas positivas. O ambiente suporta modos competitivos e cooperativos, permitindo aos pesquisadores explorar cenários de aprendizado variados. Sua API simples se integra facilmente com bibliotecas populares de RL, como Stable Baselines ou RLlib. Recursos principais incluem dimensões ajustáveis da grade, distribuições dinâmicas de poços e orbes, estruturas de recompensa configuráveis e registro opcional para análise de treinamento.

MultiAgentModel fornece uma API unificada para definir ambientes personalizados e classes de agentes para cenários multiagentes. Os desenvolvedores podem especificar espaços de observação e ação, estruturas de recompensa e canais de comunicação. O suporte embutido para algoritmos populares de RL como PPO, DQN e A2C permite o treino com configurações mínimas. Ferramentas de visualização em tempo real ajudam a monitorar interações de agentes e métricas de desempenho. A arquitetura modular garante fácil integração de novos algoritmos e módulos personalizados. Inclui também um sistema de configuração flexível para ajuste de hiperparâmetros, utilitários de registro para rastreamento de experimentos e compatibilidade com ambientes OpenAI Gym para portabilidade sem esforço. Os usuários podem colaborar em ambientes compartilhados e reproduzir sessões gravadas para análise.