MARL-DPP est un cadre open-source permettant l'apprentissage par renforcement multi-agent (MARL) avec diversité imposée via des processus déterminants (DPP). Les approches MARL traditionnelles souffrent souvent d'une convergence des politiques vers des comportements similaires ; MARL-DPP y remédie en intégrant des mesures basées sur le DPP pour encourager les agents à conserver des distributions d'actions diversifiées. La boîte à outils fournit un code modulaire pour intégrer le DPP dans les objectifs d'entraînement, l’échantillonnage de politiques et la gestion de l’exploration. Elle inclut une intégration prête à l’emploi avec des environnements standard comme OpenAI Gym et l’environnement multi-agent Particle (MPE), ainsi que des utilitaires pour la gestion des hyperparamètres, la journalisation et la visualisation des métriques de diversité. Les chercheurs peuvent évaluer l’impact des contraintes de diversité sur des tâches coopératives, l’allocation des ressources et les jeux compétitifs. La conception extensible prend en charge des environnements personnalisés et des algorithmes avancés, facilitant l’exploration de nouvelles variantes de MARL-DPP.

Le MARL Simulator est conçu pour faciliter le développement efficace et scalable d'algorithmes d'apprentissage par renforcement multi-agent (MARL). En utilisant le backend distribué de PyTorch, il permet aux utilisateurs d'exécuter un entraînement parallèle sur plusieurs GPU ou nœuds, réduisant significativement la durée des expériences. Le simulateur offre une interface environnementale modulaire qui supporte des scénarios de référence standard — tels que la navigation collaborative, le prédateur-préy, et le monde en grille — ainsi que des environnements personnalisés. Les agents peuvent utiliser divers protocoles de communication pour coordonner leurs actions, partager des observations et synchroniser des récompenses. Les espaces de récompense et d’observation configurables permettent un contrôle précis de la dynamique d'entraînement, tandis que des outils de journalisation et de visualisation intégrés fournissent des aperçus en temps réel des métriques de performance.

MARTI (Multi-Agent Reinforcement Learning Toolkit and Interface) est un cadre orienté recherche qui facilite le développement, l'évaluation et le benchmarking des algorithmes RL multi-agent. Il offre une architecture plug-and-play où les utilisateurs peuvent configurer des environnements personnalisés, des politiques d'agents, des structures de récompense et des protocoles de communication. MARTI s'intègre aux bibliothèques de deep learning populaires, supporte l'accélération GPU et l'entraînement distribué, et génère des journaux détaillés ainsi que des visualisations pour l'analyse des performances. La conception modulaire du toolkit permet une prototypage rapide des approches novatrices et une comparaison systématique avec des baselines standard, ce qui le rend idéal pour la recherche académique et les projets pilotes dans les systèmes autonomes, la robotique, l'IA de jeu et les scénarios multi-agents coopératifs.

Selective Reincarnation introduit un mécanisme d'entraînement basé sur une population dynamique, adapté au renforcement multi-agent. La performance de chaque agent est régulièrement évaluée par rapport à des seuils prédéfinis. Lorsqu'un agent tombe en dessous de la performance de ses pairs, ses poids sont réinitialisés à ceux de l'agent actuel le mieux performant, le réincarnant ainsi avec des comportements éprouvés. Cette approche maintient la diversité en ne réinitialisant que les agents sous-performants, minimisant ainsi les resets destructeurs tout en orientant l'exploration vers des politiques à haute récompense. En permettant une héritage ciblé des paramètres du réseau neuronal, la pipeline réduit la variance et accélère la convergence dans des environnements multi-agent coopératifs ou compétitifs. Compatible avec tout algorithme MARL basé sur la gradient de politique, l'implémentation s'intègre parfaitement dans les workflows basés sur PyTorch et inclut des hyperparamètres configurables pour la fréquence d'évaluation, les critères de sélection et le réglage de la stratégie de reset.