La Communication Émergente chez les Agents est un cadre PyTorch open-source conçu pour les chercheurs explorant comment les systèmes multi-agent développent leurs propres protocoles de communication. La bibliothèque offre des implémentations flexibles de tâches d'apprentissage par renforcement coopératif, y compris des jeux référentiels, des jeux combinatoires et des défis d'identification d'objets. Les utilisateurs définissent des architectures d'agents locuteurs et auditeurs, spécifient les propriétés des canaux de message comme la taille du vocabulaire et la longueur de la séquence, et sélectionnent des stratégies d'entraînement telles que les gradients de politique ou l'apprentissage supervisé. Le cadre comprend des scripts de bout en bout pour exécuter des expériences, analyser l'efficacité de communication et visualiser les langues émergentes. Sa conception modulaire facilite l'extension avec de nouveaux environnements de jeu ou des fonctions de perte personnalisées. Les chercheurs peuvent reproduire des études publiées, benchmarker de nouveaux algorithmes et explorer la compositionnalité et la sémantique des langues d'agents émergents.

Le MARL Simulator est conçu pour faciliter le développement efficace et scalable d'algorithmes d'apprentissage par renforcement multi-agent (MARL). En utilisant le backend distribué de PyTorch, il permet aux utilisateurs d'exécuter un entraînement parallèle sur plusieurs GPU ou nœuds, réduisant significativement la durée des expériences. Le simulateur offre une interface environnementale modulaire qui supporte des scénarios de référence standard — tels que la navigation collaborative, le prédateur-préy, et le monde en grille — ainsi que des environnements personnalisés. Les agents peuvent utiliser divers protocoles de communication pour coordonner leurs actions, partager des observations et synchroniser des récompenses. Les espaces de récompense et d’observation configurables permettent un contrôle précis de la dynamique d'entraînement, tandis que des outils de journalisation et de visualisation intégrés fournissent des aperçus en temps réel des métriques de performance.

Ce projet open-source offre un cadre complet d'apprentissage par renforcement multi-agent basé sur PyTorch et Unity ML-Agents. Il propose des algorithmes DDPG décentralisés, des wrappers d'environnements et des scripts d'entraînement. Les utilisateurs peuvent configurer les politiques d'agents, les réseaux critiques, les buffers de relecture et les travailleurs d'entraînement parallèles. Les hooks de journalisation permettent la surveillance avec TensorBoard, tandis qu'une architecture modulaire supporte des fonctions de récompense et paramètres d'environnement personnalisés. Le dépôt inclut des scènes Unity d'exemple illustrant des tâches de navigation collaborative, idéal pour étendre et benchmarker des scénarios multi-agent en simulation.

Mean-Field MARL offre un cadre Python robuste pour l'implémentation et l’évaluation des algorithmes d'apprentissage par renforcement multi-agent à champ moyen. Il approxime les interactions à grande échelle en modélisant l'effet moyen des agents voisins via Q-learning par champ moyen. La bibliothèque comprend des wrappers d’environnement, des modules de politique d’agent, des boucles d’entraînement, et des métriques d’évaluation, permettant un entraînement scalable sur des centaines d’agents. Basé sur PyTorch pour l’accélération GPU, il supporte des environnements personnalisables comme Particle World et Gridworld. La conception modulaire facilite l’extension avec de nouveaux algorithmes, tandis que les outils intégrés de journalisation et de visualisation Matplotlib permettent de suivre les récompenses, les courbes de perte, et les distributions par champ moyen. Des scripts d’exemple et la documentation guident l’utilisateur à travers la configuration, l’expérimentation, et l’analyse des résultats, idéal pour la recherche et le prototypage de systèmes multi-agents à grande échelle.

RL-Agents est un framework d'apprentissage par renforcement de niveau recherche construit sur PyTorch qui regroupe des algorithmes RL populaires dans les méthodes basées sur la valeur, la politique et l'acteur-critique. La bibliothèque dispose d'une API d'agent modulaire, d'une accélération GPU, d'une intégration transparente avec OpenAI Gym et d'outils intégrés de journalisation et de visualisation. Les utilisateurs peuvent configurerles hyperparamètres, personnaliser les boucles d'entraînement et mesurer les performances avec quelques lignes de code, rendant RL-Agents idéal pour la recherche académique, le prototypage et l'expérimentation industrielle.