Mean-Field MARL offre un cadre Python robuste pour l'implémentation et l’évaluation des algorithmes d'apprentissage par renforcement multi-agent à champ moyen. Il approxime les interactions à grande échelle en modélisant l'effet moyen des agents voisins via Q-learning par champ moyen. La bibliothèque comprend des wrappers d’environnement, des modules de politique d’agent, des boucles d’entraînement, et des métriques d’évaluation, permettant un entraînement scalable sur des centaines d’agents. Basé sur PyTorch pour l’accélération GPU, il supporte des environnements personnalisables comme Particle World et Gridworld. La conception modulaire facilite l’extension avec de nouveaux algorithmes, tandis que les outils intégrés de journalisation et de visualisation Matplotlib permettent de suivre les récompenses, les courbes de perte, et les distributions par champ moyen. Des scripts d’exemple et la documentation guident l’utilisateur à travers la configuration, l’expérimentation, et l’analyse des résultats, idéal pour la recherche et le prototypage de systèmes multi-agents à grande échelle.

Acme est un framework basé sur Python qui simplifie le développement et l'évaluation d'agents d'apprentissage par renforcement. Il propose une collection d'implémentations d'agents préconstruites (par exemple, DQN, PPO, SAC), des enveloppes d'environnement, des tampons de répétition et des moteurs d'exécution distribués. Les chercheurs peuvent combiner et ajuster les composants pour prototyper de nouveaux algorithmes, surveiller les métriques d'entraînement avec la journalisation intégrée et exploiter des pipelines distribués évolutifs pour de large experiments. Acme s'intègre avec TensorFlow et JAX, prend en charge des environnements personnalisés via OpenAI Gym interfaces, et inclut des utilitaires pour la sauvegarde, l'évaluation et la configuration des hyperparamètres.