Acme est un framework basé sur Python qui simplifie le développement et l'évaluation d'agents d'apprentissage par renforcement. Il propose une collection d'implémentations d'agents préconstruites (par exemple, DQN, PPO, SAC), des enveloppes d'environnement, des tampons de répétition et des moteurs d'exécution distribués. Les chercheurs peuvent combiner et ajuster les composants pour prototyper de nouveaux algorithmes, surveiller les métriques d'entraînement avec la journalisation intégrée et exploiter des pipelines distribués évolutifs pour de large experiments. Acme s'intègre avec TensorFlow et JAX, prend en charge des environnements personnalisés via OpenAI Gym interfaces, et inclut des utilitaires pour la sauvegarde, l'évaluation et la configuration des hyperparamètres.

HFO_DQN combine Python et TensorFlow pour fournir une chaîne complète pour entraîner des agents de football utilisant Deep Q-Networks. Les utilisateurs peuvent cloner le dépôt, installer les dépendances incluant le simulateur HFO et les bibliothèques Python, et configurer les paramètres d'entraînement dans des fichiers YAML. Le cadre implémente la mémoire d'expérience, les mises à jour du réseau cible, l'exploration ε-greedy, et le façonnage de récompenses spécifique au domaine offense de moitié terrain. Il comprend des scripts pour l'entraînement des agents, la journalisation des performances, des matchs d'évaluation, et la réalisation de graphiques. La structure modulaire du code permet d'intégrer des architectures neural personnalisées, des algorithmes RL alternatifs, et des stratégies de coordination multi-agents. Les sorties incluent des modèles entraînés, des métriques de performance, et des visualisations du comportement, facilitant la recherche en apprentissage par renforcement et systèmes multi-agents.

OpenSpiel est un cadre de recherche qui fournit une large gamme d'environnements (de jeux simples sur matrice à des jeux de plateau complexes comme Échecs, Go et Poker) et implémente divers algorithmes d'apprentissage par renforcement et de recherche (ex. itération de valeur, méthodes de gradient de politique, MCTS). Son noyau modulaire en C++ et ses liaisons Python permettent aux utilisateurs d'intégrer des algorithmes personnalisés, de définir de nouveaux jeux et de comparer les performances sur des benchmarks standards. Conçu pour l’extensibilité, il supporte des scénarios à un ou plusieurs agents, permettant d’étudier des stratégies coopératives et compétitives. Les chercheurs utilisent OpenSpiel pour prototyper rapidement des algorithmes, réaliser des expériences à grande échelle et partager du code reproductible.