Mava는 다중 에이전트 강화 학습 시스템 개발, 훈련, 평가를 위한 JAX 기반 오픈소스 라이브러리입니다. MAPPO와 MADDPG 같은 협력 및 경쟁 알고리즘의 사전 구현과 단일 노드 및 분산 워크플로우를 지원하는 구성 가능한 훈련 루프를 제공합니다. 연구자는 PettingZoo에서 환경을 가져오거나 커스텀 환경을 정의할 수 있으며, 정책 최적화, 재생 버퍼 관리, 메트릭 로깅을 위한 Mava의 모듈형 구성요소를 사용할 수 있습니다. 프레임워크의 유연한 구조는 새로운 알고리즘, 사용자 정의 관측 공간, 보상 구조의 원활한 통합을 가능하게 합니다. JAX의 자동 벡터화 및 하드웨어 가속 기능을 활용하여 Mava는 효율적인 대규모 실험과 다양한 다중 에이전트 시나리오에서의 재현 가능한 벤치마킹을 보장합니다.

PettingZoo 게임을 위한 강화 학습 에이전트는 Python 기반 코드 라이브러리로, PettingZoo 환경에서 사용할 수 있는 다중 에이전트 RL용 DQN, PPO 및 A2C 알고리즘을 즉시 제공하며 표준화된 훈련 및 평가 스크립트, 조정 가능한 하이퍼파라미터, TensorBoard 로깅, 경쟁 및 협력 게임 지원 등을 갖추고 있습니다. 연구원과 개발자는 이 저장소를 클론하여 환경 및 알고리즘 파라미터를 조정하고, 훈련 세션을 실행하며, 메트릭을 시각화하여 빠르게 실험하고 비교할 수 있습니다.

RL Shooter는 ViZDoom과 OpenAI Gym API를 통합하는 파이썬 기반 프레임워크로, FPS 게임을 위한 유연한 강화 학습 환경을 만듭니다. 사용자는 사용자 정의 시나리오, 맵, 보상 구조를 정의하여 탐색, 타겟 감지, 사격 작업에 사용할 수 있습니다. 조정 가능한 관찰 프레임, 행동 공간, 로깅 기능을 갖추고 있어 Stable Baselines 및 RLlib과 같은 인기 딥 RL 라이브러리를 지원하며, 성능 추적과 실험 재현성을 보장합니다.

MADDPG-Keras는 Keras에 구현된 MADDPG 알고리즘을 통해 다중 에이전트 강화 학습 연구를 위한 완전한 프레임워크를 제공합니다. 연속 행동 공간, 여러 에이전트, 표준 OpenAI Gym 환경을 지원하며, 연구자와 개발자는 신경망 구조, 학습 하이퍼파라미터, 보상 함수를 구성할 수 있으며, 내장 로깅과 모델 체크포인트 기능을 이용하여 실험을 빠르게 수행하고 벤치마킹할 수 있습니다.

MAGAIL은 전문가 시범에서 협력 행동을 학습할 수 있도록 하는 다중 에이전트 확장을 구현한 것으로, 파이썬 기반으로 PyTorch(또는 TensorFlow 버전)를 지원하며, 정책(생성기)과 판별자 모듈이 적대적 루프에서 훈련됩니다. 에이전트는 OpenAI Multi-Agent Particle Environment 또는 PettingZoo와 같은 환경에서 궤적을 생성하며, 판별자는 이를 전문 데이터와 일치 여부를 평가하는 데 사용합니다. 반복적인 업데이트를 통해 정책 네트워크는 명시적 보상 함수 없이 전문가와 유사한 전략으로 수렴합니다. MAGAIL의 모듈형 설계는 네트워크 구조, 전문가 데이터 입력, 환경 통합, 학습 하이퍼파라미터를 사용자 정의할 수 있도록 합니다. 또한, 내장된 로깅과 TensorBoard 시각화를 통해 멀티에이전트 학습의 진행 상황과 성능 지표를 모니터링하고 분석할 수 있습니다.