DEf-MARL(멀티 에이전트 강화 학습을 위한 분산 실행 프레임워크)는 중앙 제어자가 없는 협력 에이전트의 수행과 학습을 위한 견고한 인프라를 제공합니다. 피어 투 피어 통신 프로토콜을 활용하여 정책과 관측 정보를 공유하며, 로컬 상호작용을 통해 조정을 수행합니다. 이 프레임워크는 PyTorch 및 TensorFlow와 원활하게 통합되며, 사용자 정의 환경 래퍼, 분산 롤아웃 수집 및 그래디언트 동기화 모듈을 제공합니다. 사용자들은 에이전트별 관측 공간, 보상 함수, 통신 토폴로지를 정의할 수 있습니다. DEf-MARL은 런타임 동안 에이전트의 동적 추가 및 제거를 지원하며, 노드 간 중요한 상태를 복제하여 장애 내성을 갖추고, 탐색과 활용의 균형을 위한 적응형 통신 스케줄링도 수행합니다. 환경 시뮬레이션을 병렬화하고 중앙 병목 현상을 줄여 훈련 속도를 높이며, 대규모 MARL 연구와 산업용 시뮬레이션에 적합합니다.

VMAS는 딥 강화 학습을 활용하여 다중 에이전트 시스템을 구축하고 훈련하는 종합 도구 키트입니다. 수백 개의 환경 인스턴스에 대한 GPU 기반 병렬 시뮬레이션을 지원하여 높은 처리량의 데이터 수집과 확장 가능한 훈련을 가능하게 합니다. 인기 있는 MARL 알고리즘인 PPO, MADDPG, QMIX, COMA의 구현과 빠른 프로토타이핑을 위한 모듈형 정책 및 환경 인터페이스를 포함합니다. 프레임워크는 분산 실행을 지원하는 중앙 집중식 훈련(CTDE)을 촉진하며, 사용자 정의 보상 조정, 관측 공간, 로깅 및 시각화를 위한 콜백 훅을 제공합니다. 모듈식 설계 덕분에 VMAS는 PyTorch 모델과 외부 환경과 원활하게 통합되어 협력형, 경쟁형, 혼합 목적의 작업에서 연구에 적합하며, 로보틱스, 교통 제어, 자원 배분, 게임 AI 시나리오에 이상적입니다.

AutoDRIVE Cooperative MARL은 자율주행 임무를 위한 협력형 다중 에이전트 강화학습(MARL) 정책을 훈련시키고 배포하기 위해 설계된 오픈소스 프레임워크입니다. 교차로, 고속도로 플레토닝, 병합과 같은 교통 시나리오를 모델링 하기 위해 현실감 있는 시뮬레이터와 통합됩니다. 이 프레임워크는 중앙집중식 훈련과 분산형 실행을 구현하여 차량들이 공유된 정책을 학습하여 교통 효율성과 안전성을 극대화할 수 있도록 합니다. 사용자들은 환경 파라미터를 설정하고, 기본 MARL 알고리즘을 선택하며, 훈련 진행 상황을 시각화하고, 에이전트 협조 성과를 벤치마킹할 수 있습니다.