DEf-MARL（分散型実行フレームワーク）は、中央コントローラーなしで協調エージェントを実行・訓練する堅牢なインフラを提供します。ピアツーピア通信プロトコルを活用してエージェント間でポリシーや観測情報を共有し、ローカルなインタラクションを通じて協調を実現します。このフレームワークは、PyTorchやTensorFlowなどの一般的なRLツールキットとシームレスに連携し、カスタマイズ可能な環境ラッパー、分散ロールアウト収集、および勾配同期モジュールを提供します。ユーザーはエージェント固有の観測空間、報酬関数、および通信トポロジーを定義可能です。DEf-MARLは動的なエージェントの追加・削除をサポートし、重要な状態をノード間で複製することでフォールトトレランスを確保し、探索と利用のバランスをとるための適応的な通信スケジューリングも行います。環境のシミュレーションの並列化と中央のボトルネック削減によりトレーニングを加速し、大規模なMARL研究や産業シミュレーションに適しています。

VMASは、深層強化学習を用いたマルチエージェントシステムの構築と訓練のための総合ツールキットです。GPUを用いた複数の環境インスタンスの並列シミュレーションをサポートし、高スループットのデータ収集とスケーラブルな訓練を可能にします。PPO、MADDPG、QMIX、COMAなどの人気MARLアルゴリズムの実装と、迅速なプロトタイピングのためのモジュール式のポリシーと環境インターフェースを含みます。フレームワークは、分散実行を伴う集中訓練（CTDE）を促進し、カスタマイズ可能な報酬調整、観測空間、ログ記録やビジュアライゼーションのためのコールバックフックを提供します。そのモジュール設計により、PyTorchモデルや外部環境とのシームレスな統合を実現し、ロボット工学、交通制御、資源配分、ゲームAIシナリオなどにおける協力、競争、混合動機のタスクの研究に最適です。

AutoDRIVE Cooperative MARLは、自律走行タスクのために協調型マルチエージェント強化学習（MARL）ポリシーを訓練・展開するためのオープンソースフレームワークです。交差点、高速道路のプラトゥーニング、合流シナリオなどの交通シナリオをモデル化するために、リアルなシミュレータと連携します。このフレームワークは、中心型訓練と分散型実行を実装し、交通の効率と安全性を最大化する共有ポリシーを学習することを可能にします。ユーザーは環境パラメータを設定し、既存のMARLアルゴリズムを選択し、訓練の進行状況を可視化し、エージェントの協調性能をベンチマークできます。