Open-Source-Rahmenwerk basierend auf PyTorch, das die CommNet-Architektur für Multi-Agenten-Verstärkungslernen mit inter-agent Kommunikation implementiert und kollaborative Entscheidungsfindung ermöglicht.
CommNet ist eine forschungsorientierte Bibliothek, die die CommNet-Architektur implementiert und es mehreren Agenten erlaubt, Hidden-States bei jedem Zeitschritt zu teilen und Aktionen in kooperativen Umgebungen zu koordinieren. Es beinhaltet PyTorch-Modell-Definitionen, Trainings- und Evaluierungsskripte, Umgebungswrapper für OpenAI Gym und Utilities zur Anpassung der Kommunikationskanäle, Agentenzahlen und Netzwerktiefen. Forscher und Entwickler können CommNet nutzen, um Inter-Agent-Kommunikationsstrategien bei Navigations-, Verfolgungs- und Ressourcen-Sammelaufgaben zu prototypisieren und zu benchmarken.
CommNet Hauptfunktionen
PyTorch-Implementierung der CommNet-Architektur
Kommunikationsmodul für Hidden-States zwischen Agenten
Ein DRL-Pipeline, die leistungsschwache Agenten auf frühere Top-Performer zurücksetzt, um die Stabilität und Leistung des Multi-Agenten-Verstärkungslernens zu verbessern.
Was ist Selective Reincarnation for Multi-Agent Reinforcement Learning?
Selective Reincarnation führt einen dynamischen populationsbasierten Trainingsmechanismus ein, der speziell für Multi-Agenten-Verstärkungslernen entwickelt wurde. Die Leistung jedes Agenten wird regelmäßig anhand vordefinierter Schwellen bewertet. Wenn die Leistung eines Agenten unter die seiner Peers fällt, werden seine Gewichte auf die des aktuellen Top-Performers zurückgesetzt, wodurch er effektiv mit bewährtem Verhalten wiedergeboren wird. Dieser Ansatz erhält die Diversität, indem nur Leisungsabsteiger zurückgesetzt werden, und minimiert zerstörerische Reset-Vorgänge, während er die Exploration auf hoch belohnte Politiken lenkt. Durch die gezielte Vererbung von neuronalen Netzparametern reduziert der Pipeline die Varianz und beschleunigt die Konvergenz in kooperativen oder wettbewerbsorientierten Multi-Agenten-Umgebungen. Kompatibel mit jedem auf Policy-Gradienten basierenden MARL-Algorithmus integriert sich die Implementierung nahtlos in PyTorch-basierte Workflows und bietet konfigurierbare Hyperparameter für Evaluierungsfrequenz, Selektionskriterien und Reset-Strategien.
Selective Reincarnation for Multi-Agent Reinforcement Learning Hauptfunktionen
Selective Reincarnation for Multi-Agent Reinforcement Learning Vor- und Nachteile