Robust Reinforcement Learning für Autonome Systeme

Überblick

Die Forschungsgruppe Computer Vision for Intelligent Mobility Systems (CVIMS) an AImotion Bavaria untersucht, wie Reinforcement Learning für autonome Mobilität robust und vertrauenswürdig gestaltet werden kann. Aufbauend auf unserer Expertise in Computer Vision und sensorbasierter Wahrnehmung entwickeln wir Lernagenten, die unter Unsicherheit, Sensorausfällen/-rauschen und adversariellen Bedingungen stabil bleiben. Durch die Integration von Robustheit in allen Phasen – von der Wahrnehmung bis zur Entscheidungsfindung – wollen wir KI-Systeme befähigen, in komplexen realen Verkehrsszenarien sicher und zuverlässig zu handeln.

Ziele

Untersuchung der Auswirkungen adversarieller Angriffe auf Deep-Reinforcement-Learning-Modelle für autonome Systeme. Entwicklung von Ensemble-Verteidigungsstrategien zur Erhöhung der Resilienz gegenüber unterschiedlichen Angriffstypen. Gestaltung von Robustheit als integriertes Konzept, das Sicherheits- (Safety) und Schutzaspekte (Security) von KI-Modellen vereint. Beitrag zu einer sicheren und vertrauenswürdigen Nutzung von Reinforcement-Learning-Methoden in realen Fahrszenarien.

Methodik

Adversarial Analysis – systematische Bewertung, wie Angriffe Deep-Reinforcement-Learning-Modelle beeinflussen.
Defense Mechanisms – Entwurf und Erprobung von Ensemble-Ansätzen, die mehrere Gegenmaßnahmen kombinieren.
Robustness Evaluation – Benchmarking der Modellresilienz in simulierten und kontrolliert realitätsnahen Umgebungen zur Sicherstellung von Sicherheit und Zuverlässigkeit.

Ausgewählte Forschungsergebnisse

Unsere Forschung im Bereich des robusten Reinforcement Learning untersucht, wie lernbasierte Agenten unter Unsicherheit und adversarialen Einflüssen reagieren und wie sich diese Verwundbarkeiten gezielt reduzieren lassen – ohne Effizienzverluste oder zusätzliche Trainingsaufwände. Die folgenden Schwerpunkte fassen zentrale wissenschaftliche Erkenntnisse aus unseren aktuellen Arbeiten zusammen.

Verbesserung der Robustheit durch Ensemble-Verteidigungsmechanismen:
In Zusammenarbeit mit Adithya Mohan, Dominik Rößle, Daniel Cremers und Torsten Schön entwickeln wir einen Ansatz, der mehrere leichte Verteidigungsmechanismen zu einem Ensemble Defense kombiniert.
Der Ansatz bündelt drei komplementäre Vorverarbeitungstechniken – Zufallsrauschen, Autoencoder-basierte Rekonstruktion und PCA-Filterung – zu einer einheitlichen Pipeline, die ausschließlich zur Inferenzzeit angewendet wird.
Experimente in Highway- und Merge-Szenarien der Highway-env-Simulation zeigen, dass das Ensemble deutliche Verbesserungen erzielt: Die Wiederherstellung der Belohnung (reward recovery) steigt erheblich und gleichzeitig sinkt die Kollisionsrate, während das zugrunde liegende Policy-Netzwerk unverändert bleibt.
Dies belegt, dass modulare, reine Inferenz-Verteidigungen eine wirksame Möglichkeit bieten, RL-Agenten gegenüber Störungen oder adversarial manipulierten Sensordaten widerstandsfähiger zu machen.

Quantitative Bewertung der Robustheit über verschiedene Fahrszenarien hinweg:
Unsere Untersuchungen zeigen, dass adversariale Einflüsse je nach Szenariostruktur unterschiedliche Fehlverhalten hervorrufen.
In Highway-Szenarien führen höhere Geschwindigkeiten und dichte Interaktionen zu stärkeren Performancerückgängen und größerer Varianz. Merge-Szenarien verdeutlichen hingegen, wie bereits einfachere Entscheidungsräume anfällig für kritische Fehlentscheidungen unter Störung bleiben.
Durch systematische Benchmarks in Szenarien unterschiedlicher Komplexität entsteht ein klareres Bild darüber, wie gut Verteidigungsmechanismen skalieren und in welchen Bereichen Anpassungen notwendig sind, bevor ein realer Einsatz möglich ist.

Auf dem Weg zu vertrauenswürdigen RL-Systemen für die intelligente Mobilität:
Zusammen bilden diese Ergebnisse eine methodische Grundlage für Reinforcement-Learning-Systeme, die auch unter Unsicherheit und Störungen zuverlässig funktionieren. Damit leisten sie einen Beitrag zur Entwicklung vertrauenswürdiger, interpretierbarer und sicherer KI-Agenten im Kontext zukünftiger autonomer Mobilitätsanwendungen.

Förderung

Die Forschung wird durch die Hightech Agenda Bayern gefördert.

Impact

Diese Forschung treibt die Entwicklung resilienter und transparenter KI-Modelle für das autonome Fahren voran. Mit dem Fokus auf Robustheit im Reinforcement Learning leistet CVIMS einen Beitrag zu sichererem, besser vorhersagbarem Verhalten intelligenter Agenten – eine zentrale Voraussetzung für öffentliches Vertrauen und die breite Einführung autonomer Mobilität in Ingolstadt und darüber hinaus.