Sicherheits-Check fürs Auto: BSI und ZF entwickeln Konzepte zur Prüfung von KI-Systemen fürs Autonome Fahren
Der zunehmende Einsatz von Künstlicher Intelligenz (KI) in Autos stellt Sicherheitsexperten vor komplexe Herausforderungen. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat in seinem Branchenlagebild Automotive zum Thema Cyber-Sicherheit in der Automobilbranche bereits ausführlich Stellung bezogen. Das BSI stellte fest, dass die Automobilbranche im Zuge der immer schneller stattfindenden Vernetzung und Automatisierung bei der Cybersicherheit vor großen Herausforderungen steht.
Im vergangenen Jahr haben Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF im Projekt AIMobilityAuditPrep Konzepte und Methoden zur Prüfung der IT-Sicherheit von KI-Systemen in Kraftfahrzeugen entwickelt. Es wurden 50 technisch relevante Anforderungen an KI-Systeme definiert, eine erweiterbare Testumgebung für KI-Systeme in Fahrzeugen entwickelt sowie Machbarkeit und praktische Umsetzbarkeit der Tests evaluiert.
Mit dem Folgeprojekt AIMobilityAudit geht es jetzt in die praktische Umsetzung von Sicherheits-Checks für KI beim automatisierten Fahren. Die Prüfkriterien und Handlungsempfehlungen sollen künftig in die Entwicklung von Sicherheitstests für Kfz einfließen. Bis September 2024 wird das AI Lab von ZF das Projekt in Zusammenarbeit mit dem BSI als Auftraggeber umsetzen. Als weiterer Projektpartner ist die TÜV Informationstechnik (TÜVIT) von TÜV Nord eingebunden.
Bei den möglichen Angriffsszenarien, mit denen KI-Systeme im Auto angegriffen werden können, nennt das BSI beispielsweise die Erkennung von Verkehrsschildern. Angreifer könnten zum Beispiel versuchen, ein Stoppschild als Tempo-100-Schild von der Auto-KI erkennen zu lassen - mit fatalen Folgen. Als Angriffsvektoren sind hierfür vor allem das sogenannte Poisoning, also die Manipulationen bestehender Daten, sowie gezielte Falscheingaben (adversariale Angriffe) denkbar.
Wie heikel alleine die Verkehrsschilderkennung im Detail ist, demonstriert ein weiteres Beispiel. Auto-KI und Sensorik müssen zu jeder Tages- und Nachtzeit, Jahreszeit, bei jedem Klima, Witterung, Straßenbelag und Umgebung fehlerfrei funktionieren. Faktoren wie Lichteinfall, Reflexionen, teilweise Verdeckung der Sicht oder beschädigte sowie verschmutzte Verkehrsschilder und Sensoren sind zu berücksichtigen. Angreifer könnten zum Beispiel versuchen, Manipulationen durch Projektion von Verkehrsschildern auf Hauswände oder elektronischen Anzeigen und Werbetafeln durchzuführen. Wie sich in Versuchen gezeigt hat, ergeben solche projizierten Verkehrsschilder bei Nutzung optischer Sensoren sehr ähnliche Ergebnisse wie tatsächliche Verkehrsschilder aus Metall.
Aufbauend auf den Ergebnissen des Vorprojekts sollen im nun gestarteten Projekt AIMobilityAudit die Erprobung und Weiterentwicklung von Anforderungen, Methoden und Werkzeugen gezielt an zwei Use Cases durchgeführt werden. Auf Basis der gewonnenen Erkenntnisse soll dann eine modulare technische Richtlinie erstellt werden. Die Arbeiten an der technischen Richtlinie sollen im kommenden Jahr aufgenommen werden. Die Richtlinie könne dann beispielsweise als Grundlage für eine internationale Standardisierung respektive Abstimmung, unter anderem auf Ebene des UNECE World Forum for Harmonization of Vehicle Regulations, genutzt werden, so das BSI.
