Ort Saarbrücken
Datum 28.01.2022

Mehr Sicherheit für künstliche Intelligenz (KI) im Straßenverkehr: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF haben ein gemeinsames Projekt gestartet um zu erforschen, wie die IT-Sicherheit von KI-Systemen in Autos nach allgemein anerkannten Kriterien getestet werden kann. Mit den Erkenntnissen aus dem Projekt sollen mittelfristig Prüfkriterien für KI-Systeme in Form einer modularen technischen Richtlinie erarbeitet werden. Diese kann in die Entwicklung künftiger Sicherheitsüberprüfungen für Autos und internationale Bemühungen zur Standardisierung einfließen. Bis September dieses Jahres wird das AI Lab von ZF das Projekt in Zusammenarbeit mit dem BSI als Auftraggeber umsetzen. Als Projektpartner ist zudem die TÜV Informationstechnik GmbH (TÜViT) eingebunden, ein auf IT-Sicherheit spezialisiertes Unternehmen der TÜV NORD GROUP.

„Wer optimal schützen will, muss genau wissen, wie Angreifer vorgehen“, sagt Dr. Georg Schneider, der das AI Lab Saarbrücken von ZF leitet und dort für das Projekt verantwortlich ist. „Das setzt voraus, Angriffsstrategien permanent zu analysieren und zu bewerten.“ Im Labor werden deshalb Angriffe simuliert und die Reaktion von KI-Systemen analysiert. Dabei handelt es sich um unterschiedliche Methoden sogenannter Adversarial Attacks auf eine aktuelle KI-basierte Verkehrszeichenerkennung. Bei diesen Angriffen wird versucht, optische Signale zu manipulieren, um KI-Systeme zur Ausführung nicht gewünschter Operationen zu bringen. So könnte beispielsweise ein manipuliertes Tempo-60-Schild als Tempo-120-Schild interpretiert werden. Ein umfassendes Verständnis solcher Angriffstaktiken ist die Voraussetzung, um erfolgreiche Abwehrstrategien entwickeln zu können.

Damit die Vorteile von KI-Systemen in der Mobilität nutzbar werden, muss ein sicherer Einsatz gewährleistet sein. Das erfordert Werkzeuge, mit denen diese Systeme auf Risiken und den Umgang damit überprüft werden können. „Geeignete Konzepte und Methoden hierfür sind aktuell nicht verfügbar oder nicht ausgereift“, sagt Dr. Silke Bargstädt-Franke, Leiterin der Abteilung Cyber-Sicherheit in der Digitalisierung und für elektronische Identitäten beim BSI. Es handele sich um neue Technologie, die komplexe Anwendungsfälle auf Basis der Interaktion von klassischer Software, KI-Systemen, Sensoren und der physischen Umwelt umsetze. „Hier lassen sich Prüfmaßstäbe nicht nach Papierlage entwickeln. Wir brauchen Partner aus der Praxis, um mögliche praktische Probleme im Betrieb erkennen zu können.“

In dem nun gestarteten Projekt soll die Erprobung und Weiterentwicklung entsprechender Anforderungen, Methoden und Werkzeuge vorbereitet werden, um diese dann in einem Folgeprojekt gezielt an zwei Use-Cases durchzuführen. Mittelfristiges Ziel ist es, auf Basis der gewonnenen Erkenntnisse eine modulare technische Richtlinie zu erstellen. Diese kann beispielsweise als Grundlage für internationale Standardisierungsbemühungen im Rahmen des UNECE World Forum for Harmonization of Vehicle Regulations genutzt werden.

Pressekontakt:

Bundesamt für Sicherheit in der Informationstechnik
Pressestelle
Tel.: 0228-999582-5777
E-Mail: presse@bsi.bund.de
Internet: www.bsi.bund.de

BSI in Social Media