Die Sicherheit von Systemen basierend auf Künstlicher Intelligenz (KI) ist ein aktiver und schnelllebiger Forschungsbereich. Hinsichtlich der systematischen Absicherung und Prüfung von KI-Systemen bestehen derzeit noch viele offene Fragen und ungelöste Probleme. Im Rahmen des Projektes "Sicherheit von KI-Systemen: Grundlagen" hat das BSI mehrere Studien zu diesem Themenkomplex in Auftrag gegeben.

Im Projekt Machine Learning in the Context of Static Application Security Testing (ML-SAST) untersucht das BSI, wie Verfahren des maschinellen Lernens genutzt werden können, um Methoden der statischen Codeanalyse zu verbessern.

Projekt 431 - IP Fragmentation and Measures against DNS Cache Poisoning (Frag-DNS)

Zweite Internet-Backbone Studie
Projekt 415 Los 1 - Infrastruktur, Ausfallszenarien und Konsolidierung

Diese Studie beschäftigt sich mit der Frage, welche Sicherheitsrisiken sich aus der durch die O-RAN Alliance spezifizierten O-RAN-Umsetzung eines 3GPP-RANs ergeben.

In der Studie wird untersucht, wie die Virtualisierung die Entropie der Rauschquellen, die die Zufallszahlengeneratoren speisen, beeinflusst, und was getan werden kann, um die Versorgung der virtuellen Maschinen (VM) mit genügend Zufall sicherzustellen.