Datum 24.06.2025

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat am 24. Juni 2025 im Rahmen des 11. Zukunftskongress für Staat und Verwaltung in Berlin den neuen Kriterienkatalog zum Einsatz von generativer Künstlicher Intelligenz (KI) in der Bundesverwaltung präsentiert. 

Aufgrund ihrer vielseitigen Einsatzmöglichkeiten in der Generierung, Modifikation und Analyse verschiedener Inhalte, gewinnen generative KI-Modelle seit Ende 2022 enorm an Bedeutung. Insbesondere KI-Modelle, die Texte ver- und bearbeiten sowie erstellen können, stellen eine große Chance für die Digitalisierung der öffentlichen Verwaltung dar. Denkbar ist der Einsatz beispielsweise im Bereich von Chatbots und der Textzusammenfassung, -analyse sowie -übersetzung. Immer häufiger werden Funktionen generativer KI-Modelle in eigene Anwendungen der Bundesverwaltung integriert. Gleichzeitig kann die IT-Sicherheit von generativen KI-Anwendungen, im Vergleich zu Standard IT-Komponenten, über neuartige Angriffsvektoren beeinträchtigt werden. Beispielsweise können sogenannte (Indirect) Prompt Injections die Ausgaben von Chatbots zielgerichtet manipulieren. Die Konsequenzen hieraus können die Verbreitung von Schadsoftware oder das Abfließen sensitiver Daten sein. 

Um diesen neuen Angriffsvektoren adäquat zu begegnen, hat das BSI einen Kriterienkatalog entwickelt. Dieser definiert Anforderungen, die bei der Integration extern bereitgestellter generativer KI-Modelle in eigene Anwendungen der Bundesverwaltung erfüllt werden sollten, um ein Mindestsicherheitsniveau zu erreichen. 

BSI-Vizepräsident Thomas Caspers sagte: "Die Einsatzszenarien für KI werden immer mannigfaltiger - die Verwaltung braucht jetzt Orientierung, um frühzeitig die Chancen von KI zu ergreifen und Anwendungen sicher einsetzen zu können. Das BSI bietet der Verwaltung mit dem Kriterienkatalog diese Orientierung und eine konkrete erste Hilfestellung, um generative KI sicher zu nutzen."

Der Katalog richtet sich an IT-Sicherheitsbeauftragte oder vergleichbare Stellen. Zusammen mit den "Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung" bietet die Publikation Behörden eine Orientierungshilfe. 

Das BSI plant perspektivisch einen Mindeststandard zum Einsatz von generativer KI in der Bundesverwaltung zu veröffentlichen. Daher hat das BSI bereits jetzt ein hohes Interesse an Rückmeldungen zum Kriterienkatalog. Diese können per E-Mail an ki-kontakt@bsi.bund.de gesendet werden.