BSI benennt Kriterien für vertrauenswürdige KI-Systeme im Finanzsektor
Datum 03.06.2025

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat erstmalig einen Prüfkatalog für Systeme der Künstlichen Intelligenz im Finanzbereich ( Test Criteria Catalogue for AI Systems in Finance) bereitgestellt. Ziel des KI-Kriterienkatalogs ist es, Sicherheit, Transparenz, Nachvollziehbarkeit und Fairness von KI-Systemen systematisch bewerten zu können.
Der Katalog wurde im Rahmen des Projekts AICRIV entwickelt und umfasst knapp 100 praxisnahe Testkriterien. Diese decken unter anderem die Bereiche IT-Sicherheit, Datenqualität, Modellrobustheit, Governance, menschliche Aufsicht und Performance ab. Ergänzt wird der Katalog durch Empfehlungen zu geeigneten Prüfmethoden und -werkzeugen. Die Anforderungen orientieren sich an bestehenden Standards und Regularien und unterstützen zugleich die Umsetzung der Vorgaben der KI-Verordnung der EU.
Der Katalog richtet sich insbesondere an Entwickler, Anbieter, Betreiber und Prüforganisationen von KI-Systemen in der Finanzwirtschaft – kann aber auch für andere Sektoren als Orientierung dienen. Da das Dokument als Unterstützung für die Umsetzung der KI-Verordnung fungieren soll, und sich der Interessentenkreis auf Finanz- und Versicherungsinstitute in der gesamten EU erstreckt, ist das Dokument in englischer Sprache verfasst.