Datum 02.05.2024

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat seine Publikation zu Chancen und Risiken großer KI-Sprachmodelle in deutscher und englischer Sprache aktualisiert. Das 36-seitige Dokument adressiert primär Unternehmen und Behörden, die LLMs in ihre Arbeitsabläufe integrieren möchten und kann als Grundlage für eine Risikoanalyse genutzt werden.

Im Zuge der Aktualisierung hat das Dokument eine Umstrukturierung erfahren. Die Risiken wurden unterteilt in Risiken aufgrund ordnungsgemäßer Nutzung, Risiken aufgrund missbräuchlicher Nutzung und Risiken, die aus Angriffen auf das LLM resultieren. Gleichzeitig wurden weitere Gegenmaßnahmen identifiziert und mit den entsprechenden Risiken tabellarisch verknüpft. Durch die Umstrukturierung wurde die Möglichkeit geschaffen, zukünftig neben texterzeugenden KI-Modellen auch solche in die Publikation zu integrieren, die andere Medien verarbeiten und ausgeben. Das können zum Beispiel Videos, Bilder oder Audio-Dateien sein.