Datum 16.01.2024

Das Bundesamt für Sicherheit in der Informationstechnik hat ein neues Whitepaper zum Thema ' Reinforcement Learning Security in a Nutshell' veröffentlicht, welches sich an Entwicklerinnen und Entwickler sowie Expertinnen und Experten im Bereich Künstliche Intelligenz (KI) richtet, die eine Sicherheitsanalyse entsprechender KI-Systeme durchführen wollen.

In dem Whitepaper wird der Stand der Forschung zum Thema Cybersicherheit beim Reinforcement Learning übersichtlich zusammengefasst. Hierzu werden bekannte Angriffsvektoren auf Reinforcement Learning Systeme vorgestellt, sowie mögliche Verteidigungsmaßnahmen. Die Publikation hat das Ziel hinsichtlich möglicher Gefährdungen zu sensibilisieren, damit diese z.B. im Rahmen der Entwicklung oder einer Risikoanalyse systematisch bewertet werden können.