Datum 21.01.2025

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat seine Publikation zu Chancen und Risiken generativer KI-Modelle in deutscher und englischer Sprache aktualisiert. Das Dokument adressiert primär Unternehmen und Behörden, die generative KI-Modelle und darauf basierende Anwendungen, beispielsweise Chatbots mit Möglichkeiten zur Text- und Bildgenerierung, in ihre Arbeitsabläufe integrieren möchten. Es kann als Grundlage für eine Risikoanalyse im Rahmen des Informationssicherheitsmanagements genutzt werden, bei der Risiken identifiziert, bewertet und entsprechende Gegenmaßnahmen erarbeitet werden.

Im Zuge der Aktualisierung wurde das Dokument um Betrachtungen zu generativen KI-Modellen, die Bilder und Videos erzeugen können, erweitert. Diese umfassen sowohl eine Beleuchtung der Chancen im Kontext von Bild- und Videogeneratoren, als auch eine Untersuchung der Risiken, die bereits im Rahmen der ordnungsgemäßen Nutzung auftreten, sich aus einer missbräuchlichen Nutzung ergeben oder aus Angriffen resultieren können. Auch Gegenmaßnahmen, die das Handeln unterschiedlicher Akteure zu verschiedenen Zeitpunkten erfordern können, sind Teil der Betrachtungen. Daneben wurden die Informationen zu großen KI-Sprachmodellen auf den aktuellen Stand gebracht.