Generative KI-Modelle stellen ein Teilgebiet der universell einsetzbaren KI-Modelle (engl.: general purpose AI) dar. Sie werden mit großen Datenmengen trainiert und erlernen dabei Muster aus vorhandenen Daten. Daraus resultierend können sie neue Inhalte wie Texte, Bilder, Musik und Videos erzeugen, die ebenfalls diesen Mustern folgen. Aufgrund ihres hohen Generalisierungsgrads können derartige Modelle in einer Vielzahl von Anwendungsfällen genutzt werden, die traditionell Kreativität und menschliches Verständnis erfordern. Dazu gehören mitunter Anwendungen, in denen Texte übersetzt oder klassifiziert, große Datenmengen aufbereitet oder visuelle Darstellungen erzeugt oder verbessert werden sollen.

Neben Chancen birgt die Verwendung von generativen KI-Modellen zugleich neuartige IT-Sicherheitsrisiken und kann bekannte IT-Sicherheitsbedrohungen verstärken. Die Publikation "Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden" zeigt diese in aktueller Fassung übersichtlich auf. Neben Großen KI-Sprachmodellen (engl.: Large Language Models - LLMs) werden dabei auch Bild- und Videogeneratoren betrachtet. Zudem werden mögliche Gegenmaßnahmen aufgezeigt, um den Risiken zu begegnen. Die Publikation richtet sich an Unternehmen und Behörden, die über die Integration von generativen KI-Modellen in ihre Arbeitsabläufe nachdenken. Sie soll ein grundlegendes Sicherheitsbewusstsein für diese Modelle schaffen und ihren sicheren Einsatz fördern; dabei kann sie als Grundlage für eine systematische Risikoanalyse dienen. Mit der angestrebten Erschließung weiterer Teilgebiete in der generativen KI (z.B. Audiogeneratoren) wird die Publikation kontinuierlich erweitert.