Generative KI-Modelle sind in der Lage, eine Vielzahl an Aufgaben durchzuführen, die traditionell Kreativität und menschliches Verständnis erfordern. Sie erlernen während des Trainings Muster aus vorhandenen Daten und können in der Folge neue Inhalte wie Texte, Bilder, Musik und Videos erzeugen, die ebenfalls diesen Mustern folgen. Große Sprachmodelle (engl. Large Language Model/LLM) stellen ein Teilgebiet der generativen KI dar und können in einer Vielzahl von Anwendungsfällen genutzt werden. Dazu gehören Anwendungen, in denen Text verarbeitet und darauf basierend Textausgaben erzeugt werden sollen, z.B. im Rahmen der Übersetzung, Generierung und Klassifikation von Texten. Neben Chancen birgt die Verwendung von LLMs neuartige IT-Sicherheitsrisiken und kann bekannte IT-Sicherheitsbedrohungen verstärken.

Die Publikation stellt in der aktuellen Fassung eine Übersicht dieser Chancen und Risiken von LLMs als Teilmenge der generativen KI dar. Sie zeigt mögliche Gegenmaßnahmen auf, um den Risiken zu begegnen. Die Publikation richtet sich an Unternehmen und Behörden, die über die Integration von LLMs in ihren Arbeitsabläufen nachdenken, um ein grundlegendes Sicherheitsbewusstsein für diese Modelle zu schaffen und ihren sicheren Einsatz zu fördern; dabei kann sie als Grundlage für eine systematische Risikoanalyse dienen. Mit der angestrebten Erschließung weiterer Teilgebiete in der generativen KI, wie Bild- oder Videogeneratoren, wird die Publikation kontinuierlich erweitert.