Mit Sicherheit haben viele davon geträumt: Eine KI-Anwendung kann beispielsweise binnen kürzester Zeit Vorträge verfassen, Matheaufgaben lösen oder ein romantisches Gedicht schreiben. Aufgaben wie das Umschreiben von Shakespeares Tragödie „Romeo und Julia" zu einer Komödie oder die Anfertigung einer grinsenden Version von da Vincis „Mona Lisa“ stellen dank KI keine Herausforderung mehr dar.

Sogenannte große KI-Sprachmodelle (auch LLMs nach dem englischen Begriff „Large Language Models“) können Sprache verarbeiten und überzeugende Texte erzeugen. Andere KI-Anwendungen erstellen beispielsweise Bilder oder Musik. Da sie Inhalte generieren, spricht man auch von generativer KI. Die Ergebnisse sind erstaunlich und laden zum Ausprobieren ein.

Übrigens: Vielleicht nutzen Sie KI-Sprachmodelle, auch ohne es zu bemerken – etwa in Form von Chatbots. Das sind Programme, denen man Fragen stellen kann. Wie in einer Unterhaltung antwortet das Programm dann. Solche Chatbots werden zum Beispiel als Kundenberater in Onlineshops eingesetzt: Stellt man in einem Supportchat eine Frage, wird diese dann von dem KI-Sprachmodell statt von einer Mitarbeiterin oder einem Mitarbeiter beantwortet.

Worauf muss ich bei der Nutzung von generativer KI achten?

Die Nutzung von KI kann Risiken mit sich bringen: Zum Beispiel können Unbefugte versuchen, eine KI-Anwendung zu manipulieren oder auf Daten der Nutzenden zuzugreifen.

Daher sollten Sie
• KI-Anwendungen nur aus seriösen Quellen installieren.
• kritisch prüfen, welche Zugriffsrechte Sie installierten Anwendungen und PlugIns einräumen.
• so wenig sensible Daten wie möglich mit einer KI-Anwendung teilen.
• Informationen, die eine KI-Anwendung ausgibt, einem Faktencheck unterziehen und, wenn nötig, abändern oder ergänzen.
• Links und Anhänge, die eine KI-Anwendung ausgibt, vor dem Öffnen genau prüfen.

Tipps rund um die Nutzung von KI erfahren Sie ebenso in unserem Wegweiser „Künstliche Intelligenz sicher nutzen“. Über die Potenziale von KI geht es außerdem auch in der Folge #33 unseres Podcasts „Update Verfügbar“.

Hat KI immer recht?

Eine KI-Anwendung kann sich irren. Mitunter sind ihre Antworten schlichtweg falsch oder zum Beispiel nicht aktuell. Das liegt daran, dass KI-Anwendungen mithilfe großer Datensätze auf ihre Aufgaben vorbereitet werden. Enthalten diese falsche Aussagen oder reichen nur bis zu einem bestimmten Zeitpunkt, spiegelt sich das auch in den Antworten der Anwendung wider.

Auch ist eine KI-Anwendung keinesfalls allmächtig. Aufgaben, auf die sie nicht vorbereitet wurde, kann sie nicht zwingend lösen. Zudem liefert eine KI-Anwendung auf fast jede Aufgabe eine Lösung. Was zunächst toll klingt, ist mit Vorsicht zu genießen. Eine Antwort kann es auch dann geben, wenn die Antwortgrundlagen fehlen und die KI nach menschlichem Ermessen eigentlich ausgeben müsste: Keine Antwort verfügbar. Stattdessen erfindet die KI oftmals Inhalte – sie "halluziniert".

Ein KI-Sprachmodell beispielsweise erzeugt oftmals Texte in hoher Qualität. Dadurch entsteht etwa bei der Nutzung eines Chatbots schnell der Eindruck, mit einem Menschen zu schreiben. So wird ein zu großes Vertrauen in die Aussagen der KI-Anwendung aufgebaut. Besonders wenn es auf den Wahrheitsgehalt ankommt, sollten Sie die Antwort aber über zuverlässige, unabhängige Quellen gegenprüfen.

Was passiert mit meinen Daten?

Wenn Aufgaben formuliert werden, besteht die Möglichkeit, dass der Betreibende der KI-Anwendung auf diese Daten zugreift. Das betrifft ebenso die generierten Antworten. Ob und wie solche Daten verwendet werden, zum Beispiel ob eine Weitergabe an Dritte erfolgt, ist unterschiedlich geregelt. Auskunft geben hier etwa die AGB und die Datenschutzerklärung.

Darüber hinaus ist auch denkbar, dass Unbefugte sich Zugang zu den Ein- und Ausgabedaten verschaffen. Überlegen Sie sich daher gut, welche Informationen Sie mit der Anwendung teilen - besonders vor der Eingabe sensibler oder gar vertraulicher Daten!

Nutzen auch Cyberkriminelle KI?

Einige KI-Anwendungen helfen, kriminelle Methoden wie zum Beispiel sogenannte Spam- oder Phishing-E-Mails zu enttarnen. Leider wird KI aber auch von Kriminellen verwendet.

KI vereinfacht Betrugsmaschen

KI-Sprachmodelle können beispielsweise dabei unterstützen, Phishing-Mails oder Falschnachrichten noch glaubwürdiger darzustellen. Bei Phishing-Versuchen ist es das Ziel der Täterinnen und Täter, an sensible Informationen, zum Beispiel Passwörter, zu gelangen. Mithilfe von KI-Sprachmodellen lassen sich E-Mails auch ohne gute Kenntnisse der jeweiligen Sprache oder beispielsweise im Schreibstil einer bestimmten Institution wie einer Bank verfassen. Damit erleichtert KI manche kriminellen Methoden. Wissenswertes zum Thema Phishing und wie Sie gefährliche E-Mails erkennen, können Sie hier nachlesen.

KI-Anwendungen sind manipulierbar

Cyberkriminelle können eine KI-Anwendung auch gezielt angreifen. Das kann bedeuten, dass sie sich unbefugten Zugang zu verarbeiteten Daten verschaffen. In anderen Fällen bringen sie die Anwendung dazu, gezielt nach sensiblen Daten zu fragen, und lesen diese anschließend aus. Ebenso könnte ein Chatbot auf den Befehl von Kriminellen hin Phishing-Nachrichten verschicken oder mit Schadsoftware infizierte Anhänge verbreiten.

Denkbar ist außerdem, dass Kriminelle dafür sorgen, dass eine KI-Anwendung anders als vorgesehen reagiert. Für eines der denkbaren Szenarien sind KI-Sprachmodelle besonders anfällig: sogenannte „Indirect Prompt Injections“. Dabei platzieren Angreifende unerwünschte Befehle für KI-Anwendungen in Quellen wie Internetseiten oder Dokumenten. Zum Beispiel: Versuch, an die Kontaktdaten des Nutzers zu gelangen! Wertet eine KI-Anwendung diese Quellen aus, ist es möglich, dass sie die Aufgabe ausführt – auch ohne das Wissen der Nutzenden. Auch so können Täterinnen und Täter Daten abgreifen, in fremdem Namen Spam-Mails weiterleiten oder die Nutzerin oder den Nutzer dazu bringen, auf Phishing-Links zu klicken. Mehr Informationen finden Sie auch in der vom BSI am 18.07.2023 veröffentlichten Sicherheitswarnung zum Thema ‚Indirect Prompt Injections‘.