Auf den vorangegangenen Seiten haben wir Ihnen Tipps gegeben, wie Sie Ihre Social-Media-Konten absichern können, was Sie bei gehackten Accounts und Identitätsdiebstahl tun können und wie Sie mit Cyberstalking und Cybermobbing umgehen können.

Ein weiteres, potentiell schädliches Phänomen, das Ihnen im Internet - insbesondere in den Sozialen Medien - begegnen kann, sind falsche oder irreführende Informationen. Sofern diese gezielt verbreitet werden, um Menschen bewusst zu täuschen und zu manipulieren, handelt es sich um Desinformation. Davon unterschieden werden müssen falsche oder irreführende Informationen, die ohne Täuschungsabsicht, also etwa durch mangelnde Recherche, falsche Interpretation von Fakten oder durch Missverständnisse entstehen bzw. verbreitet werden. Dann handelt es sich lediglich um Fehlinformationen und nicht um eine Desinformation. Auch „Zeitungsenten“, humoristische Aussagen oder Satire können Fehlinformation enthalten und daher falsch verstanden werden.

Das Phänomen des Clickbaitings (engl. Klickköder) arbeitet zum Teil ebenfalls mit falschen oder irreführenden Informationen, um eine emotionale Reaktion hervorzurufen und Menschen zum Anklicken einer Überschrift oder eines Artikels zu verleiten.

Der wesentliche Unterschied zwischen Fehlinformation und Desinformation besteht in der dahintersteckenden Täuschungsabsicht.

Desinformation wird oft in koordinierten Kampagnen als Mittel illegitimer Einflussnahme durch unterschiedliche Akteure in verschiedener Form (Texte, Bilder, Videos etc.) verbreitet. Sie wird eingesetzt, um existierende Konflikte und Debatten zu verschärfen, Wut und Emotionen in der Bevölkerung zu schüren, den gesellschaftlichen Zusammenhalt zu schwächen und das Vertrauen der Bürgerinnen und Bürger in die demokratischen und rechtsstaatlichen Institutionen zu untergraben. Desinformation ist insbesondere auch ein Mittel der illegitimen Einflussnahme durch fremde Staaten.

Beispiele für Desinformation

Im Zuge der Corona-Pandemie wurden z.B. von verschiedenen fremden staatlichen und nicht-staatlichen Akteuren im In- und Ausland falsche und irreführende Information über die verschiedenen Impfstoffe verbreitet, die in Deutschland, den USA und Großbritannien entwickelt wurden.

Auch im Zusammenhang mit dem russischen Angriffskrieg gegen die Ukraine wird von der russischen Regierung kontinuierlich Desinformation verbreitet. Einige Beispielnarrative hat das Bundesministerium des Innern und für Heimat auf seiner Webseite zusammengetragen und durch Fakten richtig gestellt.

Auf der vom Europäischen Auswärtigen Dienst betriebenen Website „EU vs. DiSiNFO“ (https://euvsdisinfo.eu/) wird seit 2015 zu Desinformation der Russischen Föderation berichtet und diese richtiggestellt.

Desinformation wird unter anderem auch im Kontext von demokratischen Wahlen verbreitet, um Bürgerinnen und Bürger in ihrem Wahlverhalten zu beeinflussen, die Legitimität und den Sinn demokratischer Wahlprozesse infrage zu stellen und das Vertrauen in Staat, Politik, Medien und die Demokratie zu untergraben. Sie stellt daher eine ernstzunehmende Bedrohung für Freiheit und Demokratie dar.

Verbreitung von Desinformation durch Social Bots und Deepfakes 

In den Sozialen Medien kann sich Desinformation besonders schnell verbreiten und in kurzer Zeit sehr viele Menschen erreichen, da ihre Funktionsweise auf dem Teilen und Verbreiten von Beiträgen beruht. Die Funktionsweisen und Algorithmen der Sozialen Medien können gezielt ausgenutzt werden, um dort künstlich Reichweite zu erzeugen und Glaubwürdigkeit vorzutäuschen. Typische Werkzeuge hierzu sind Fake Accounts oder sogenannte Social Bots für die automatisierte und systematische Verbreitung der Inhalte und so auch die Manipulation der Empfehlungsalgorithmen.

Social Bots (von engl. bot = robot) sind Computerprogramme bzw. künstlich erzeugte Accounts, die nach ihrer Aktivierung autonom in Sozialen Medien agieren, menschliches Kommunikations- und Benutzerverhalten imitieren und Desinformation verbreiten können. Sie können automatisiert Beiträge mit bestimmten Stichwörtern (Hashtags) verbreiten, Nutzerinnen und Nutzern folgen, um deren Popularität größer erscheinen zu lassen oder massenhaft Beiträge kommentieren und dadurch die darin enthaltene Meinung stützen, verstärken oder entkräften.

Mit Hilfe Künstlicher Intelligenz (KI) ist es zudem mittlerweile ohne große Hürden möglich, gefälschte Ton-, Bild- und Videoaufzeichnungen (sogenannte Deepfakes) zu erstellen und beispielsweise Politikerinnen und Politiker Dinge sagen zu lassen, die sie so nie ausgesprochen haben. So gab es im November 2023 ein täuschend echt wirkendes gefälschtes Video von Bundeskanzler Olaf Scholz, in dem er vermeintlich ankündigte, die Bundesregierung wolle ein Verbot der Partei AfD beantragen. Anfang 2022 gab es ein manipuliertes Video, in dem der ukrainische Präsident Wolodymyr Selenskyj vermeintlich seine Soldatinnen und Soldaten zur Kapitulation aufrief.

Mit der rasanten Weiterentwicklung und Verbreitung der Technologie wird es immer schwieriger, täuschend echt aussehende Fälschungen (Deepfakes) mit bloßem Auge zu erkennen und von echten Aussagen, Bildern oder Videos zu unterscheiden. In Folge #22 "Deepfakes - die perfekte Täuschung?" unseres Podcasts "Update verfügbar" erfahren Sie, woran Sie Deepfakes erkennen können, welchen Einfluss solche täuschend echten Medieninhalte auf die Cyber-Sicherheitslage haben können und welche technischen Prozesse dahinter stecken. Weitere Informationen dazu, wie Deepfakes produziert werden, warum sie eine Gefahr darstellen und welche Gegenmaßnahmen es gibt, finden Sie auf unserer Webseite.

Folge #43 "Desinformation und Wahlen – der Faktencheck" unseres Podcasts "Update verfügbar" widmet sich ebenfalls dem Thema Desinformation im Internet. Darin erklärt ein Referent der Bundeszentrale für politische Bildung, warum wir anfällig für Desinformation sind und welche Gegenmittel es gibt.

Erkennung und Eindämmung von Desinformation in Sozialen Medien

Um Desinformation frühzeitig zu erkennen und einzudämmen ist es wichtig, wachsam zu sein, Informationen kritisch zu prüfen und zu hinterfragen und sie nicht unreflektiert zu glauben oder weiterzuleiten. Zudem sollten Sie Ihre Online-Accounts und Geräte absichern.

Die Bundesregierung hat fünf Tipps zusammengestellt, wie Sie Desinformation erkennen können.
Sie sollten:

• Informationen kritisch hinterfragen und nicht ungeprüft weiterleiten,
• Faktenchecks nutzen,
• Absender der Nachricht prüfen,
• Quellen vergleichen und
• Bilder prüfen.

Hinweise – allerdings keine eindeutigen Beweise – auf künstlich erzeugte Accounts, d.h. Social Bots in Sozialen Medien können z.B. deren Alter, die Anzahl der Beiträge pro Minute oder pro Tag, die Verbreitung ähnlicher oder gleichartiger Inhalte pro Aktivität sowie kurze Zeiträume mit gesteigerter Aktivität und nur geringfügige Aktivität außerhalb dieser Zeiträume sein.

Desinformation kann auch ohne Ihr Wissen und Zutun über Ihre IT-Geräte oder Social-Media-Konten verbreitet werden, z.B. wenn Ihr Account gehackt wurde oder Ihre Geräte mit Schadsoftware infiziert und einem Botnetz hinzugefügt wurden, das von Angreifern für schädliche Zwecke genutzt wird. Um dies zu verhindern, sollten Sie Ihre IT-Geräte und Online-Konten mit folgenden grundlegenden IT-Sicherheitsmaßnahmen absichern:

• Sichere Passwörter oder Passkeys
• Zwei-Faktor-Authentisierung
• Virenschutz
• Firewalls
• regelmäßige, möglichst automatische Updates
• Basisschutz für Computer
• Schutz für Mobilgeräte
• Maßnahmen zur Sicherheit in Social Media
• Sicherheitseinstellungen bei Facebook, WhatsApp und Co.

Newsletter: Alle 14 Tage auf Nummer sicher gehen:
Mit dem Newsletter 'Sicher Informiert' und den Sicherheitshinweisen des BSI erhalten Sie regelmäßig Informationen zu aktuellen Sicherheitslücken und wichtigen Ereignissen rund um IT-Sicherheit. Sowohl leicht verständliche Erklärungen und praxisnahe Tipps als auch tiefergehende technische Details bringen Sie auf den aktuellen Stand. Zum Newsletter 'Sicher Informiert'.