Sie sind auf Seite 1von 32

BEHIND

CLOSED
CURTAINS
Desinformation auf Messengerdiensten
Ann Cathrin Riedel

ANALYSE
Impressum
Herausgeber
Friedrich-Naumann-Stiftung für die Freiheit
Karl-Marx-Straße 2
14482 Potsdam-Babelsberg

/freiheit.org
/FriedrichNaumannStiftungFreiheit
/FNFreiheit

Autorin
Ann Cathrin Riedel

Redaktion
Referat Globale Themen,
Fachbereich Internationales,
Friedrich-Naumann-Stiftung für die Freiheit

Kontakt
Telefon +49 30 220126-34
Fax +49 30 690881-02
E-Mail service@freiheit.org

Stand
Juli 2020

Bildnachweis:
(S. 13) facebook.com/alternativefuerde
(S. 27) naulicrea/envato elements
(S. 30) Hendrik Wieduwilt

Hinweis zur Nutzung dieser Publikation


Diese Publikation ist ein Informationsangebot der Friedrich-Naumann-Stiftung für die Freiheit.
Die Publikation ist kostenlos erhältlich und nicht zum Verkauf bestimmt. Sie darf nicht von Parteien
oder von Wahlhelfern während eines Wahlkampfes zum Zwecke der Wahlwerbung verwendet werden
(Bundestags-, Landtags- und Kommunalwahlen sowie Wahlen zum Europäischen Parlament).

Lizenz
Creative Commons (CC BY-NC-ND 4.0)
Inhalt
Einleitung 5
Sich der Komplexität bewusst werden – Begriffsdefinitionen 6
Die drei Typen der Information Disorder 6
Die drei Elemente der Information Disorder 6
Die drei Phasen der Information Disorder 7
Medienkonsum und psychologische Effekte 8
Bilder zur einprägsamen Verbreitung von Desinformationen 10
Messengerdienste – Ein Überblick 11
Umgang und Erfahrungen mit Desinformationen auf Messengern in der Welt:
Ein Blick nach Deutschland, Indien und Brasilien 12
Case Study Deutschland 12
Infrastruktur 12
Nachrichtenkonsum 12
Desinformationen bei Wahlen in Deutschland 12
Messenger in der politischen Kommunikation 14
Case Study Indien 15
Infrastruktur 15
Nachrichtenkonsum 16
Falsch- und Desinformation in Indien 17
Gründe für das Teilen von Falsch- und Desinformationen 18
Case Study Brasilien 19
Infrastruktur 19
Nachrichtenkonsum 19
Präsidentschaftswahlen 2018 20
Policy Empfehlungen 22
1. Probleme korrekt benennen, die Komplexität der Problematik anerkennen 22
2. Verantwortung von Politik und Diplomatie 22
3. Verantwortung von Plattformen und Technikgestaltung 23
4. Richtige Regulierung 24
5. Journalismus 24
6. Resiliente Gesellschaften 25
Glossar 26
Literaturverzeichnis 28
Autorin 30
DESINFORMATION AUF MESSENGERDIENSTEN 4

Executive Summary
Desinformationen, gerne auch „Fake News„ genannt, nen Land genutzt wird, dann schadet das nicht nur dem
wurden in Deutschland vor allem im Zuge von Wahl- eigenen demokratischen Diskurs. Es verhindert auch,
kämpfen – sei es zur Bundestagswahl 2017 oder zur dass die Brisanz und die (teils schleichende) Zerstö-
Europawahl 2019 – diskutiert und als Bedrohung wahr- rungskraft von strategischer Desinformation als solche
genommen. Dabei sah man sie häufig als ein externes deutlich wird. Es reicht dabei nicht, nur diese Typen der
Problem an, möglichen Akteuren im Inland wurde kaum Information richtig zu benennen. Die komplexe „Infor-
Aufmerksamkeit geschenkt. Social-Media-Plattformen mation Disorder„ in der wir uns gerade befinden verlangt
wie Facebook, Twitter und YouTube wurden aufgefor- vielmehr, dass wir sowohl die Elemente, als auch die
dert, Maßnahmen gegen Desinformationen zu ergreifen. Phasen einer Information, beziehungsweise die Wege
Das seit Anfang 2020 grassierende neuartige Coronavi- ihrer Verbreitung betrachten.
rus offenbarte nun, was vielen zumindest
in Deutschland wenig bewusst war: „Desinformation Sowohl Indien als auch Brasilien hatten
Desinformationen gibt es zum einen bereits mit immensen Problemen durch
auch im nicht-politischen Bereich – und
ist ein gesamtgesell- die Verbreitung von Desinformationen
zwar in erschreckend großem Ausmaß. schaftliches Problem.“ auf Messengern, insbesondere Whats-
Zum anderen werden sie zunehmend App, zu kämpfen. In Indien hat der Mes-
über Messenger wie WhatsApp und Telegram verbreitet. senger einen entscheidenden Anteil an der Verbreitung
So waren es in Deutschland zwei Sprachnachrichten, die von Nachrichten, die unter anderem zu Mob-Gewalt
über WhatsApp viral gingen und Desinformationen über und Lynchmorden führten und führen. In Brasilien
das Virus verbreiteten. Diese Sprachnachrichten wurden nutzten Präsident Jair Bolsonaro und seine Anhänger-
so intensiv verbreitet, dass die Bundesregierung schließ- schaft WhatsApp, um Botschaften zu verbreiten, Des-
lich selbst Gegenmaßnahmen einleitete. Aber dieses informationen in Umlauf zu bringen, politische Gegner
Problem betrifft nicht nur Deutschland: Die Weltgesund- zu diskreditieren und Kritiker mundtot zu machen.
heitsorganisation spricht von einer „Infodemie„ bezüglich Facebook, der Konzern, dem WhatsApp gehört, hat
Corona und auch die Social-Media-Plattformen haben bereits auf die Vorkommnisse in beiden Ländern re-
weitreichende Maßnahmen ergriffen, um Falsch- und agiert und technische Änderungen an dem Messenger
Desinformationen im Zusammenhang mit dem neuarti- vorgenommen, die der Verbreitung von Desinformation
gen Coronavirus schnellstmöglich zu entfernen. Einhalt gebieten sollen. Mit mäßigem Erfolg.

Das vorliegende Papier entstand während der Anfänge Es ist essentiell zu erkennen, dass ausschließlich
der Pandemie. Es wird sich deswegen nicht auf die technologiefokussierte Lösungsstrategien nicht
aktuellen Geschehnisse und Erkenntnisse beziehen. erfolgsversprechend sind. Für dieses Papier wurden
Stattdessen versucht es aufzuzeigen, welche Erkennt- mehrere Studien ausgewertet die zeigen, dass Mes-
nisse wir bisher zur Verbreitung von Desinformation mit sengerdienste die Verbreitung von Desinformationen
Messengern haben und nimmt neben Deutschland auch zwar leichter machen und verstärken. Eine Lösung des
Indien und Brasilien in den Blick. Zwei Länder, die bereits Problems muss allerdings die Komplexität der Infor-
erheblich mit der Problematik zu kämpfen hatten. mationsverbreitung in den Blick nehmen. So zeigen
die Fallbeispiele der einzelnen Länder, dass vor allem
Es ist wichtig, die richtigen, trennscharfen Begriffe zu mangelndes Vertrauen in den Staat, beziehungsweise
verwenden: Nicht nur um die Problematik, sondern auch in die Regierung, einen wichtigen Faktor für die Weiter-
die jeweiligen Intentionen benennen und beurteilen zu verbreitung von Desinformation darstellt. Eine ebenso
können. Der Begriff „Fake News„ kann daher kein geeig- große Rolle spielen zunehmender Nationalismus und
neter Begriff für diesen Diskurs sein. Denn es kann sich Begleiterscheinungen wie Rassismus, Sexismus und
bei den Informationen, um die es im Folgenden gehen Antisemitismus. Sinkendes Vertrauen in Journalismus
soll, sowohl um falsche Information („fake„), als auch ist ein zusätzliches Problem.
um Des-Information handeln. Dabei ist zu unterschei-
den, dass eine falsche Information immer vorkommen Die Infodemie rund um das neuartige Coronavirus ver-
kann. Meist, weil schlecht recherchiert wurde, oder deutlicht die Brisanz des Themas. Es wird dringend Zeit
ein Missverständnis vorliegt. Hinter der Verbreitung für einen umfassenden und differenzierten Diskurs rund
falscher Informationen liegt aber nicht automatisch um die beschriebene Problematik: Es reicht nicht, wenn
ein böswilliger Gedanke. Anders bei Des-Informationen, wir ausschließlich über Social-Media-Plattformen spre-
die gezielt diffamieren, Gesellschaften destabilisieren chen, Desinformation nur als Problem im Zusammen-
oder Zwietracht säen sollen. Wenn nun der Begriff hang mit Politik und Wahlkampf sehen und das Problem
„Fake News„ sowohl zur Diskreditierung der unliebsa- vornehmlich als eine äußere Bedrohung wahrnehmen.
men Aussage des politischen Gegners, als auch für die Um eine Lösung für das Problem zu finden, brauchen
„Informationskampagne„ eines anderen Staats im eige- wir zuallererst einen breiten gesellschaftlichen Diskurs.
DESINFORMATION AUF MESSENGERDIENSTEN 5

Die Bekämpfung von Desinformation ist eine gesamt- vertrauenswürdigen Quellen an prominenter Stelle, wie
gesellschaftliche Aufgabe, die von vielen angegangen es einige Plattformen während der Corona-Pandemie
werden muss und nicht alleinig an Plattformbetreiber bereits tun.
ausgelagert werden darf.
4. Falsch- und Desinformation sind meist nicht strafbar.
Dieses Papier liefert sechs Empfehlungen, die Grund- Regulierung muss daher in anderen Bereichen ansetzen.
lage für politische Entscheidungen und Basis für einen Dabei sollte nicht die Frage nach viel oder wenig Regu-
weiteren Diskurs bieten sollten: lierung gestellt werden, sondern wie gute Regulierung
aussehen kann und welche Bereiche sinnvoll zu regulieren
1. Klare und korrekte Begriffe sind die Grundlage jegli- wären. Durchsetzung von Datenschutzrecht und eine
cher Maßnahmen zur Problemlösung. Der leider weit Reformierung und Durchsetzung des Kartellrechts können
verbreitete Begriff „Fake News„ ist gerade nicht klar Stellschrauben sein. Tatsache ist aber auch, dass es für
definiert – und somit ungeeignet für die Diskussion. eine gute Regulierung eine bessere Forschung als Grund-
Auch das Differenzieren und Benennen von Formaten lage braucht. Zur Bereitstellung der entsprechenden Daten
der Falsch- und Desinformation, ihre Verbreitungswege kann eine regulatorische Maßnahme sinnvoll sein.
und die Intentionen einzelner Akteure sind wichtige
Bestandteile, die bislang zu kurz kommen. 5. Das Vertrauen in Medien sinkt weltweit. Nicht nur die
Digitalisierung stellt die Medienbranche vor immense
2. In der Außenpolitik muss mehr Augenmerk auf die Herausforderungen. Auch die abnehmende Pressefrei-
Bekämpfung von Desinformation gelegt werden: Wenn heit stellt ein ernst zu nehmendes Problem dar. Es müs-
Missstände dadurch entstehen, dass Regierungen die sen dringend tragende Finanzierungsmodelle gefunden
Auswirkungen von Desinformationen tolerieren oder för- werden, die vor allem den Lokaljournalismus stärken.
dern, dann sollte das auch international verurteilt werden. Zudem muss ein Umgang mit Desinformation gefunden
Es ist wichtig, dass bei der Schaffung einer globalen In- werden, der nicht unbeabsichtigt zu deren Weiterver-
ternet Governance die Bekämpfung von Desinformation breitung beiträgt.
mitgedacht wird: Dabei muss die Politik stärker Platt-
formbetreiber in die Verantwortung nehmen. Sowohl bei 6. Desinformation ist ein gesamtgesellschaftliches
gesetzlicher Regulierung, als auch bei Selbstregulierung Problem. Eine Bundeszentrale für digitale Bildung kann
gilt es, auf die Einhaltung der Menschenrechte zu achten. entsprechende Informationen für Schulen bereitstellen
und Weiterbildungsprogramme für alle anbieten. Ein
3. Desinformation-by-Design: Messenger müssen wichtiger Baustein für die Bekämpfung, beziehungswei-
überprüfen, inwieweit sie mittels Technikgestaltung der se den Umgang mit ihr, sind mündige Bürgerinnen und
Verbreitung von Desinformationen Einhalt gebieten und Bürger, die um die Problematik, die Verbreitungswege
für mehr Transparenz und Nachvollziehbarkeit sorgen und die Intention hinter Desinformation wissen. Dass
können. Einschränkungen bei der massenweisen Menschen für Desinformation empfänglich sind, hat
Weiterleitung von Nachrichten sind ein guter Anfang. wenig mit dem allgemeinen Bildungsniveau zu tun. Den-
Ebenso wie die Bereitstellung von Informationen von noch ist Weiterbildung in jedem Alter essentiell.

Einleitung
Desinformation ist kein neues Phänomen, das erst Tagesordnung geschafft: Es wird heftig diskutiert,
mit der Digitalisierung aufkam. Vielmehr wurden was Desinformation innerhalb von Gesellschaften
Desinformationen wohl schon immer eingesetzt, um anrichtet, aber auch welche Gefahr von außerhalb
politischen Gegnern zu schaden, Gesellschaften zu durch einen sogenannten Information Warfare droht.
destabilisieren und Regime zu legitimieren. Neu ist, Dass Messenger zur Verbreitung von Desinformation
dass sich Desinformationen dank der Digitalisierung und Verschwörungserzählungen genutzt werden, ist
mit rasanter Geschwindigkeit verbreiten. Alle können in Deutschland noch recht unbekannt. Erst durch das
potenzielle Absender – vor allem auch ungewollt – von Bekanntwerden von Netzwerken Rechtsextremer auf
Desinformationen sein können. Sinkendes Vertrauen diesen Plattformen und zusätzlich durch das Corona-
in staatliche Akteure und Medien, sowie eine Disrupti- virus kommt das Thema Desinformation auf Messen-
on der gesamten Medienlandschaft und schnellere, gern langsam in der deutschen Öffentlichkeit an.
einfachere und günstigere Zugänge zu Smartphones
und zum Internet unterstützen die Entwicklungen Desinformation muss in seiner Vielfältigkeit näher
weltweit. Desinformation und die Bedrohung, die durch betrachtet werden. Denn das Thema ist für die inne-
sie ausgeht, haben es mittlerweile auf die politische re Sicherheit, aber auch für den gesellschaftlichen
DESINFORMATION AUF MESSENGERDIENSTEN 6

Zusammenhalt und Frieden von enormer Bedeutung. Nutzerinnen und Nutzer weltweit. Nicht nur die Art,
Viel zu oft wird vergessen, dass gerade im nicht-poli- wie wir kommunizieren, ändert sich rasant, sondern
tischen Bereich verbreitete Desinformation ein hohes auch, wie wir Medien und Nachrichten konsumie-
Risiko birgt: Rund um das Coronavirus ist Anfang 2020 ren. Die Zeitung vom Küchentisch, das gemeinsame
weltweit eine große Menge an Desinformation im Um- Nachrichten schauen am Abend, das Telefonge-
lauf. Von falschen Studien, angeblichen Selbsttests und spräch – all das verlagert sich in nicht mehr von
wirkungslosen Präventionsmaßnahmen ist alles dabei. außen wahrnehmbares Kommunizieren und Konsu-
Die Weltgesundheitsorganisation spricht daher von mieren. Damit müssen wir als Gesellschaft(en) lernen
einer Infodemie. Diese Infodemie birgt ein erhebliches umzugehen. Welche Erfahrungen und Erkenntnisse
1
Gesundheitsrisiko für alle Menschen. haben wir weltweit mit Desinformation via Messen-
ger? Wie komplex ist dieses Phänomen und wird der
2022 werden drei Milliarden Menschen Messenger- Komplexität bisher in der öffentlichen Diskussion
2
dienste weltweit nutzen. Viele davon werden keine ausreichend Rechnung getragen? Welche Ansätze
dem digitalen Zeitalter angemessene Medienkompe- können zu einer aufgeklärteren, resilienteren Gesell-
tenz besitzen oder gar Analphabeten sein. Das gilt für schaft beitragen?

Sich der Komplexität bewusst werden –


Begriffsdefinitionen
Im Zusammenhang mit „Desinformation” wird sehr auch Satire fallen, wenn sie vom Interpreten nicht als
häufig der Begriff „Fake News” verwendet. Dieser soll solche erkannt wird, sondern im Glauben, dass es
hier vermieden werden, da er zum einen nur äußerst sich um wahre Tatsachen handelt, verbreitet wird.
ungenügend beschreiben kann, welche diversen Arten
der Informationen verbreitet werden, die zu falschen J „Dis-Information” (Desinformation): Eine Information,
oder manipulativen Informationen führen. Der Begriff die falsch ist und erstellt wurde, um einer Person,
„Fake News” wird weltweit vornehmlich von Politikerin- einer Gruppe, einer Organisation oder einem Staat
nen und Politikern eingesetzt, um die Berichterstattung Schaden zuzufügen. Dazu kann auch gehören, dass
von Nachrichtenorganisationen zu diskreditieren. Er wahre Informationen falsch kontextualisiert werden,
wird genutzt, um die freie Presse zu umgehen und zu um bewusst Schaden zu verursachen.
unterminieren und sollte daher nicht für einen Diskurs
über Desinformationen genutzt werden. J „Mal-Information” (hierunter fällt zum Beispiel
sogenanntes Doxing): Eine Information, die richtig
Um die Wirkung von Desinformation verstehen und ist, aber genutzt wird, um Schaden anzurichten.
besprechen zu können, müssen nicht nur die Arten Beispielsweise das Veröffentlichen privater Chats.
3
der Informationen in dieser „Information Disorder„
(zu Deutsch: „Informationsstörung„) definiert werden,
Quelle: nach „Information Disorder„, Wardle und Derakhshan

sondern auch ihre Phasen und Elemente. In Anlehnung Information Disorder


an die umfangreiche Arbeit von Dr. Claire Wardle und
4
Hossein Derakhshan, soll das Framework hier vorge-
stellt werden:
FALSCH SCHÄDLICH

Die drei Typen der Information Disorder Falsch- Desinformation Mal-


information Falscher Kontext, information
Falsche Betrügerische Inhalte, Leaks,
Unter dem Begriff „Fake News” werden häufig drei Zusammen- Manipulierte Inhalte, Belästigung,
Typen der Information Disorder subsumiert. Zu unter- hänge, irre-
führender Inhalt
Fabrizierte Inhalte Hassrede

scheiden sind:

J „Mis-Information” (Falschinformation): Eine Infor-


mation, die zwar falsch ist, aber nicht mit der Intention
erstellt wurde, Schaden anzurichten. Hier unter kann

1 3
Vgl. Richtel 2020. Vgl. Wardle 2019.
2 4
Vgl. Statista 2019b. Vgl. Wardle and Derakhshan 2017.
DESINFORMATION AUF MESSENGERDIENSTEN 7

Die drei Elemente der Information Disorder J Die Distribution: Die Veröffentlichung oder
Verbreitung der Information.
J Der Agent: Wer hat die Information kreiert,
produziert und/oder distribuiert und was war die Wardle und Derakhshan machen darauf aufmerksam,
Motivation dahinter? Er kann sowohl das „Master- dass es wichtig ist zu berücksichtigen, dass der
mind„ hinter einer Desinformationskampagne sein, Agent, der die Information erstellt, häufig jemand völ-
als auch ein Unterstützer einer Kampagne, der die lig anderes ist, als der Agent, der die Information dis-
Desinformation verbreitet. Ebenso ist eine Personal- tribuiert. So ist die Motivation eines „Masterminds”,
union möglich. Auch Menschen, die eine Desinfor- der zum Beispiel die staatlich finanzierte Desinfor-
mation unwissentlich verbreiten, weil sie sie für mationskampagne kreiert, eine völlig andere als die
wahr halten, sind ein „Agent„ bei der Verbreitung. eines „Trolls”, der die Desinformation im Netz verbrei-
Die Rolle des Agenten kann sich unter mehreren tet. Einmal produzierte Informationen können zudem
Personen aufteilen. verändert und damit neu produziert werden. Auch die
Wege der Distribution können sich darauf aufbauend
J Die Nachricht: Was für ein Format hat die verändern. Damit verändern sich auch die Agenten,
Information? Welche Charakteristika hat sie? ebenso wie die Interpretationen des Empfängers.
Die Erstellung und Verbreitung von Desinformation
J Der Interpret: Wie wurde die Nachricht bei der ist also ein komplexer Prozess, der in der Regel nicht
Person, die sie empfangen hat interpretiert? Wie als ein abschließender Prozess zu betrachten ist und
wurde darauf, wenn überhaupt, reagiert? in dem Rollen und Funktionen eindeutig zugeordnet
werden können. Ebenso gehören in diesen Prozess
alle, die eigentlich keine Desinformation absichtlich
Die drei Phasen der Information Disorder teilen wollen, sie aber dennoch verbreiten, zum Bei-
spiel zum debunking oder um den Gegner lächerlich
J Die Kreation: Erstellung der Information. zu machen. Wardle und Derakhshan haben dies am
Beispiel der vermeintlichen Unterstützung Donald
J Die Produktion: Überführung der Information in Trumps durch Papst Franziskus im Präsidentschafts-
ein Nachrichten-Produkt. wahlkampf 2016 verdeutlicht:

Beispiel der vermeintlichen Unterstützung Donald Trumps


durch Papst Franziskus im Präsidentschaftswahlkampf 2016

Kreation Produktion Distribution


Ein Artikel Der Artikel wird auf der Webseite Der Artikel wird von
wird von „WTOE5 News” publiziert, die Teil jemanden, der für diese
einer nicht- eines Netzwerks von 43 Seiten fabricated-news-Web-
identifizierten mit fabricated news ist, auf denen seiten tätig ist, auf
Person zusammen über 750 Artikel veröf- Facebook geteilt.
konzipiert. fentlich wurden.
Quelle: nach „Information Disorder„, Wardle und Derakhshan

Re-Produktion
Der Artikel wird von Personen, die im Zusammenhang mit
dem Netzwerk der fabricated-news-Webseiten stehen, weiter
geteilt um die Reichweite zu erhöhen und über das Werbe-
netzwerk dahinter Geld zu verdienen.
Der Artikel wird von Trump-Unterstützern auf Facebook geteilt.
Der Artikel wird von Gruppierungen geteilt, die ein Interesse
an einem Wahlsieg Trumps haben (z.B. wird die Reichweite
durch russische Troll-Netzwerke erhöht).
Der Artikel wird von Clinton-Unterstützern geteilt, um zu zeigen,
wie einfach Trump-Unterstützer getäuscht werden können.
DESINFORMATION AUF MESSENGERDIENSTEN 8

Sich diese Komplexität vor Augen zu führen ist wichtig, ist einigen Agenten, die eine Desinformation verbrei-
um das Phänomen Desinformation besser verstehen ten, nicht bewusst, dass sie dies tun: Sie verbreiten
zu können und Ansätze für Lösungen zu finden. Falsch- etwas, weil sie den Inhalt für wahr halten, nicht, weil sie
und Desinformationen werden von manchen Menschen bewusst manipulieren wollen. Hier liegt die Intention zur
verbreitet, weil sie diese witzig finden. Sie vergessen Manipulation beim Ersteller der Nachricht.
dabei aber, dass die Empfänger, also die Interpreten, Um die (unbewussten) Beweggründe für die Verbrei-
diesen „Humor” eventuell nicht verstehen und die tung von Desinformationen zu verstehen, müssen der
Falsch- beziehungsweise Desinformation für eine Medienkonsum und die psychologischen Effekte bei der
Tatsache halten und empört weiterverbreiten. Ebenso Verbreitung von Informationen betrachtet werden.

Medienkonsum und psychologische Effekte


Der Konsum von Nachrichten und Medien war lange durch bezahlte Anzeigen, welche Nutzerinnen und Nut-
Zeit ein deutlich gesellschaftlicheres Ereignis als heute; zer einen Inhalt zu sehen bekommen sollen und welche
es gab eine gemeinsame Realität („shared reality”): nicht: Man kann beispielsweise nach Geschlecht, Wohn-
Nachrichten wurden (gemeinsam) vor dem Fernseher ort, Alter oder politischer Einstellung selektieren, um nur
konsumiert und gegebenenfalls besprochen. Zeitungen wenige Beispiele der möglichen Zielgruppendefinition
und Radio verbreiteten (und verbreiten) Informationen, zu nennen. Zwar gibt es mittlerweile die Möglichkeit
die zwar unterschiedliche Nuancen haben konnten, aber beispielsweise auf Facebook einzusehen, welche Anzei-
diese Informationen konnten und können nicht lediglich gen der Betreiber einer Seite geschaltet hat. Um dies zu
einem kleinen geschlossenen Kreis vorgehalten werden. erfahren, muss man allerdings zum einen wissen, dass
Wer eine Zeitung kauft, kann lesen was drin steht, wer ein solches Targeting stattfindet, zum anderen muss die
einen bestimmten Radiosender einstellt, wird hören, Transparenzseite proaktiv gesucht und besucht werden.
was dort gesendet wird. Dieses Vorhalten von Infor- Durch die schnelle Verbreitung von Informationen, deren
mationen ist heute zum Beispiel durch sogenanntes schiere Masse und die Möglichkeit, spezielle Zielgrup-
Targeting von Inhalten auf sozialen Netzwerken wie pen mit einer Information über die sozialen Netzwerke
Facebook oder Twitter möglich. Die Betreiber einer Seite zu versorgen, verringert sich die „gemeinsame Realität”
oder eines Accounts können definieren, vornehmlich einer Gesellschaft erheblich.

Nachrichtenkonsum über Messengerdienste

WhatsApp
Facebook Messenger

15% 16%
Quelle: Reuters Digital News Report 2019

53% 52% 6%

23%

0
Brasilien Indien Deutschland

Mehrfachnennung war möglich


DESINFORMATION AUF MESSENGERDIENSTEN 9

Social Media und Messaging


Wöchentliche Nutzung allgemein

75%

64%
60%

45% 45%
37%
32%
30%
21%

15% 12%

0%
2014 2015 2016 2017 2018 2019

Wöchentliche Nutzung für Nachrichtenkonsum

75%
Veränderung des
Facebook-Algorithmus
60%

45%
36%

30% 16%
10%

Quelle: Reuters Digital News Report 2019


9%
15%
8%
3%
0%
2014 2015 2016 2017 2018 2019

Befragt wurden Menschen in Australien (ab 2015) Brasilien, Dänemark, Deutschland, Finnland, Frankreich, Großbritannien,
Irland (ab 2015), Italien, Japan, Spanien und USA.

Genauso bedeutsam sind kommunikationspsycho- unsere Zugehörigkeit. Soziale Plattformen verstärken


logische Aspekte in diesem Zusammenhang: Der diese Mechanismen.
Wissenschaftler James Carey ist der Meinung, dass
wir die rituelle Bedeutung von Kommunikation näher Der Soziologe Michel Maffesoli legte bereits 1996 in
betrachten müssen, denn diese sei mehr als der bloße seinem Buch „The Time of the Tribes” dar, dass man die
Austausch von Informationen zwischen Personen. vielen verschiedenen kleinen und temporären Gruppen
Kommunikation spiele eine fundamentale Rolle für das berücksichtigen muss, in denen ein Mensch über den
5
Kreieren von gemeinsamen Vorstellungen : Die Arten Tag verteilt Mitglied ist, um sein oder ihr Verhalten zu
von Informationen, die Menschen konsumieren, und verstehen. Wardle und Derakhshan argumentieren, dass
die Art und Weise, wie sie diese interpretieren, werden er damit genau beschrieb, wie sich Nutzerinnen und
signifikant davon beeinflusst, wie man sich selbst Nutzer heute auch online verhalten und warum sie wel-
wahrnimmt und welchen gesellschaftlichen Gruppen che Informationen posten oder teilen. Diese „Stammes-
man sich zugehörig fühlt. Gerade durch das Liken und mentalität” erkläre auch, warum so viele Social-Media-
Kommentieren, sowie – insbesondere in Messengern – Nutzerinnen und -Nutzer Falsch- und Desinformationen
Teilen von Inhalten, verdeutlichen wir unserem Umfeld teilen, obwohl sie Zweifel an der Richtigkeit der

5
Vgl. Carey, J. (1989), Communication as Culture: Essays on Media and Society, London: Routledge. p.16 nach Wardle and Derakhshan 2017.
DESINFORMATION AUF MESSENGERDIENSTEN 10

Information haben: Sie würden damit vor allem ihre Konfrontation mit Fakten korrigiert werden können. Wardle
Zugehörigkeit zu einer Gruppe verdeutlichen und unter und Derakhshan gehen daher davon aus, dass die Verbrei-
Beweis stellen wollen. tung von qualitativ hochwertigen Informationen nicht die
Lösung sein kann: Fakten sprechen die Ratio an, Desinfor-
Erschwerend kommt hinzu, dass Falsch- und Desin- mation triggert Emotionen – und Fakten und Emotionen
formationen oftmals Gefühle wie zum Beispiel Überle- werden im Hirn unterschiedlich verarbeitet. Eine mögliche
genheit, Wut oder Angst ansprechen. Das führt dazu, Lösung: Gleiches mit Gleichem bekämpfen - also über die
dass solche Nachrichten sehr viel eher weiterverbreitet soziale Akzeptanz in der jeweiligen Gruppe. Es müssen
werden. Ein gemeinsames emotionales Erleben (wie zum also folgerichtig Mechanismen gefunden werden, die das
Beispiel gemeinsame Abscheu, gemeinsame Empörung) Verbreiten von Falsch- und Desinformation vor der eigenen
erhöht das Zusammengehörigkeitsgefühl innerhalb einer sozialen Gruppe äußerst peinlich erscheinen lassen.
Gruppe. Das erklärt auch, weshalb emotionsgeladene
Inhalte auf allen sozialen Plattformen besonders gerne Auch Alexander Ritzmann weist darauf hin, dass wir
geliked und geteilt werden. Desinformation hat zudem eher unserer eigenen Gruppe glauben und dass dieses
häufig das Ziel gesellschaftliche Spaltungen zu fördern: „Stammesdenken”, das Zugehörigkeitsgefühl zu einer
Es geht dabei um ein „wir gegen die” – sei es bei poli- Gruppe – das kann von einer Religion, politischen Partei
tischen Kontrahenten oder zur Verstärkung von ethni- bis hin zu einem Fußballclub alles sein – ausschlagge-
schen, religiösen oder ökonomischen Konflikten. bend dafür ist, was wir glauben, beziehungsweise für
wahr halten, und was nicht. Desinformationen sprechen
Nicht nur die Geschwindigkeit, mit der solche Desinforma- außerdem häufig tief verankerte Wertvorstellungen an,
tion verbreitet wird, ist ein Problem. Sogenanntes Fact- 6
die nicht mit Fakten überwunden werden können: Wer
Checking kann hier erst sehr spät reagieren. Es ist fraglich beispielsweise glaubt, dass einzelne Nationen besser
ob Versenderinnen oder Versender von Falsch- bzw. sind als andere, dass Männer über Frauen stehen oder
Desinformation – insbesondere die, die diese unbewusst dass Abtreibungen verboten werden sollten, wird sich
verbreitet haben – zeitnah oder überhaupt die Fakten und nicht einfach mit Fakten überzeugen lassen und seine
damit die Korrektur erhalten. Es ist außerdem zu bezwei- Meinung ändern. Der Prozess zu einer Änderung der
feln, ob auf Emotionen basierende Einstellungen durch die Wertvorstellung ist langwierig und komplex.

Bilder zur einprägsamen Verbreitung


von Desinformationen
Selten wird im Rahmen von Desinformation über die versehen waren, die einem bestimmten politischen
Form der Information gesprochen. Das ist aber wichtig, Lager zuzuordnen waren. Ebenso populär waren
um gegen Desinformation – eventuell auch automatisiert offizielle Dokumente und Nachrichten, die aus dem
– vorzugehen, sondern auch um beurteilen zu können, Zusammenhang gerissen wurden, sowie Screenshots
wie schnell und nachhaltig Desinformation beeinflussen von digitalen Konversationen, die teilweise echt,
kann. In der Diskussion wird häufig antizipiert, dass es sich teilweise gefälscht waren. Memes waren kaum in den
vornehmlich um Text beziehungsweise Links zu längeren übermittelten Daten zu finden. Comprova geht davon
Texten („Nachrichten”, beziehungsweise fabricated news) aus, dass sie nicht als ernst empfunden wurden und
7
mit Desinformation handelt. Bisherige Untersuchungen daher nicht zur Prüfung übermittelt wurden, obwohl
zeichnen ein anderes Bild: Memes gerade durch „Humor” propagandistische
8
Botschaften vermitteln. Die (unbewusste) Vermitt-
In Brasilien hat sich das Projekt Comprova – ein lung propagandistischer Botschaften durch Memes
Zusammenschluss von Newsrooms und Journalis- geschieht, indem der politische Gegner lächerlich ge-
tinnen und Journalisten – vor den letzten Präsident- macht wird, rassistische, sexistische, antisemitische
schaftswahlen intensiv mit Informationen, die über etc. Stereotype aufgegriffen werden und als „witzig„
Messenger versendet wurden, auseinandergesetzt. dargestellt werden. Ebenso mittels falscher Zitate,
Comprova hat Falsch- und Desinformationen de- die auf Memes abgebildeten Personen in den Mund
bunkt, beziehungsweise Informationen verifiziert gelegt werden. Videos waren das am zweithäufigsten
und dabei auch die Formate der Nachrichten analy- übermittelte Format an Comprova, den kleinsten Teil
9
siert: Ein Großteil waren Bilder, die mit Nachrichten machten Sprachnachrichten aus.

6 8
Vgl. Ritzmann 2018. Vgl. Ascott 2020.
7 9
Vgl. Wardle et al. 2019. Vgl. Wardle et al. 2019.
DESINFORMATION AUF MESSENGERDIENSTEN 11

Texte können theoretisch schnell von Texterkennungssoft- dann teilweise von der Trump-Kampagne aufgegriffen
ware erkannt werden, um so markiert oder gar gelöscht und in weitaus breiter bekannte und genutzte sozia-
11
zu werden. Links zu Webseiten bieten noch die Hoffnung, le Netzwerke überführt. Dadurch, dass Facebooks
10
dass eine Überprüfung der Webseite Nutzerinnen und Algorithmus im Newsfeed Bilder und Videos gegenüber
Nutzer erkennen lässt, dass es sich hier um Desinformati- Links (beispielsweise zu Nachrichtenartikeln) bevorzugt,
onen handelt. Bei Bildern, Videos und Sprachnachrichten finden solche Memes oder andere Bilder und Videos
ist dies jedoch schwierig bis unmöglich. Noch schwieriger über dieses Netzwerk eine deutlich größere Reichweite.
wird das Ganze bei manipulierten Ton- oder Videoaufnah- Diese Memes können aus dem Newsfeed über den
men, sogenannten „Deep Fakes”. Facebook Messenger sowie als Link oder Screenshot
auch über andere Messenger wie WhatsApp weiterver-
Schon in den 70er und 80er Jahren des vergangenen breitet werden.
Jahrhunderts wurde anhand von Fotografie und TV-Sen-
dungen gezeigt, dass Menschen Bilder fundamental First Draft, eine Nichtregierungsorganisation, hat wäh-
anders wahrnehmen als Text: Das Gehirn kann Bilder rend der Wahlen in Frankreich und Großbritannien 2017
deutlich schneller verarbeiten. Unsere Fähigkeiten, In- Projekte unterstützt, die sich mit dem Debunken von
halte kritisch zu hinterfragen, sind bei (Bewegt-) Bildern Desinformationen beschäftigt haben. Auch hier wurde
deutlich geringer; Memes werden beispielsweise eher festgestellt, dass (Bewegt-)Bilder mit Abstand den größ-
als humoristisch, denn als politisch motiviert, bezie- ten Anteil an der am meisten geteilten Desinformation
hungsweise manipulativ wahrgenommen. Im US-Wahl- ausmachten und am schwersten zu widerlegen waren –
kampf 2016 spielten Memes eine große Rolle: Auf darunter Infografiken und Memes. „News”-Webseiten mit
Webseiten wie 4Chan wurden beispielsweise Memes fabrizierten, also komplett frei erfundenen „Nachrichten”,
gegen Hillary Clinton getestet und die, die die beste Re- wie sie während der US-Wahl 2016 zu sehen waren, gab
sonanz zeigten, wurden dann auf Reddit im Pro-Trump es während der Wahlkämpfe in Frankreich und Großbri-
12
Forum „The_Donald” veröffentlicht. Von dort wurden sie tannien hingegen nicht.

Messengerdienste – Ein Überblick


Messengerdienste haben im vergangenen Jahrzehnt
rasant an Beliebtheit und damit Nutzerinnen und Die größten Social Networks und
Nutzer dazu gewonnen. Blickt man auf alle Plattfor- Messenger (im Januar 2020)
men, also soziale Netzwerke wie Facebook und Twit-
ter, und Messenger zusammen, dann ist WhatsApp Monatliche aktiv Nutzende in Millionen
nach Facebook und YouTube die weltweit drittgrößte
Plattform und der am weitesten verbreitete Mes-
senger. Dicht gefolgt vom Facebook Messenger und Facebook 2.449

WeChat, das vornehmlich in China genutzt wird, aber YouTube 2.000


auch in anderen Ländern immer beliebter wird. Auch WhatsApp 1.600
soziale Netzwerke wie Instagram haben die Mög- Facebook Messenger 1.300
lichkeit private Nachrichten zu versenden. Facebook, Weixin/WeChat 1.151
zu dem neben WhatsApp auch Instagram gehört, Instagram 1.000
versucht auf all seinen Plattformen Menschen in pri- Douyin/Tik Tok 800
vate(re) Kommunikation zu drängen. Damit gibt das QQ 731
Unternehmen vor, den Rufen nach mehr Privatheit QZone 517
Folge zu leisten, verwechselt dabei aber „private” Sina Weibo 497
mit „privacy”, also Themen des Datenschutzes, für Reddit 430
die es bislang häufig in der Kritik stand. Zudem
Snapchat 382
kann sich Facebook durch diese „privaten”, teils
Twitter 340
auch verschlüsselten Räume aus der Verantwor-
Pinterest 322
Quelle: statista

tung bezüglich Desinformationen und Hate Speech


Kuaishou 316
ziehen, da sie aufgrund eben dieser Verschlüsselung
nicht mehr die Inhalte einsehen und damit dagegen
13
vorgehen können.

10 11
Beispielsweise, ob es ein Impressum und einen Autoren oder eine Mehr zu diesem Thema u.a. bei Moore 2018.
12
Autorin des Textes gibt, was die Webseite ansonsten für Informationen Vgl. Wardle and Derakhshan 2017.
13
publiziert etc. Vgl. Moshavi 2020.
DESINFORMATION AUF MESSENGERDIENSTEN 12

Der Messenger Telegram hat, laut zuletzt 2018 ver- Signal und Wire sind standardmäßig Ende-zu-Ende ver-
öffentlichten Zahlen, 200 Millionen Nutzerinnen und schlüsselt. Telegram und Facebook Messenger bieten
14
Nutzer weltweit. Der Schweizer Messenger Threema eine Verschlüsselung an, die aber aktiv durch einen
15
fünf Millionen (Stand 2018). Zu den Messengern „geheimen Chat” ausgewählt werden muss. Discord,
Signal und Wire sind keine Zahlen bekannt. Der Messen- WeChat und die Direktnachrichtenfunktion von Ins-
gerdienst Discord, der besonders bei Gamern beliebt ist, tagram und Snapchat haben keine Ende-zu-Ende-Ver-
16
verzeichnet 250 Millionen Nutzeraccounts weltweit. schlüsselung und könnten daher von den Plattformen
Nachrichten bei den Messengern WhatsApp, Threema, und Dritten leicht eingesehen werden.

Umgang und Erfahrungen mit Desinforma-


tionen auf Messengern in der Welt: Ein Blick
nach Deutschland, Indien und Brasilien
Case Study Deutschland Euro) ca. 0,5 % des Nettohaushalteinkommens. Die
Durchdringung mit Smartphones liegt in Deutschland
21
Infrastruktur allerdings nur bei 79 %.
Um die Auswirkungen und die Verbreitung von
Desinformationen über Messenger weltweit besser Nachrichtenkonsum
verstehen und vergleichen zu können, muss auch Die Deutschen nutzen zunehmend das Smartphone
betrachtet werden, wie die Breitband- und Mobilnetz- als primäres Gerät für den Zugang zu Online-Nach-
versorgung in den einzelnen Ländern ist. Ebenso richten, es liegt aber mit 55 % noch knapp hinter dem
wie die Märkte aussehen und welche Kosten für Computer mit 56 %. Das Vertrauen in Medien liegt im
die Internetnutzung entstehen. Deutschland muss weltweiten Vergleich in Deutschland im oberen Drit-
sich zwar immer wieder vorhalten lassen, dass es tel. 47 % vertrauen den Medien allgemein. Der „Fall
22
im Mobilfunknetz sehr viele weiße Flecken gibt und Relotius”, ein Reporter des Magazins „Der Spiegel”,
gerade der 4G-Ausbau in ländlichen Gebieten nur der seine Reportagen erfand, war aber – laut dem
17 Reuters Digital News Report 2019 – ein Aspekt, der
ungenügend ist und Kosten für mobile Daten im
18 das Vertrauen im Vergleich zum Vorjahr um drei Pro-
europäischen Vergleich mit am höchsten sind.
Dennoch sind die Kosten für mobile Daten gemessen zentpunkte sinken ließ. Insbesondere die Nachrichten
am durchschnittlichen Nettohaushaltseinkommen im des Öffentlich-Rechtlichen Rundfunks im Fernsehen
internationalen Vergleich sehr gering. Knapp 50 % der genießen unter den Deutschen das höchste Vertrau-
Deutschen geben monatlich unter 30 Euro für ihren en, wobei die Tagesschau der ARD vor der Sendung
19 „ZDF heute„ liegt. Direkt danach folgen Regional- und
Mobilfunkvertrag aus (23,08 % unter 20 Euro). Bei
einem durchschnittlichen Nettohaushaltseinkommen Lokalzeitungen. Überregionale Zeitungen wie die Süd-
20 deutsche Zeitung, die Frankfurter Allgemeine Zeitung,
von 3.661 Euro sind das (bei zugrunde gelegten 20
oder Wochenmagazine wie Focus und Der Spiegel
folgen erst auf den weiteren Plätzen.
Nachrichtenkonsum (Deutschland)
Das Vertrauen in Nachrichten, die über Social Media
Quelle: Reuters Digital News Report 2019

konsumiert werden, ist dagegen unter den Deutschen


Print 34% eher gering. Nur 16 % vertrauen den Nachrichten, die
sie hierüber bekommen. 27 % vertrauen allerdings
Nachrichten, die sie über eine Suchmaschine finden.
Online-Quellen inkl. Social Media 68% Schaut man sich an, über welche sozialen Plattfor-
men Nachrichten konsumiert werden, dann liegt
Tablet Facebook mit 22 % ganz oben. YouTube konnte vier
TV 72%
Prozentpunkte zum Vorjahr hinzugewinnen und liegt
mit 19 % auf Platz zwei und auch WhatsApp konnte
0% 40% 80% sich um zwei Prozentpunkte steigern und liegt auf
Platz drei mit 16 %. Facebook Messenger ist für den

14 18 22
Vgl. Statista 2018. Vgl. Verivox 2018. Vgl. Yuhas 2018.
15 19
Vgl. Statista 2020. Vgl. Statista 2018a.
16 20
Vgl. Black 2019. Vgl. Statistisches Bundesamt 2020.
17 21
Vgl. Balser 2019. Vgl. Initiative D21 2020.
DESINFORMATION AUF MESSENGERDIENSTEN 13

Facebook-Posting der AfD vom 16.07.2017

Konsum von Nachrichten in Deutschland mit 4 % eher der Sängerlaub, Miriam Meier und Wolf-Dieter Rühl
26
irrelevant. 22 % der Deutschen geben laut dem Reu- angesehen. Mit einer umfassenden Studie konnten
ters Report an, Nachrichten über soziale Plattformen sie aufzeigen, dass auf den sozialen Netzwerken in
23
zu teilen und nur 14 % kommentieren diese. Deutschland durchaus Falsch- und Desinformationen
verbreitet wurden. Dies waren eher keine „fabrizierten
Desinformationen bei Wahlen in Deutschland Nachrichten”, sondern vornehmlich Fälle, in denen
Aufgrund der diversen Desinformationen im US-Wahl- wahre Aussagen in falschen Kontext gesetzt wurden,
kampf – sowohl von inländischen, als auch von beziehungsweise Aussagen unvollständig wiedergege-
ausländischen Akteuren – bestand auch in Deutschland ben wurden. Durch die Studie konnte aufzeigt werden,
im Vorfeld der Bundestagswahl 2017 die Befürchtung, dass durchaus auch etablierte Medien an der Verbrei-
dass die Wahlen beeinflusst werden. Das deutsche tung dieser Falsch- und Desinformationen beteiligt wa-
Netzwerkdurchsetzungsgesetz (NetzDG), das zum Ok- ren. Bei einem Fall war die Deutsche Presse Agentur
tober 2018 in Kraft trat (also nach den Bundestagswah- (dpa) sogar der Auslöser für eine Falschinformation,
len), sollte anfänglich auch auf „Fake News” abzielen, die sich rasant verbreitete: Die dpa hatte im Falle von
wie in den einleitenden Worten zum Referentenent- mehreren Vorfällen auf dem Schorndorfer Volksfest
24
wurf beschrieben. Dieser Begriff wurde aber schnell Informationen aus einer Presseerklärung der Polizei
wieder gestrichen, da klar wurde, dass ein Gesetz nur falsch übernommen. Aus der Polizeimeldung, dass
auf rechtswidrige Inhalte abziehen kann und sowohl sich 1.000 Jugendliche mit größtenteils Migrations-
Falschnachrichten als auch Desinformationen zumeist hintergrund im Schlosspark versammelt hatten, wurde
nicht rechtswidrig sind. Ebenso gab es vor der Wahl bei der dpa die Meldung: „In der Nacht zum Sonntag
Anhörungen im Bundestag zum Thema „Social Bots”, versammelten sich laut Polizei bis zu 1000 junge
da vermutet wurde, dass automatisierte Accounts, die Leute im Schlosspark der Stadt und randalierten. ‘Bei
vorgeben, ein Mensch zu sein, die Wahlen manipulieren einem großen Teil handelte es sich wohl um Personen
27
könnten. Das Büro für Technikfolgenabschätzung beim mit Migrationshintergrund’.„ Diese Meldung der dpa
Deutschen Bundestag kam zu der Erkenntnis, dass wurde von den Redaktionen ungeprüft übernommen
25
„Social Bots” keine Bedrohung darstellen. und verbreitete sich so vornehmlich über die Stuttgar-
ter Nachrichten, Welt und den SWR (jeweils online). Die
Ob und wie Desinformationen im Vorfeld der Bundes- Alternative für Deutschland (AfD) griff diese Meldung
tagswahl 2017 verbreitet wurden, haben sich Alexan- auf und nutzte sie für ihre politischen Zwecke.

23 26
Vgl. Newman et al. 2019. Vgl. Sängerlaub, Meier, and Rühl 2018.
24 27
Vgl. Bundesministerium der Justiz und für Verbraucherschutz 2017. zitiert nach ebd.
25
Vgl. Kind et al. 2017.
DESINFORMATION AUF MESSENGERDIENSTEN 14

29
Die Studie zeigte, dass es keine größeren Desinforma- aufzurufen. Darüber, dass im großen Stil Falsch-
tionen, insbesondere keine Desinformationskampag- oder Desinformation über Messenger während des
nen vor der Wahl gab. Die Reichweiten der untersuch- Wahlkampfs versendet wurde, liegen keine Informa-
ten Fallbeispiele seien überschaubar gewesen, solange tionen vor. Ebenfalls wurde in Deutschland bislang
nicht etablierte Medien an der Verbreitung beteiligt noch nicht ausführlich untersucht, wie die Deutschen
gewesen waren. Das Autorenteam kam außerdem Gruppen auf Messengern verwenden. Der Reuters
zum Ergebnis, dass die meisten verbreiteten Falsch- Digital News Report 2019 betrachtet im Kapitel über
und Desinformationen mit dem Thema „Flüchtlinge” Gruppen Deutschland beispielsweise gar nicht in
und „Migranten” zu tun hatten und vornehmlich von Bezug auf den Nachrichtenkonsum auf Messengern.
der AfD aufgegriffen wurden. Deren Wählerinnen und Auch im Länderbericht zu Deutschland finden Grup-
Wähler konsumieren ihre „Nachrichten” aufgrund von pen keinerlei Beachtung. Es ist daher anzunehmen,
mangelndem Vertrauen in etablierte Medien vornehm- dass (große) Gruppen, insbesondere solche mit Men-
lich über Social Media und über rechtspopulistische schen, die einem nicht bekannt sind, sowohl für die
Portale wie beispielsweise die Epoch Times. Die Studie politische Kommunikation als auch für den Nachrich-
konnte ebenfalls durch eine Befragung tenkonsum in Deutschland in der Breite
von Wählerinnen und Wählern zeigen, bislang weniger relevant sind.
dass diese Falsch- und Desinformatio-
„Durch die Verbrei-
nen vor allem deshalb glaubten, weil sie tung über Messenger Die (steigende) Bedeutung von Gruppen
in ihr Weltbild passen. werden rechtsradi- auf Messengern zeigt sich bei einem
kale Inhalte Teil der Blick auf deren Nutzung durch Rechts-
Der Journalist Karsten Schmehl zeig- alltäglichen Kommu- radikale. Dieses Phänomen hat bei-
te durch eine umfassende Recherche spielsweise die Amadeu-Antonio-Stif-
während des Bundestagswahlkampfes,
nikation und dadurch tung genauer untersucht.30 Durch
dass „manipulative” Kampagnen auf normalisiert.“ rechtsradikale Terroranschläge in Halle
Twitter nicht durch (Social) Bots, sondern und Hanau fanden diese Netzwerke auf
durch koordinierte Aktionen von Menschen, sogenannten Messengern, die auch gerne „Dark Social” genannt
28
„Trollen” durchgeführt wurden . So twitterten zum im werden, auch in der Presse mehr Beachtung.
Fernsehen gesendeten „Kanzlerduell” mehrere hundert
Menschen, die dem rechten Spektrum zuzuordnen sind, Eine der bekanntesten und größten deutschsprachi-
sowohl unter dem Hashtag #Kanzlerduell, als auch #Ver- gen Gruppen Rechtsradikaler, die sich auf Telegram
räterduell. Zuvor hatten sie in 4Chan-Foren zahlreiche findet, ist die Gruppe des Frontmanns der Identitären
Memes entwickelt, mit denen sie die Bundestagswahl Bewegung, Martin Sellner. Er wurde auf Facebook und
beeinflussen wollten. Die eigentliche Aktion wurde über Instagram gesperrt und wechselte daher zu diesem
den Messenger Discord organisiert und koordiniert, Messenger. Auch, weil aus dem Umfeld der US-ame-
wobei unter anderem auf Tweets der einzelnen Trolle auf rikanischen Neo-Nazi-Webseite „Daily Stormer” dazu
ihren zahlreichen Twitter-Accounts hingewiesen wurde. aufgerufen wurde, auf diesen Messengerdienst zu
Die Idee war, dass andere diese sowohl liken als auch wechseln. Während auf WhatsApp Gruppen auf maxi-
retweeten sollten, um damit die Reichweite zu steigern mal 256 Mitglieder beschränkt sind, können diese bei
und den Hashtag #Verräterduell in Deutschland unter die Telegram bis zu 200.000 Menschen umfassen. Kanäle
Twitter-Trends zu bringen, was ihnen aber nicht gelang. auf Telegram wiederum können von unendlich vielen
Stattdessen wurde beschlossen, sich wieder auf Aktio- Menschen abonniert werden. Zwar gibt Telegram, das
nen bei YouTube zu konzentrieren. seinen Unternehmenssitz von Russland nach Dubai
verlagerte, an, dass es im Falle einer richterlichen
Messenger in der politischen Kommunikation Anordnung IP-Adressen und Telefonnummern von
Die Messengerisierung der Kommunikation, wie der Accounts herausgeben würde. Der Messenger scheint
Politikberater Martin Fuchs es beschreibt, ist in der poli- dennoch aktuell für die Verbreitung von rechtsradi-
tischen Kommunikation noch ein Randphänomen. Zwar kalen Inhalten am attraktivsten (ähnliches gilt für
wurden bei der Bundestagswahl 2017 Messenger wie islamistische Inhalte), vermutlich vor allem, um all
WhatsApp von Parteien genutzt, allerdings lag der Fokus diejenigen zu erreichen, die sich nicht auf Boards wie
der Kommunikation auf den klassischen Plattformen 4Chan bewegen. Die Verbreitung rechtsradikaler Inhal-
wie Facebook und Twitter und Instagram. Die beiden te über diesen Messenger wird so Teil der alltäglichen
Volksparteien, CDU und SPD, betrieben beide eigene Kommunikation und dadurch normalisiert.
Kanäle auf Messengern. Diese waren vornehmlich an die
eigenen Parteimitglieder gerichtet, um sie mit aktuellen Der Telegram-Kanal von Martin Sellner hatte laut
Informationen zu versorgen. Am Wahltag riefen Parteien Studie der Amadeu-Antonio-Stiftung im September
dazu auf, Freunde und Familie über WhatsApp – teils 2019 39.000 Abonnentinnen und Abonnenten. Über
mit vorgefertigten Botschaften – zum Wählen gehen den Kanal verbreitet er vor allem Links zu seinen

28
Vgl. Schmehl 2017.
29
Vgl. Voigt and Seidenglanz 2017.
30
Vgl. Dittrich et al. 2020.
DESINFORMATION AUF MESSENGERDIENSTEN 15

Untersuchte Telegram-Kanäle und -Gruppen Rechtsradikaler in Deutschland


Größenaufteilung der Größenaufteilung der
ausgewerteten Telegram-Kanäle ausgewerteten Telegram-Gruppen
2
(Gesamt 197) (Gesamt 38)
6 16 4
14

Quelle: https://www.amadeu-antonio-stiftung.de/wp-content/
4
13

uploads/2020/01/Monitoring_2020_web.pdf (Seite 17)


62
56

17
41

< 100 5.000 - 9.999 < 100 300 - 1.000


100 - 499 10.000 - 30.000 100 - 299 > 1.000
500 - 999 > 30.000
1.000 - 4.999

YouTube-Videos, Memes, oder andere Videos und gen Alphabetisierungsrate (Frauen 66 %, Männer 82 %,
31
fordert dazu auf, lokale Gruppen zu gründen, um sich Stand 2018). Die Möglichkeit, über einen Messenger
zu vernetzen. Telegram bietet die Möglichkeit, sich wie WhatsApp sowohl Bilddateien als auch Sprachnach-
Nutzerinnen und Nutzer in der Umgebung anzeigen zu richten zu verschicken, hat für viele Menschen neue
lassen und zu Gruppen hinzuzufügen. Das heißt, es ist Möglichkeiten der Kommunikation geschaffen. Auch die
nicht notwendig, die Telefonnummer einer Person zu sinkenden Preise für Datenvolumen haben dazu beige-
haben, um sie – wie bei WhatsApp notwendig – in eine tragen, dass es leichter wurde, diese Formate zu nutzen.
Gruppe hinzuzufügen. Rechtsradikale machen sich
diese Funktion laut der Studie besonders zu nutze. Seit 2003 steigt in Indien die Nutzung von Mobiltele-
fonen, seit 2013 insbesondere die von Smartphones.
Die Amadeu-Antonio-Stiftung schaute sich 197 Die Nutzung des mobilen Internets war aufgrund
Telegram Kanäle und 38 Gruppen Rechtsradikaler des Telekommarktes und hoher Kosten für Lizenzen
an. Anhand der dort verbreiteten und untersuchten für die 3G- und 4G-Frequenzen teuer. Zudem kon-
Inhalte konnten sie zeigen, dass diese Gruppen und zentrierte sich der Ausbau des Netzes auf urbane
Kanäle vornehmlich als News-Aggregatoren genutzt Gegenden. Der ländliche Raum ist auch heute oft
werden, aber auch als Raum für die Community von nur mit 2G ausgestattet, was für Textnachrichten
YouTubern. Die Vernetzung von Rechtsradikalen auf ausreichend ist. 2016 trat der Anbieter Jio in den Te-
diesem Messenger sei ein essentieller Beweggrund lekommarkt ein, der zum größten Privatunternehmen
zur Nutzung dieser Gruppen und Kanäle, da diese dort Indiens, Reliance Industries, gehört. Die Verbreitung
einen „Rückzugsort„ zum Austausch haben. Auch das von Jio-Telefonen in Indien wurde durch zahlreiche
rechtsextreme Prepper Netzwerk „Nord-/Ost-/Süd-/ wettbewerbsverzerrende Maßnahmen, die durch die
Westkreuz„ und „Revolution Chemnitz„ organisierten Regierung wohlwollend ignoriert wurden, vorange-
sich hier und planten Anschläge. trieben: Für knapp ein Jahr war es Jio ab Ende 2016
erlaubt, kostenlose Telefonanrufe und unbegrenztes
Datenvolumen anzubieten. Das führte sowohl zu
Case Study Indien einer Restrukturierung des Telekommarktes als auch
zu niedrigeren Preisen für mobiles Datenvolumen.
Infrastruktur In Folge dessen bewegt sich in Indien der Telekom-
Um das Ausmaß der Verbreitung von Falsch- und Des- markt zu einem Oligopol hin, da die anderen Anbie-
information und deren Implikationen auf die analoge ter nicht die finanziellen Ressourcen wie Reliance
Welt in Indien zu verstehen, muss man wissen, warum Industries haben, Verluste zu machen, wie sie durch
und wie es dazu kam, dass WhatsApp dort so weit Angebote wie Jio zustande kamen. Neben dem deut-
verbreitet ist. Indien ist ein Land mit einer relativ gerin- lich günstiger gewordenen Datenvolumen sind auch

31
Vgl. Statista 2019a.
DESINFORMATION AUF MESSENGERDIENSTEN 16

die Kosten für Smartphones in den vergangenen (49 %) äußern Bedenken, dass das öffentliche Äußern
32
zehn Jahren um 16 % gesunken. der eigenen politischen Meinung Familie und Freun-
de anders über sie denken lässt. 50 % haben diese
Nachrichtenkonsum Bedenken gegenüber der Meinung von Kollegen und
Indien ist ein mobile-first Markt – gerade auch bei Bekannten, und gar 55 % befürchten, dass ihre öffent-
Nachrichten. Das heißt, dass das hauptsächlich liche Meinungsäußerung zu Problemen mit Behörden
genutzte Gerät ein mobiles Endgerät, vornehmlich ein führen kann.
Smartphone, ist und nicht ein Laptop oder stationärer
Computer, wie es in vielen westlichen Ländern noch Das Vertrauen in Nachrichten ist sehr gering, wie die
der Fall ist. Grafik deutlich zeigt. Besonders frappant zeigt sich das
mangelnde Vertrauen bei den Menschen, die sich kei-
50 % der von Reuters Befragten teilen und/oder nem politischen Spektrum oder Partei zugehörig fühlen:
kommentieren (33 %) Nachrichten – vornehmlich auf 57 % der Befragten fragen sich, ob die Nachrichten, die
Facebook oder über WhatsApp. Fast genauso viele sie erhalten, echt oder manipuliert sind.

Meistgenutzte Plattformen für Nachrichtenkonsum (Indien)

82%
80%

60%
52% 52%

40%
26%
18%
20%

0%

Mehrfachnennung war möglich

Vertrauen in Nachrichten

Nachrichten allgemein sind vertrauenswürdig 36%

persönlich konsumierte Nachrichten sind vertrauenswürdig 39%

Nachrichten in Suchmaschinen sind vertrauenswürdig 45%


Reuters Digital News Report 2019

Nachrichten in Sozialen Medien sind vertrauenswürdig 34%

0% 25% 50%

Mehrfachnennung war möglich

32
Vgl. Banaji and Bhat 2019.
33
Vgl. Aneez et al. 2019.
DESINFORMATION AUF MESSENGERDIENSTEN 17

Meistgenutzte Endgeräte für Nachrichtenkonsum

80%

68
60%

Quelle: Reuters Digital News Report 2019


48
45
40% 42 42 43 41
39 Computer
36
Smartphone
20% Tablet
17
3 11 3 10
0% 7
IND USA TUR BRA GER

Dr. Shakuntala Banaji und Ram Bhat haben die Ver- Ein weiterer Faktor, der das Aufkommen und die Verbrei-
breitung von Desinformation auf WhatsApp in Indien tung von Desinformationen in Indien begünstigt, sind
analysiert und dabei auch die nicht-englischsprachige Internetshutdowns, also das bewusste und zielgerich-
33
Bevölkerung befragt. In Indien führten Falsch- und tete Abschalten des Internets durch die Regierung. Dies
Desinformation bereits zu körperlichen Übergriffen, geschieht meist mit der (vorgegebenen) Intention, der
Vergewaltigungen und (Lynch-)Morden. Die beiden Verbreitung von Falsch- und Desinformation entgegen
Forscher und ihr Team haben die Verbreitung und wirken zu wollen. Stattdessen passiert das Gegenteil:
Auswirkungen von Falsch- und Desinformation Der begrenzte Zugang zu Nachrichten begünstigt die
besonders unter soziologischen und politischen As- Verbreitung von Falsch- und Desinformation. Die ein-
pekten untersucht. Dabei stellten sie zum einen fest, fachste Maßnahme gegen Desinformation – eine kurze
dass die Nutzung von WhatsApp und die Verbreitung Plausibilitätsprüfung der Information mit Hilfe einer
von Inhalten über WhatsApp gegendert sind. Das Suchmaschine – ist in diesem Fall nicht mehr möglich.
heißt, dass es einen erheblichen Unterschied zwi- Indien ist eines der führenden Länder bei Internetshut-
schen den Geschlechtern gibt in Bezug auf Zugang downs. Im Jahr 2019 wurde das Internet ganze 121
zu Smartphones, auf die Möglichkeit, diese privat Mal abgeschaltet, das zweitplatzierte Venezuela bringt
zu nutzen, auf Medienkompetenz und auch auf die 34
es lediglich auf zwölf Shutdowns im selben Zeitraum.
verfügbaren Ressourcen zur Nutzung – von Strom bis Unter den 121 Abschaltungen befindet sich auch der
Datenvolumen. Frauen sind in Indien von physischer längste jemals gemessene Shutdown der Welt: 213 Tage.
und virtueller Gewalt überproportional bedroht – noch
stärker, wenn sie einer Minderheit angehören, wie den Falsch- und Desinformation in Indien
Muslimen, Christen, Dalit oder Adivasi. Die Verbreitung von Falsch- und Desinformation wird
auch in Indien dazu genutzt, bestimmte Gruppen zu
Ebenso hat das Autorenteam herausgefunden, wer diskreditieren. Hier sind insbesondere die Gruppen
am ehesten dazu neigt, Falsch- und Desinformation betroffen, die für Gerechtigkeit, Gleichheit und für de-
sowie Hassnachrichten zu verbreiten: männliche Hin- mokratische Prozesse kämpfen. Falsch- und Desinfor-
dus jungen oder mittleren Alters, die technologisch mation wird außerdem zur Normalisierung und Legiti-
versiert sind und einer der oberen oder mittleren Kas- mierung von Diskriminierungen genutzt, ebenso wie zur
ten angehören. Und es sind am ehesten diese Men- Machtzementierung der gesellschaftlich dominanten
schen, die Gruppen auf WhatsApp erstellen und admi- Gruppen. Ein Zusammenhang zwischen dem Aufkom-
nistrieren, über die dann Falsch- und Desinformation men von Mob-Gewalt gegen Minderheiten in Indien und
verbreitet werden. Andersrum, so die Forscher, ist die WhatsApp ist erkennbar.
Wahrscheinlichkeit deutlich geringer, dass jemand der
einer niedrigen Kaste angehört, Dalit oder Muslim ist 86 % der Opfer von Mob-Gewalt sind Männer, und
und/oder weiblich und/oder im ländlichen Raum lebt, Attacken durch Mobs fanden hauptsächlich in Bun-
sowie technisch eher weniger versiert ist, eine solche desstaaten statt, in denen die hindunationalistische
Gruppe gründet und administriert. Bharatiya Janata Party (BJP) an der Macht ist.

33
Vgl. Banaji and Bhat 2019.
34
Vgl. Mohan 2020.
DESINFORMATION AUF MESSENGERDIENSTEN 18

Die meisten Attacken basieren auf einem vorgegebenen Falsch- und Desinformation heraus. So zum Beispiel
„Schutz von Kühen„: Im Hinduismus gelten Kühe als hei- das sinkende Vertrauen in klassische Medien, da die
lige Tiere und dürfen nicht getötet werden. Der zweite Befragten glauben, dass diese ihnen „echte” Nach-
Grund sind Gerüchte über „Fremde”, die Kinder entfüh- richten vorenthalten würden. „Echte Nachrichten„,
ren und/oder illegalen Organhandel betrieben. Auch hier so die Befragten, bekämen sie nur über WhatsApp
zeigt sich ein deutliches Muster bezüglich Kaste und und andere soziale Netzwerke. Ein weiterer Effekt
Religion von Tätern als auch Opfern. ist, dass ein militanter Nationalismus gestärkt, und
gleichzeitig suggeriert wird, dass die Hegemonie der
Messenger spielten im Falle von Mob-Gewalt mindes- herrschenden Gruppe nicht in Frage zu stellen ist.
tens eine von drei Rollen: 1. Verbreitung von Informa-
tionen über Personen, die später dem Mob zum Opfer Es wird außerdem eine (hinduistische) Opferrolle kon-
fielen, 2. die schnelle Mobilisierung des Lynchmobs, struiert, die vor allem auf Verschwörungserzählungen
und 3. die Verbreitung von Bildern und Videos nach gegen Muslime beruht. Das Zugehörigkeitsgefühl zu
der Gewalttat durch die Täter oder Schaulustige. den einzelnen religiösen Gruppen wird durch verbreite-
Die Verbreitung der Bildmaterialien führt zudem zu te Falsch- und Desinformation ebenfalls durch ein „wir
weiterer Gewalt, Angst und Spannungen. gegen die”-Narrativ gestärkt. Inhalte, die einen starken
Geschlechtsbezug haben, sich mit pornographischen,
Banaji und Bhat haben in ihrer Studie fünf verschiedene gewalttätigen und voyeuristischen Inhalten vor allem
Kategorien herausgearbeitet, in welche sich verbreitete gegen Frauen richten, beziehungsweise Inhalte, die
Falsch- und Desinformationen in Indien einordnen lassen: Frauen lächerlich machen und diskreditieren, bewirken
Schockierende Inhalte (Unfälle, Leichen, Naturkata- bei Frauen unter anderem generelle Angst, aber auch
strophen, Gewalt), Nationalismus und ethno-religiöse- Angst vor Technologie im Speziellen, Selbstzensur und
Bigotterie, Religion, Gender, sowie Verschiedenes. Unter Depressionen, bis hin zum Suizid.
Verschiedenes wurde alles subsumiert, das nicht zu
Gewalt führte, aber von denselben Leuten weitergeleitet Banaji und Bhat weisen explizit darauf hin, dass
wurde, die auch zu Gewalt führende Inhalte verbreiteten. WhatsApp und andere soziale Netzwerke nicht die
Die Bedeutung der Inhalte, die unter „Verschiedenes” Ursache für Mob-Gewalt sind, die durch Falsch- und
zusammengefasst wurden, ist nicht zu unterschätzen. Desinformation ausgelöst wird. Gleichwohl ist es
Diese Inhalte sorgen in den Gruppen für normale, tag- durch soziale Netzwerke und Messenger weitaus
tägliche Inhalte (beispielsweise Tiervideos, Rezepte oder einfacher und schneller möglich, die dafür notwendi-
Videos von singenden Kindern), die ein Grundrauschen gen Nachrichten zur Anstachelung zu versenden. Die
erzeugen. Solche Inhalte, die bei allen Gruppenmitglie- Plattformen, insbesondere WhatsApp, spielen also
dern positive Emotionen auslösen, erzeugen außerdem durchaus eine kritische Rolle. Essentiell sei es aber,
ein größeres Zugehörigkeitsgefühl zur Gruppe. so die Autoren, die tief verwurzelten Probleme von
Ungleichheit, Vorurteilen bezüglich Religion, Kaste
Aus den zahlreichen Interviews, die für die Studie ge- oder Herkunft zu beseitigen, ebenso wie Rassismus,
führt wurden, kristallisierten sich diverse Effekte von Frauenhass und jegliche Propaganda. Die Regulie-
rung von Technologie alleine bringe nicht die Lösung.
Das bereits erwähnte Abschalten des Internets, wie
es in Indien passiert, verstärke das Problem zudem.

Gründe für das Teilen von


Falsch- und Desinformationen
Menschen, die Falsch- und Desinformationen
verbreiten, ist oftmals nicht bewusst, dass sie dies
tun. Auch in Indien werden vornehmlich visuelle
Inhalte ungeprüft und unkritisch in persönlichen
Nachrichten oder in Gruppen weitergeleitet. Gerade
Ältere neigen dazu, so die Untersuchung von Banaji
und Bhat, die Inhalte, die sie von vertrauenswürdi-
gen Menschen ihrer Community erhalten haben,
zu glauben und sie daraufhin weiterzuleiten. Ein
Beweggrund scheint zu sein, dass sie es als ihre ge-
Auf WhatsApp verbreitetes Bild, welches Nationa- sellschaftliche Pflicht verstehen, andere zu warnen.
lismus und sexuelle Gewalt kombiniert. Nach dem Die Interviews zeigten, dass der soziale Status des
Selbstmordanschlag in Pulawa, Kaschmir, zu Beginn ersten Versenders einen enorm wichtigen Faktor
des Jahres 2019 wurde dieses Bild weit verbreitet. darstellt. Je höher das Ansehen der Person in einer
Der Text auf dem Bild lässt sich in etwa übersetzen Gruppe, desto wahrscheinlicher ist es, dass auch ei-
als „Mit einem Schwur auf deine Mutter, leite das gentlich völlig unglaubwürdige Inhalte ernst genom-
weiter! Sieg für Hindustan!„ men und weiterverbreitet werden.
DESINFORMATION AUF MESSENGERDIENSTEN 19

Ein zusätzliches Problem ist, dass sich Menschen den Case Study Brasilien
Status einer respektablen und vertrauenswürdigen
Person innerhalb einer Community erarbeiten wollen, Infrastruktur
indem sie die Ersten sind, die über ein lokales Ereignis Breitbandanschlüsse sind in Brasilien noch immer sehr
„Informationen” haben. Sie positionieren sich dadurch teuer und können bis zu 15% eines Haushaltseinkommens
als Amateurreporter, die diese „Informationen” zuerst kosten. Flatrates, insbesondere für mobiles Datenvolumen,
über WhatsApp bereitstellen können. Um der oder die sind kaum erhältlich. Die breite Nutzung von WhatsApp
Erste sein zu können, wird sich daher oft an bereits wird durch sogenanntes „Zero-Rating” möglich: Hier
existierendem Bildmaterial bedient, das nicht den bieten die Telekomanbieter ihren Kundinnen und Kunden
echten Vorfall zeigt, dies aber suggerieren soll. In den die kostenlose Datennutzung für bestimmte Dienste
Interviews wurde zudem häufig die Vermutung ge- an, das heißt, dass diese nicht auf das Datenvolumen
äußert, dass das Fernsehen nicht über diverse lokale angerechnet werden. In Brasilien gilt dies besonders für
Vorfälle berichten würde, um sie zu vertuschen. Hier Facebook, WhatsApp und Twitter. Das hat zur Folge, dass
würde sich eine eklatante Lücke im Lokaljournalismus normale Webseiten auf denen gegebenenfalls kursierende
zeigen, so die Studie. Journalistinnen und Journalisten, Falschnachrichten als solche entlarvt werden, eher nicht
die lokale Gegebenheiten kennen und verstehen und aufgerufen werden, weil dafür Datenvolumen genutzt
daher über das berichten können, was eine lokale Ge- werden müsste (das möglicherweise bereits aufgebraucht
meinschaft als wichtig und relevant betrachtet, können wurde). Das betrifft auch News-Webseiten sowie News
dafür sorgen, dass sich der „Bedarf„ nach Amateurre- Apps, sofern der Telekomanbieter mit dem News-Anbieter
36
portern verringert. Diese wollen eine zumindest antizi- keinen Zero-Rating-Deal abgeschlossen hat . Trotz ver-
pierte Lücke in der Berichterstattung von Ereignissen gleichsweise hoher Kosten für den Internetzugang geben
vor Ort füllen, arbeiten dabei aber oftmals nicht nach aber 22 % der Brasilianerinnen und Brasilianer Geld für
35 37
journalistischen Standards. Online-Nachrichten aus (in Deutschland sind es nur 8 %) .

Meistgenutzte Plattformen für Nachrichten (Brasilien)


60%
54% 53%

30%
26%

15%

0%

Meistgenutzte Endgeräte für Nachrichtenkonsum (Brasilien)

Tablet 11%

Computer 55%
Quelle: Reuters Digital News Report 2019

Fernsehen 73%

Tablet
Smartphone 77%

0% 40% 80%

Mehrfachnennung war möglich

35
Vgl. Banaji and Bhat 2019.
36
Vgl. Belli 2018.
37
Vgl. Newman et al. 2019.
DESINFORMATION AUF MESSENGERDIENSTEN 20

40
Nachrichtenkonsum und Brasilianer„, „Bolsominions” und Influencer. Die
Laut der Reuters-Studie haben Brasilianerinnen und Mehrheit lässt sich den „einfachen Brasilianerinnen und
Brasilianer von allen untersuchten Ländern weltweit die Brasilianern„ zuordnen, also Menschen, aller sozialen
38
größten Sorgen bezüglich Falsch- und Desinformation. Klassen und Geschlechter, die aufgrund ihrer persön-
lichen Lebenserfahrungen, aber auch aufgrund ihrer
Präsidentschaftswahlen 2018 rechten beziehungsweise rechtsextremen politischen
WhatsApp hatte eine Schlüsselfunktion bei der Wahl Grundhaltung dazu tendieren Bolsonaro zu wählen. Ge-
von Präsident Jair Bolsonaro. Neben sozialen Netzwer- rade unter ihnen mangelt es erheblich an Vertrauen in die
ken nutzte der damalige Präsidentschaftskandidat vor klassischen Medien. WhatsApp-Gruppen werden hier ge-
allem den Messenger für die Verbreitung von Propagan- nutzt, um an die „echten” Informationen zu kommen, die
da. Obwohl er in der ersten Runde der Präsidentschafts- die klassischen Medien angeblich verschweigen würden.
wahlen nur acht Sekunden an Wahlwerbung pro Tag Ihre Ansichten finden hier Bestätigung, außerdem gelan-
im Fernsehen ausstrahlen lies, konnte er mit Hilfe des gen sie dort an weitere Informationen sowie Memes zum
Messengers und der dort verbreite- Weiterleiten, um andere von Bolso-
ten Botschaften, seiner Kampagne naro zu überzeugen, beziehungswei-
den nötigen Schub geben. „58 % der Brasilianerinnen se ihre Meinung in anderen sozialen
und Brasilianer teilen Nach- Communities zu legitimieren und zu
Laut dem Reuters Digital News richten über soziale Medien, untermauern.
Report 2019 ist das Vertrauen der Messenger oder per Email
Brasilianerinnen und Brasilianer in Die „Bolsominions” sind die
und 36 % kommentieren
Nachrichten von 2018 auf 2019 „Freiwilligenarmee” Bolsonaros, die
um 11 Prozentpunkte auf 48 % diese online.“ ihm loyal ergeben sind. Sie sind es,
gesunken. Dies wird in Zusammen- die die Gruppen einrichten und ad-
hang mit den Präsidentschaftswahlen gebracht, die eine ministrieren und unliebsame Mitglieder sowie Kritiker
erhebliche politische Polarisierung erzeugte zwischen den aus der Gruppe verbannen. Bereits Nachfragen, warum
linken und rechten Medien, die die jeweiligen Kandidaten Bolsonaro nicht an Fernsehdebatten teilnahm, sollen
unterstützten. Bolsonaro nutzte nebst WhatsApp auch zum Ausschluss aus Gruppen geführt haben. Andere
Twitter intensiv und machte diverse Live-Auftritte bei Fa- Rückfragen von einfachen Mitgliedern der Gruppe führ-
cebook. Das veränderte auch Arbeit und die Berichterstat- ten dazu, dass diese von „Bolsominions” mit Argumen-
tung von Journalistinnen und Journalisten erheblich: Um ten bombardiert wurden, die auf Falschnachrichten
auf dem neusten Stand zu sein und keine Ankündigung zu basierten.
verpassen, mussten sie vor allem die Social-Media-Auftritte
von Bolsonaro und seinen Verbündeten im Blick haben. „Influencer” machen etwa 5 % der Mitglieder von
Nach seiner Wahl gab Bolsonaro beispielsweise 14 seiner WhatsApp-Gruppen aus. Sie partizipieren kaum
22 Ministerinnen und Minister über Twitter bekannt. aktiv, entwickeln und gestalten aber die Inhalte, die
über die Gruppen (und darüber hinaus) geteilt und
Gruppen, insbesondere auf WhatsApp, wurden von verbreitet werden, wozu vor allem visuelle Inhalte
Bolsonaro-Anhängern intensiv genutzt, um Propagan- wie Bilder und Videos gehören. Sie haben ein gutes
da, Falsch- und Desinformationen zu verbreiten. Bra- Gefühl dafür, welche Inhalte viral gehen werden, und
silien liegt im weltweiten Vergleich an der Spitze von sind in der Lage schnell auf aktuelle Ereignisse zu
Ländern, in denen Gruppen auf WhatsApp genutzt reagieren. Damit sind sie teils deutlich schneller als
werden – sowohl mit Menschen, die einem bekannt klassische Medien, die manchmal Nachrichten nicht
sind, als auch mit Fremden. 22 % der Brasilianerinnen aufgreifen weil sie sie als irrelevant einstufen. So
und Brasilianer nutzen Gruppen auf WhatsApp für ih- wurde zum Beispiel Marine Le Pen, Vorsitzende der
ren Nachrichtenkonsum und für den Austausch über französischen rechtsextremen Partei Rassemblement
Politik, 18 % nutzen dafür den Facebook Newsfeed. National (bis Juni 2018 Front National), nach Kritik
Nur in der Türkei ist der Anteil an Nutzerinnen und an Bolsonaro als Kommunistin bezeichnet und dies
Nutzern von Gruppen für diese Zwecke noch höher. als Meme verbreitet. Während der ersten Runde der
In den Gruppen diskutieren 58 % der Brasilianerin- Wahlen wurden Videos verbreitet, die zeigen sollten,
nen und Brasilianer mit Unbekannten über aktuelle dass Wahlcomputer manipuliert sind und so sugge-
Nachrichten und Politik. Sie wissen also nicht, wer die rieren sollten, dass die gesamte Wahl gefälscht und
Menschen sind, die Nachrichten und Informationen nicht vertrauenswürdig ist. Des Weiteren wurden
zur Verfügung stellen, beziehungsweise diese selber Links zu Facebook-Posts und YouTube-Videos geteilt,
39
als Nachricht eingeben und versenden. die Bolsonaro herausforderten oder ihn kritisierten.
Durch das Teilen der Links in den Unterstützergrup-
Innerhalb dieser Gruppen ließen sich drei Kategorien von pen wurden diese Inhalte mit massenhaft negati-
Teilnehmenden festmachen: „einfache Brasilianerinnen ven Kommentaren und/oder Dislikes (im Falle von

38
Vgl. Newman et al. 2019.
39
Vgl. Newman et al. 2019.
40
Vgl. Nemer 2018.
DESINFORMATION AUF MESSENGERDIENSTEN 21

YouTube-Videos) überzogen. Solches Aktivieren von einer Veranstaltung im September 2018 mit einem
Gruppen, beziehungsweise Massen, kann weltweit Messer angegriffen und ins Krankenhaus eingewie-
beobachtet werden: sowohl bei Unterstützern von sen wurde, verbreiteten seine Gegner Bilder, die ihn
41
Präsident Rodrigo Duterte auf den Philippinen, bei unverletzt im Krankenhaus zeigen. Diese Bilder waren
der russischen „Trollarmee”, der Internet Research echt, stammten allerdings aus der Zeit vor dem An-
42
Agency, als auch in Deutschland während des im TV griff – sie standen also nicht im Zusammenhang zur
43 44
übertragenen Kanzlerduells 2018. Einlieferung aufgrund der Attacke.

Die Verbreitung von Falsch- und Desinformationen Es gab zudem einen quantitativen Unterschied: Bei einer
war und ist aber kein alleiniges Problem des rechten Untersuchung der Inhalte von mehreren politischen
Spektrums. Auch Bolsonaros Gegner, Fernando Had- brasilianischen WhatsApp-Gruppen zeigte sich, dass das
dad, beziehungsweise seine Unterstützer, verbreiteten rechte Spektrum mit 46,5 % aller Nachrichten, deutlich
solche in WhatsApp-Gruppen und auf anderen Ka- mehr Multimedia-Inhalte, also Bilder, Videos und Sprach-
45
nälen. Nachdem Bolsonaro beispielsweise während nachrichten teilte, als das linke Spektrum (30 %).

Facebook-/WhatsApp-Gruppen als Nachrichtenquelle


Land Facebook-Gruppen WhatsApp-Gruppen
für Nachrichten / Politik für Nachrichten / Politik

Türkei 29% 21%

Brasilien 22% 18%

Malaysia 17% 15%

USA 14% 10%

Spanien 13% 8%

Großbritannien 8% 2%

Irland 7% 4%

Kanada 7% 8%

Australien 7% 6%

Anteil Whatsapp Nutzender, die in Gruppen sind


deren Mitglieder sie nicht kennen

80%

60%
Quelle: Reuters Digital News Report 2019

40%
65%
58% 60%

40% 42%
20%
27% 30% 34%

12%
0%

41 44
Vgl. Palatino 2017. Vgl. Tardáguila, Benevenuto, and Ortellado 2018.
42 45
Vgl. Chen 2015. Vgl. Morris 2019.
43
Vgl. Schmehl 2017.
DESINFORMATION AUF MESSENGERDIENSTEN 22

Beim Vergleich der drei betrachteten Länder zeigt sich, Gefühl vieler Menschen begegnet werden kann, dass
dass es bislang nur in Indien und Brasilien erhebliche über wichtige Ereignisse vor Ort angeblich nicht berich-
Probleme mit Desinformation auf Messengerdiensten tet wird, beziehungsweise der Eindruck entsteht, dass
gab und gibt. In Deutschland hat Ereignisse bewusst verschwiegen
dieses Problem noch lange nicht werden. Auch mangelndes Vertrau-
den Stellenwert im Diskurs, den „Generell zeigt sich überall – en in Regierungen ist ein wichtiger
es haben sollte, um rechtzeitig am deutlichsten bislang jedoch Faktor.
und vorbeugend zu agieren. Dass in Indien und Brasilien –,
sich Desinformationen auch auf dass das gesellschaftliche Generell zeigt sich überall – am
Messengern nicht nur zügiger, deutlichsten bislang jedoch in Indi-
sondern auch in höherer Schlag-
und politische Klima den
en und Brasilien –, dass das gesell-
zahl in Deutschland verbreiten Nährboden für die Verbreitung schaftliche und politische Klima den
werden, ist abzusehen. Zum von Desinformation bildet.“ Nährboden für die Verbreitung von
einen, weil auch in Deutschland Desinformation bildet. Sowohl die
immer mehr Menschen ein Smartphone besitzen und aktuelle indische als auch die brasilianische Regierung
dies vorrangig nutzen, um zu kommunizieren oder das befeuern durch Äußerungen und politisches Handeln
Internet zu benutzen. Das heißt ausdrücklich nicht, Nationalismus, Rassismus, Hass gegenüber (religiösen)
dass Smartphones oder das Internet ursächlich für die Minderheiten, Sexismus, und so weiter. Gerade Desin-
Verbreitung von Desinformation sind, wohl aber, dass formationen, die darauf aufbauen, verbreiten sich stark
auf das geänderte Konsumverhalten bei Nachrichten und schnell. Die Bekämpfung von Desinformation muss
und Informationen eingegangen werden muss. deutlich umfassender und umfangreicher erfolgen. Der
Kampf gegen Desinformation wird erheblich erschwert,
Ein weiteres Problem in allen drei betrachteten Ländern wenn die Regierung eines Landes eigentlich Nutznießer
ist das teilweise stark sinkende Vertrauen in Medien. der gesellschaftlichen Zerrüttung durch Desinformation
Hier müssen Lösungen gefunden werden, wie das ist: In diesem Fall wird sie die Verbreitung mindestens
Vertrauen wieder gestärkt werden kann. Dazu gehört tolerieren, wenn nicht gar begrüßen. Letzteres ist für
auch, dass Modelle gefunden werden müssen, wie Deutschland sicher nicht der Fall. Doch auch hier gilt,
Journalismus im digitalen Zeitalter finanziert werden dass die Regierung bessere Antworten auf wirtschaftli-
kann. Nachrichten und Information dürfen kein Luxus- che, soziale und gesellschaftliche Probleme finden muss,
gut werden. Ein ebenso wichtiger Punkt ist, wie dem um Desinformationen den Nährboden zu entziehen.

Policy Empfehlungen
1. Probleme korrekt benennen der Distribution der Falsch- und Desinformation deut-
J Komplexität der Problematik anerkennen licher zu betrachten. Das Gleiche gilt für die Inhalte,
Um Falsch- und Desinformationen zu bekämpfen beziehungsweise deren Formate. Es ist notwendig
braucht es einen holistischen Ansatz. Die Regulierung zu benennen und zu betonen, welches Format die
von Plattformen allein reicht nicht. Grundlegend für Falsch- und Desinformation hatte, insbesondere weil
den Umgang mit dieser Komplexität ist die Nutzung zu häufig implizit von Text ausgegangen wird. Dabei
geeigneter Begriffe. Um Probleme lösen zu können, ist Bild- und Videomaterial deutlich verbreiteter und
ist es essentiell, sie korrekt zu definieren und zu einprägsamer, und Sprachnachrichten werden gene-
benennen. Das passiert beim Thema Desinformation rell immer beliebter.
noch zu selten. Insbesondere in Politik und Medien
wird zu häufig pauschal mit dem Begriff „Fake News” Politik, aber auch Journalismus und Gesellschaft
hantiert und damit sowohl Falsch- als auch Desin- müssen sich bewusst sein, dass Falsch- und Des-
formationen gemeint. Der Begriff „Fake News” wird informationen kein neues Phänomen sind. Soziale
außerdem dazu genutzt – und das ist vermutlich Netzwerke und Messenger verstärken jedoch deren
das Problematischste –, Aussagen des politischen Verbreitung erheblich, und durch den veränderten
Gegners zu diffamieren, obwohl diese nicht falsch, Medienkonsum verstärkt sich hier die Problematik
insbesondere nicht böswillig falsch sind, sondern nur zusätzlich. Dem Vertrauensverlust in Staat und in
nicht genehm sind. Medien, globalen Information Wars und dem Glauben
an Verschwörungserzählungen sowie dem leichtsin-
Zur korrekten Benennung der Probleme und Phäno- nigen Umgang mit digitalen Medien kann aber nicht
mene gehört auch, die verschiedenen Ebenen in den ausschließlich mit der Regulierung von digitalen
Fokus zu nehmen. Das heißt beispielsweise, die Wege Plattformen begegnet werden.
DESINFORMATION AUF MESSENGERDIENSTEN 23

2. Verantwortung von Politik und Diplomatie WhatsApp beispielsweise weltweit eingeführt, dass
J Diplomatie und Außenpolitik müssen stärker Nachrichten, die an jemanden weitergeleitet wurden,
auf den menschenrechtlichen Aspekt von als „weitergeleitet” gekennzeichnet werden. Daran ist
Desinformation hinweisen erkennbar, dass ein Inhalt nicht originär vom Sender
Gerade die Beispiele aus Brasilien und Indien haben kommt. Die Anzeige kann zwar durch das etwas
gezeigt, dass Desinformationen so gut wirken und umständliche Abspeichern des Bildes oder Kopieren
sich so schnell verbreiten, weil Regierende sie zum des Textes umgangen werden, aber es schafft etwas
einem selbst verbreiten lassen beziehungsweise die mehr Transparenz. Noch mehr Transparenz und auch
Verbreitung stillschweigend zu begrüßen scheinen. etwas Nachvollziehbarkeit kann mit einem Feature
Zum anderen wird Desinformation dazu genutzt, erreicht werden, das WhatsApp testet: das Anzeigen
die Politik und politisches Handeln zu legitimieren, der Information, wie häufig ein Inhalt weitergeleitet
46
welches mit der Verachtung bestimmter Gruppen wurde. Bereits umgesetzt – auch aufgrund der
– seien es Kasten, Religionen, Geschlechter oder Vorkommnisse in Brasilien und Indien – ist, dass
Sexualitäten – einhergeht. Diplomatie und Außen- WhatsApp nur noch die Weiterleitung an fünf Chats
politik muss hier explizit auf Missstände hinweisen, auf einmal erlaubt. Unter den fünf Chats können al-
die sowohl zu Ausschreitungen führen als auch lerdings auch Gruppen sein. Sollten diese jeweils die
Menschenrechte verletzen. Die extensiven Internets- maximale Mitgliederzahl von 256 haben, kann man
hutdowns in Indien sind ebenfalls Teil der Problema- auch so knapp 1.300 Menschen mit wenigen Klicks
47
tik. Auch hier kann der Problematik damit begegnet erreichen. Die Möglichkeiten zur Weiterleitung und
werden, dass solche Internetshutdowns thematisiert die Transparenz, beziehungsweise Nachvollziehbar-
und verurteilt werden. keit, kann also noch deutlich ausgebaut, respektive
eingeschränkt werden.
Zudem muss Internet Governance deutlich stärker
Teil der (Außen-)Politik werden. Dazu gehören Über- Selbstregulierung und die Löschung von Inhalten
legungen, wie mit Zero Rating umgegangen werden sind für die meisten Messenger aufgrund ihrer Ver-
soll. Denn gerade wenn Messenger und soziale Netz- schlüsselung eher weniger relevant. Dennoch muss
werke Teil eines Zero Ratings sind, ist es Menschen beispielsweise Telegram in den offenen Gruppen und
oft nicht möglich, Inhalte eigenständig beispielsweise Kanälen deutlich effektiver handeln und die Weiter-
auf Wikipedia oder bei vertrauenswürdigen Nachrich- verbreitung von Desinformation gegebenenfalls nach
tenangeboten zu überprüfen. einem Faktencheck mit sogenannten Fingerprints
verhindern. Faktenchecks, die dann ein Label an der
J Globale Plattformbetreiber stärker in die Falsch- oder Desinformation zur Folge haben, können
Verantwortung nehmen, Menschenrecht aber gegebenenfalls Gegenteiliges bewirken und Ver-
auf private Kommunikation wahren trauen in Medien sogar noch verringern. Denn wenn
Es müssen globale Überlegungen angestellt werden, man das Gefühl bekommt, nur noch Inhalten trauen
wie mit dem Thema Meinungsfreiheit, aber auch und zu können, die geprüft wurden, werden alle anderen
48
vor allem mit den global tätigen Konzernen respektive als nicht-vertrauenswürdig eingestuft. Unterneh-
Plattformbetreibern umgegangen werden kann und men, die Messenger anbieten, müssen deutlich mehr
soll, um diese stärker in die Verantwortung zu neh- mit staatlichen Akteuren bei der Bekämpfung von
men. Das gilt im Falle von Messengern insbesondere rechtswidrigen Inhalten zusammenarbeiten und auch
für Facebook als Inhaber von Facebook Messenger, aus eigener Verantwortung heraus ihre Nutzerinnen
Instagram und WhatsApp als auch für Telegram und und Nutzer über die Messenger informieren und auf-
Discord, um nur zwei weitere weltweit beliebte Mes- klären und einfache Möglichkeiten zur Meldung von
senger zu nennen. Ziel muss dabei aber auch immer Inhalten anbieten.
die Wahrung von Menschenrechten sein – das Recht
auf private, das heißt verschlüsselte Kommunikation J Informationen zu Desinformation am Ort des
ist eins davon. Geschehens ausspielen: direkt in den Messengern
Die Messenger selbst wären auch die ideale Plattform,
3. Verantwortung von Plattformen um über Falsch- und Desinformation (ebenso wie
und Technikgestaltung Cybermobbing und Hate Speech) auf ihnen aufzuklären
J Die Bekämpfung von Desinformation muss in der und davor zu warnen. So muss die Frage nicht (nur)
Technikgestaltung der Messenger Ausdruck finden lauten, wie NGOs und staatliche Akteure Menschen mit
Plattformen tragen eine erhebliche Verantwortung Fortbildungsmaßnahmen zu dieser Problematik errei-
bei der Bekämpfung von Falsch- und Desinformatio- chen können, sondern auch welche Verantwortung und
nen. Allein die Technikgestaltung bietet hier enorme Möglichkeiten die Messenger bei diesem Thema haben.
Möglichkeiten, die (einfache) Verbreitung einzudäm- Telegram beispielsweise informiert Nutzerinnen und
men. Als Reaktion auf den Wahlkampf in Brasilien hat Nutzer bereits heute über einen eigenen Kanal zu Up-

46
Vgl. Sagar 2019.
47
Vgl. Kastrenakes 2019.
48
Vgl. Pennycook, Bear, and Collins 2019.
DESINFORMATION AUF MESSENGERDIENSTEN 24

dates und neuen Funktionalitäten. Über solche Kanäle tungen zur Verfügung gestellt werden. Gegebenenfalls
kann ebenso eine Aufklärungskampagne funktionieren muss hier gesetzlich vorgegeben werden, dass Daten
und laufen. In Indien hat WhatsApp bereits eine Kampa- bereitgestellt werden müssen, die zum Beispiel bei einem
gne außerhalb des Messengers gestartet, um Falsch- Treuhänder anonymisiert werden und dann je nach For-
und Desinformation, so wie Hass, der zu Lynchmobs schungsfrage untersucht werden können. Des Weiteren
führt, mit Aufklärung entgegen zu braucht es gerade für Messenger
49
wirken. ethische Standards, beziehungswei-
„Studien verdeutlichen das se eine Adaption der bestehenden
4. Richtige Regulierung enorme Problem des sinken- Standards, wie Recherchen für
J „Know Thy Foe„: Forschung den Vertrauens in Medien und wissenschaftliche Zwecke und
zu Desinformation und ihrer Nachrichten, aber auch, dass Journalismus in (geschlossenen)
Verbreitung intensivieren Gruppen auf Messengern erfolgen
Menschen immer weniger
Oftmals sind Falsch- und Desin- können. Hier hat Carlotta Dotto für
formationen nicht rechtswidrig
Nachrichten konsumieren, First Draft bereits einen Vorschlag
– insbesondere nicht in liberalen weil der Blick auf Ereignisse 51
vorgelegt. Mit ihrem Paper gibt sie
Demokratien. Es darf sich hier aber zu negativ ist.“ einen Journalistinnen und Journa-
nicht die Frage stellen, ob Regulie- listen einen Leitfaden zur Recher-
rung notwendig ist, sondern wie gute Regulierung aus- che in diesem „Dark Social„ an die Hand und sensibilisiert
sehen kann. Auch muss geprüft werden, ob eine direkte zudem für ethische Fragestellungen, die sich bei dieser
Regulierung der Informationen, die verbreitet werden, Recherche ergeben.
notwendig ist oder ob nicht andere Stellschrauben sinn-
voller sind. Generell ist das Thema der Verbreitung von 5. Journalismus
Desinformation – unabhängig von der Verbreitung über J Konstruktiven (Lokal-)Journalismus stärken, um das
50
Messenger – noch zu wenig erforscht. Ein Grund dafür Vertrauen der Menschen in die Medien wieder zu erhöhen
ist unter anderem das Fehlen von Daten von Social-Me- Studien verdeutlichen das enorme Problem des sinken-
dia-Plattformen, die unabhängigen Forschungseinrich- den Vertrauens in Medien und Nachrichten, aber auch,

Hilf mit, die Verbreitung von Gerüchten


und Fake News über Whatsapp zu stoppen
1. ERKENNE NACHRICHTEN, DIE GEFÄLSCHT SEIN KÖNNTEN
Suche nach Zeichen, die dir dabei helfen zu entscheiden, ob die Informationen
gefälscht sind. Beispielsweise sind weitergeleitete Nachrichten ohne Quelle, ohne

Quelle: nach „WhatsApp Vigilantes: An exploration of citizen reception and


Beweise, oder Nachrichten die dich wütend machen alles Indizien dafür, dass eine

circulation of WhatsApp misinformation linked to mob violence in India„


Geschichte möglicherweise nicht wahr ist. Fotos, Videos und sogar Sprachauf-
nahmen können bearbeitet werden, um dich in die Irre zu führen.

2. VERGEWISSERE DICH BEI ANDEREN QUELLEN


Suche online nach Fakten und überprüfe vertrauenswürdige Nachrichten-Websites, um her-
auszufinden woher eine Geschichte stammt. Wenn du immer noch Zweifel hast, frag
fact-checker, und Menschen denen du vertraust nach weiteren
Informationen.

3. HILF MIT, DIE AUSBREITUNG ZU STOPPEN


Wenn du eine Information siehst, die gefälscht ist, sag es den Leuten und bitte sie, die
Informationen zu überprüfen, bevor sie sie weitergeben. Verbreite keine Nachricht weiter,
nur weil jemand dir das sagt – auch wenn es deine Freunde sind.

Teile Freude, keine Gerüchte.

WhatsApp Kampagne gegen die Verbreitung von Misinformation

49 52
Vgl. Banaji and Bhat 2019. Vgl. Newman et al. 2019.
50 53
Vgl. Jaursch 2019. Vgl. Haagerup 2019.
51
Vgl. Dotto, Smith, and Wardle 2019.
DESINFORMATION AUF MESSENGERDIENSTEN 25

dass Menschen immer weniger Nachrichten konsu- Wertvorstellungen und das eigene Weltbild ansprechen
52
mieren, weil der Blick auf Ereignisse zu negativ ist. und bestätigen. Jede Information zu hinterfragen ist
Der Journalismus (aber auch die adressierte Gesell- eine vermutlich unlösbare Aufgabe. Dennoch kann und
schaft) muss sich also fragen, wie Journalismus besser muss auch Bildung und Aufklärung einer der Baustei-
werden und wieder mehr Vertrauen aufbauen kann. Der ne sein, um Falsch- und Desinformation entgegen zu
dänische Journalist Ulrik Haagerup versucht beispiels- wirken. Digitale Bildung und Aufklärung darf aber kein
53
weise mit seinem Ansatz von „Constructive News” alleiniger Anspruch an schulische Bildung sein. Studien
konstruktivere Nachrichten zu produzieren und arbeitet haben gezeigt, dass vornehmlich Menschen über 65
dort mit Journalistinnen und Journalisten an einer Falsch- und Desinformation teilen – sieben Mal häufiger
56
Weiterentwicklung und Verbesserung der Berichterstat- als unter 29-jährige. Wir müssen uns also überlegen,
tung. Dabei geht es nicht darum, wie wir – auch ob der rasanten
schlechte Nachrichten auszuspa- Veränderungen durch die Digita-
ren, sondern sie in den jeweiligen „Studien haben gezeigt, dass lisierung – ein zeitgemäßes Wei-
Kontext zu setzen. So kann es bei vornehmlich Menschen über terbildungsangebot für die breite
einem konstruktiven Journalismus 65 Falsch- und Desinformation Gesellschaft schaffen können, das
sinnvoll sein, neben Berichten teilen – sieben Mal häufiger sich auch mit dem Thema Desin-
über zahlreiche Einbrüche in einer formation befasst. Eine Bundes-
als unter 29-jährige.“
Gegend mit einer Kriminalstatistik zentrale für digitale Bildung, analog
neben dem Artikel zu zeigen, dass zur Bundeszentrale für politische
generell Einbrüche zurückgehen. Dies kann bewirken, Bildung, kann eine Möglichkeit sein, Angebote für
dass Falsch- und Desinformationen, die behaupten, lebenslanges Lernen und für die Schule zur Verfügung
57
Politikerinnen und Politiker würden eine bestimmte zu stellen. Finnland zeigt bereits seit Jahren – auch
Region verkommen lassen und die Kriminalität würde aufgrund der Nähe zu Russland –, wie ein lebenslanges
seit Langem steigen, nicht mehr so viel Anklang finden. Weiterbildungsangebot zum Thema Desinformation
58
Dazu braucht es aber vor allem guten Lokaljournalis- funktionieren kann und dass es Wirkung zeigt.
mus und gute lokale Angebote, die dann wiederum die
Frage nach Bezahl- und Geschäftsmodellen eröffnen. Es braucht außerdem deutlich mehr Bewusstsein
und Aufklärung darüber, dass das Weiterleiten von
J Falsch- und Desinformation keine Reichweite rechtswidrigen Inhalten – sofern eine Desinformation
geben – Themen mit Bedacht wählen darunterfällt – strafbar ist und nicht etwas Harmloses
Redaktionen und Journalistinnen und Journalisten oder gar „Witziges”. Darüber muss nicht nur in Schulen
müssen sich auch überlegen, über was sie berichten und gesprochen werden, sondern gesamtgesellschaftlich.
54
über was nicht. Das Berichten über Falsch- und Desinfor-
mation bringt diese oftmals erst in Umlauf und zu einem Es hat sich klar gezeigt, dass ausschließlich technolo-
größeren Publikum – unabhängig vom Kanal. Es muss giefokussierte Lösungsstrategien nicht erfolgsverspre-
also diskutiert werden – und das redaktionsübergreifend chend sind. Die ausgewerteten Studien zeigen, dass
–, wie hiermit umgegangen werden kann und soll und Messengerdienste die Verbreitung von Desinforma-
welche angepassten Standards für den Journalismus im tionen durchaus leichter machen und verstärken. Sie
21. Jahrhundert gelten sollten. Denn auch das Berichten zeigen aber auch, dass vor allem mangelndes Vertrauen
über Desinformationen ist sehr häufig Teil der Strategie, in den Staat, beziehungsweise in die Regierung, einen
und das Wiederholen – auch mit Kontext – von Desinfor- wichtigen Faktor für die Weiterverbreitung von Desin-
mationen kann Menschen dazu verleiten, mindestens Teile formation darstellt. Eine ebenso große Rolle spielen
der Desinformation irgendwann zu glauben oder Zweifel zunehmender Nationalismus und Begleiterscheinungen
55
zu säen. Ebenso müssen Redaktionen Journalistinnen wie Rassismus, Sexismus und Antisemitismus. Sinken-
und Journalisten für den Umgang mit sozialen Medien des Vertrauen in Journalismus sowie fehlende lokale
allgemein schulen, insbesondere um Effekte auf den Platt- Berichterstattung sind ein zusätzliches Problem.
formen zu verstehen und sie korrekt einordnen zu können.
Es reicht nicht, wenn wir ausschließlich über Social-
6. Resiliente Gesellschaften Media-Plattformen sprechen, Desinformation nur als
J Wir brauchen eine Bundeszentrale für Problem im Zusammenhang mit Politik und Wahlkampf
Digitale Bildung und Medienbildung für sehen und das Problem vornehmlich als eine äußere
Menschen aller Altersstufen Bedrohung wahrnehmen. Um eine Lösung für das Pro-
Die Frage, wie man mit sozialen Netzwerken und blem zu finden, brauchen wir zuallererst einen breiten
Plattformen umgehen sollte, stellt sich auch für jede gesellschaftlichen Diskurs. Die Bekämpfung von Desin-
und jeden Einzelnen. Falsch- und Desinformation wird formation ist eine gesamtgesellschaftliche Aufgabe, die
zumeist durch die breite Masse und häufig unbewusst von vielen angegangen werden muss und nicht alleinig
verbreitet. Insbesondere dann, wenn sie die eigenen an Plattformbetreiber ausgelagert werden darf.

54 57
Vgl. Phillips 2018. Vgl. Riedel 2019.
55 58
Vgl. Illing 2020. Vgl. Mackintosh 2019.
56
Vgl. Guess, Nagler, and Tucker 2019.
DESINFORMATION AUF MESSENGERDIENSTEN 26

Glossar
Adivasi Doxing
Adivasi ist Sanskrit und bedeutet „erste Siedler, Doxing beschreibt das Zusammentragen und Veröf-
ursprüngliche Einwohner„. Es ist die frei gewählte fentlichen von personenbezogenen Daten (zum Bei-
Selbstbezeichnung von indigenen Bevölkerungen, spiel Anschrift, Urkunden, Briefe) im Internet mit der
auch als Stammesgesellschaften bezeichnet, in Absicht, der betroffenen Person Schaden zuzufügen,
Indien und über das heutige Indien hinausgehend. Die in manchen Fällen auch die Identifikation anony-
zentralindische Regierung erkennt die Bezeichnung mer Personen. Häufig erleiden betroffene Personen
„Adivasi„ nicht an, da dies bedeuten würde, dass weitere Drohungen oder Gewalt durch das öffentlich
diese Stammesgesellschaften länger auf indischem werden ihrer Daten (beispielsweise Angriffe vor der
Gebiet ansässig wären als die Kasten-Hindus. Die Haustür oder Telefonterror über die veröffentlichte
Adivasi gehören zusammen mit den Unberührbaren, Telefonnummer).
den Dalit, insbesondere in den Städten zu den ärms-
ten Menschen in Indien. Obwohl ihnen besondere
Minderheitenrechte zustehen, werden sie als Ausge- Fabricated News
stoßene benachteiligt.
Zu Deutsch „fabrizierte Nachrichten”, sind „Nachrich-
ten”, die frei erfunden sind.
Dalit
Die Dalit gelten im des indischen Kastensystems als Fact-Checking
„Unberührbare„, da sie außerhalb des Kastensystems
stehen, also kastenlos sind.. Zu den Unberührbaren Zu Deutsch „Faktencheck”, ist ein journalistisches
gehören ebenfalls Muslime, Buddhisten und Christen. Konzept, bei dem Aussagen anhand von rationa-
Gemeinsam mit ihnen machen die „Unberührbaren„ len und nachprüfbaren Fakten überprüft werden.
mit 240 Millionen Menschen fast ein Fünftel der indi- Social-Media-Plattformen arbeiten weltweit mit
schen Bevölkerung aus. Dalit stehen auf den unters- Fact-Checking-Organisationen zusammen, um Inhalte
ten Stufen des Kastensystems und gelten damit als auf deren Richtigkeit zu überprüfen. Auch bei TV-De-
„unrein„ und „unberührbar„, was so weit gehen kann, batten zur Präsidentschaftswahl in den USA 2016
dass selbst die „Berührung„ des Schattens vermieden wurde Fact-Checking angewendet. Deutschsprachige
wird. Sie sind besonders in ländlichen Gebieten häu- Fact-Checker sind zum Beispiel correctiv, mimikama
fig Opfer von Diskriminierung, Gewalt und Landraub. oder der Tageschau Faktenfinder.

Debunking Fingerprints
Debunking, (engl. entlarven, widerlegen), bezeichnet Mit sogenannten „Fingerabdrücken” können Videos
das Widerlegen von Falsch- oder Desinformation. eindeutig beim Hochladen auf eine Plattform iden-
Dabei wird diese Widerlegung, häufig auch mit einer tifiziert und ggf. gesperrt werden, beziehungsweise
Richtigstellung, von Fact-Checkern, Journalisten oder es kann der Upload verhindert werden. Im Gegensatz
der betroffenen Institution veröffentlicht und verbrei- zu Wasserzeichen, die eine Aufnahme verändern,
tet. Debunking ist eine Maßnahme gegen Falsch- und werden bei dem Fingerprint-Verfahren bestimmte
Desinformation. Komponenten des Materials erfasst und daraus
ein eindeutiger Fingerabdruck erstellt. Plattformen
tauschen mittlerweile Fingerabdrücke von Dateien
Deep Fakes in einer gemeinsamen Datenbank, um so schnell
rechtswidrige Inhalte zu identifizieren. Wird ein Video
Ist eine Wortschöpfung aus den Begriffen „Deep geändert, zum Beispiel gekürzt, ändert sich auch der
Learning„ und „Fake„ und bezeichnet Video- oder Fingerabdruck.
Audio-Aufnahmen, die mittels Deep Learning (eine
Technik der künstlichen Intelligenz) Aufnahmen so
verändern beziehungsweise verfälschen, dass diese Hate Speech
äußerst realistisch wirken. So können zum Beispiel
Gesichter, Mimik und Stimme auf andere Personen Hate Speech, zu Deutsch „Hassrede„, ist ein nicht
übertragen werden und so Sachverhalte in völlig juristisch definierter Begriff, der vor allem im Zusam-
anderem Kontext dargestellt werden. menhang mit herabwürdigenden Kommentaren im In-
DESINFORMATION AUF MESSENGERDIENSTEN 27

ternet verwendet wird. Dazu zählen Beleidigungen, aus dem ursprünglichen Zusammenhang gerissen
Drohungen, oder Volksverhetzungen. In Deutsch- wurden. Es können aber auch neu erstellte Inhalte
land wurde das umstrittene Netzwerkdurchset- sein. Memes sind ein Bestandteil der sogenannten
zungsgesetz (NetzDG) 2017 erlassen, das gegen Netzkultur.
rechtswidrige Inhalte, zu denen auch Hate Speech
gehören kann, vorgehen soll.
Trolle
Meme/Memes Als Trolle werden Internet-Nutzerinnen und -Nut-
zer bezeichnet, die mit ihrer Kommunikation im
Memes sind kleine Medieninhalte, meist Bilder Netz bewusst (emotionale) Reaktionen hervor-
oder Videos, die sich humoristisch, aufheiternd rufen wollen und Diskussionen gezielt stören
oder auch satirisch aufbereitete Inhalte haben. wollen. Dieses „Trollen„ kann sowohl aus eigener
Daneben gibt es auch zahlreiche „Dark Memes„ Motivation heraus entstehen, häufig sind es aber
mit deutlichem rassistischen, sexistischen, antise- orchestrierte Aktionen, für die sich die Trolle auf
mitischen usw. Inhalt die von Absendern als auch beispielsweise Messengerdiensten absprechen
häufig den Empfängern als witzig empfunden und sowohl Zielperson oder -Organisation definie-
werden. Memes werden häufig über soziale Netz- ren, als auch den Zeitpunkt. Trolle können auch
werke, aber auch über Messenger versendet. Sie von Staaten organisiert, teilweise sogar bezahlt
bedienen sich dabei häufig Fotografien, Filmaus- werden, um gezielte Aktionen im Inland oder Aus-
schnitten, Animationen oder Zeichnungen, die land durchzuführen.
DESINFORMATION AUF MESSENGERDIENSTEN 28

Literaturverzeichnis
Aneez, Zeenab, Taberez Ahmed Neyazi, Antonis Kalo- Dotto, Carlotta, Rory Smith, and Claire Wardle. 2019.
geropoulos, and Rasmus Kleis Nielsen. 2019. Reuters Closed Groups, Messaging Apps & Online Ads.
Institute India Digital News Report. Available at Available at <https://firstdraftnews.org/wp-content/
<https://reutersinstitute.politics.ox.ac.uk/sites/de- uploads/2019/11/Messaging_Apps_Digital_AW-1.
fault/files/2019-03/India_DNR_FINAL.pdf>. pdf?x31084>.

Ascott, Tom. 2020. How memes are becoming the Guess, Andrew, Jonathan Nagler, and Joshua Tucker.
new frontier of information warfare. The Strategist. 2019. Less than you think: Prevalence and predictors
Available at <https://www.aspistrategist.org.au/ of fake news dissemination on Facebook. Science
how-memes-are-becoming-the-new-frontier-of-infor- Advances 5 (1): eaau4586.
mation-warfare/>. Accessed 12 March 2020.
Haagerup, Ulrik. 2019. Constructive news: how to
Balser, Markus. 2019. 1,1 Milliarden Euro für save the media and democracy with journalism of
Mobilfunkmasten - Politik - SZ.de. Available at tomorrow.
<https://www.sueddeutsche.de/politik/digitale-in-
frastruktur-1-1-milliarden-euro-gegen-weisse-fle- Illing, Sean. 2020. The impeachment trial didn’t chan-
cken-1.4685618>. Accessed 12 March 2020. ge any minds. Here’s why. Available at <https://www.
vox.com/policy-and-politics/2020/1/16/20991816/
Banaji, Shakuntala, and Ram Bhat. 2019. WhatsApp impeachment-trial-trump-bannon-misinformation>.
Vigilantes: An exploration of citizen reception and Accessed 12 March 2020.
circulation of WhatsApp misinformation linked to mob
violence in India. Available at <http://www.lse.ac.uk/ Initiative D21. 2020. Wie digital ist Deutsch-
media-and-communications/assets/documents/rese- land? Available at <https://initiatived21.de/app/
arch/projects/WhatsApp-Misinformation-Report.pdf>. uploads/2020/02/d21_index2019_2020.pdf>.

Belli, Luca. 2018. WhatsApp skewed Brazilian electi- Jaursch, Julian. 2019. Regulatorische Reaktionen
on, proving social media’s danger to democracy. The auf Desinformation. Wie Deutschland und die EU
Conversation. Available at <http://theconversation. versuchen, gegen manipulative Meinungsmache auf
com/whatsapp-skewed-brazilian-election-proving-so- digitalen Plattformen vorzugehen. Available at
cial-medias-danger-to-democracy-106476>. Accessed <https://www.stiftung-nv.de/sites/default/files/regu-
12 March 2020. latorische_reaktionen_auf_desinformation.pdf>.

Black, Erin. 2019. Inside Discord, the gaming chat app Kastrenakes, Jacob. 2019. WhatsApp limits mes-
with as many users as Fortnite. CNBC. Available at sage forwarding in fight against misinformation.
<https://www.cnbc.com/2019/04/09/what-is-discord- The Verge. Available at <https://www.theverge.
gaming-chat-app-with-more-users-than-slack.html>. com/2019/1/21/18191455/whatsapp-forwarding-li-
Accessed 12 March 2020. mit-five-messages-misinformation-battle>. Accessed
12 March 2020.
Bundesministerium der Justiz und für Verbraucher-
schutz. 2017. Entwurf eines Gesetzes zur Verbesse- Kind, Sonja, Tobias Jetzke, Sebastian Weide, Simone
rung der Rechtsdurchsetzung in sozialen Netzwerken. Ehrenberg-Silies, and Marc Bovenschulte. 2017. Social
Available at <https://www.bmjv.de/SharedDocs/ Bots. Available at <https://www.tab-beim-bundestag.
Gesetzgebungsverfahren/Dokumente/RegE_NetzDG. de/de/pdf/publikationen/berichte/TAB-Horizon-Scan-
pdf?__blob=publicationFile&v=2>. ning-hs003.pdf>.

Chen, Adrian. 2015. The Agency. The New York Times, Mackintosh, Eliza. 2019. Finland is winning the war
sec. Magazine. Available at <https://www.nytimes. on fake news. Other nations want the blueprint. Avai-
com/2015/06/07/magazine/the-agency.html>. Acces- lable at <https://www.cnn.com/interactive/2019/05/
sed 23 September 2019. europe/finland-fake-news-intl>. Accessed 12 March
2020.
Dittrich, Miro, Lukas Jäger, Claire-Friederike Meyer,
and Simone Rafael. 2020. Alternative Wirklichkeiten. Mohan, Pavithra. 2020. Kashmir’s internet shutdown
Monitoring rechts-alternativer Medienstrategien. is splintering India’s democracy. Available at <https://
Available at <https://www.amadeu-antonio-stiftung. www.fastcompany.com/90470779/how-the-inter-
de/wp-content/uploads/2020/01/Monitoring_2020_ net-shutdown-in-kashmir-is-splintering-indias-de-
web.pdf>. mocracy>. Accessed 12 March 2020.
DESINFORMATION AUF MESSENGERDIENSTEN 29

Moore, Martin. 2018. Democracy hacked: political <https://www.voxpol.eu/a-tribal-call-to-arms-propag-


turmoil and information warfare in the digital age. anda-and-what-pve-can-learn-from-anthropology-psy-
London, England: Oneworld. chology-and-neuroscience/>. Accessed 13 March
2020.
Morris, Amanda. 2019. Right-wing WhatsApp users
in Brazil are louder, more active, more effective. Sagar. 2019. WhatsApp to tell you how many times
Available at <https://news.northwestern.edu/sto- your message has been forwarded. GSMArena.com.
ries/2019/08/right-wing-whatsapp-users-in-brazil-are- Available at <https://www.gsmarena.com/whatsapp_
louder-more-active-more-effective/>. Accessed 12 might_soon_tell_you_how_many_times_your_mes-
March 2020. sage_has_been_forwardednews-news-36159.php>.
Accessed 12 March 2020.
Moshavi, Sharon. 2020. Op-ed: Shining light into
the dark spaces of chat apps. Columbia Journalism Sängerlaub, Alexander, Miriam Meier, and Wolf-Dieter
Review. Available at <https://www.cjr.org/opinion/ Rühl. 2018. Fakten statt Fakes. Verursacher, Verbrei-
whatsapp-messenger-misinformation.php>. Accessed tungswege und Wirkungen von Fake News im Bun-
13 March 2020. destagswahlkampf 2017. Available at <https://www.
stiftung-nv.de/sites/default/files/snv_fakten_statt_fa-
Nemer, David. 2018. The three types of WhatsApp kes.pdf>.
users getting Brazil’s Jair Bolsonaro elected. Availa-
ble at <https://www.theguardian.com/world/2018/ Schmehl, Karten. 2017. Diese geheimen Chats zeigen,
oct/25/brazil-president-jair-bolsonaro-whatsapp-fa- wer hinter dem Meme-Angriff #Verräterduell aufs
ke-news>. Accessed 12 March 2020. TV-Duell steckt. Available at <https://www.buzzfeed.
com/de/karstenschmehl/willkommen-in-der-welt-von-
Newman, Nic, Richard Fletcher, Antonis Kalogeropou- discord-teil1>. Accessed 14 February 2020.
los, and Rasmus Kleis Nielsen. 2019. Reuters Insti-
tute Digital News Report 2019. Available at <https:// Statista. 2019a. India: Literacy rate in 2011, 2015 and
reutersinstitute.politics.ox.ac.uk/sites/default/fi- 2018. Statista. Available at <https://www.statista.
les/2019-06/DNR_2019_FINAL_0.pdf>. com/statistics/271335/literacy-rate-in-india>. Acces-
sed 16 March 2020.
Palatino, Mong. 2017. Beware Duterte’s Troll Army
in the Philippines. Available at <https://thediplomat. Statista. 2019b. Mobile messaging users worldwide
com/2017/11/beware-dutertes-troll-army-in-the-phil- 2022. Statista. Available at <https://www.statista.
ippines/>. Accessed 12 March 2020. com/statistics/483255/number-of-mobile-messa-
ging-users-worldwide/>. Accessed 12 March 2020.
Pennycook, Gordon, Adam Bear, and Evan Collins.
2019. The Implied Truth Effect: Attaching Warnings to Statista. 2018. Telegram global MAU 2018. Statis-
a Subset of Fake News Headlines Increases Perceived ta. Available at <https://www.statista.com/stati-
Accuracy of Headlines Without Warnings. Manage- stics/234038/telegram-messenger-mau-users/>.
ment Science. Accessed 12 March 2020.

Phillips, Whitney. 2018. The Oxygen of Amplification. Statista. 2018a. Höhe der monatlichen Handy-Rech-
Better Practices for Reporting on Extremists, Antago- nung in Deutschland 2018. Statista. Available at
nists, and Manipulators Online. Available at <https:// <https://de.statista.com/statistik/daten/stu-
datasociety.net/wp-content/uploads/2018/05/1_ die/181343/umfrage/hoehe-der-monatlichen-han-
PART_1_Oxygen_of_Amplification_DS.pdf>. dy-rechnung/>. Accessed 12 March 2020.

Richtel, Matt. 2020. W.H.O. Fights a Pandemic Besi- Statista. 2020. Threema - Nutzer des Schweizer Mes-
des Coronavirus: an ‘Infodemic’. The New York Times, saging-Dienstes 2020. Statista. Available at <https://
sec. Health. Available at <https://www.nytimes. de.statista.com/statistik/daten/studie/445619/umfra-
com/2020/02/06/health/coronavirus-misinformati- ge/nutzer-des-schweizer-messaging-dienstes-three-
on-social-media.html>. Accessed 12 March 2020. ma/>. Accessed 12 March 2020.

Riedel, Ann Cathrin. 2019. Mehr digitale Bildung. Statistisches Bundesamt. 2020. Daten zu den
Friedrich-Naumann-Stiftung für die Freiheit. Available Einkommen, Einnahmen und Ausgaben privater
at <https://www.freiheit.org/netzpolitik-mehr-digita- Haushalte Deutschland. Statistisches Bundesamt.
le-bildung>. Accessed 12 March 2020. Available at <https://www.destatis.de/DE/Themen/
Gesellschaft-Umwelt/Einkommen-Konsum-Lebens-
Ritzmann, Alexander. 2018. A Tribal Call to Arms: Pro- bedingungen/Einkommen-Einnahmen-Ausgaben/
paganda and What PVE Can Learn from Anthropology, Tabellen/deutschland-evs.html>. Accessed 12 March
Psychology and Neuroscience. VOX - Pol. Available at 2020.
DESINFORMATION AUF MESSENGERDIENSTEN 30

Tardáguila, Cristina, Fabrício Benevenuto, and Pablo Wardle, Claire, and Hossein Derakhshan. 2017.
Ortellado. 2018. Fake News Is Poisoning Brazili- Information Disorder: Toward an interdisciplinary
an Politics. WhatsApp Can Stop It. The New York framework for research and policy making. Availa-
Times, sec. Opinion. Available at <https://www. ble at <https://rm.coe.int/information-disorder-to-
nytimes.com/2018/10/17/opinion/brazil-election-fa- ward-an-interdisciplinary-framework-for-resear-
ke-news-whatsapp.html>. Accessed 12 March 2020. c/168076277c>.

Verivox. 2018. Europa-Vergleich: Deutschland surft Wardle, Claire, Angela Pimenta, Guilherme Conter,
am teuersten. Available at <https://www.verivox.de/ Nic Dias, and Pedro Burgos. 2019. An Evaluation
presse/europa-vergleich-deutschland-surft-am-teuers- of the Impact of a Collaborative Journalism Pro-
ten-119940/>. Accessed 12 March 2020. ject on Brazilian Journalists and Audiences. Avai-
lable at <https://firstdraftnews.org/wp-content/
Voigt, Mario, and Rene Seidenglanz. 2017. Digital uploads/2019/07/comprova_ING_web_OK_v5.pd-
Campaigning in der Bundestagswahl 2017 - f?x31084>.
Implikationen für Politik und Public Affairs. Availa-
ble at <https://www.medianet-bb.de/wp-content/ Yuhas, Alan. 2018. Der Spiegel Fires Award-Winning
uploads/2018/01/quadriga-digital-campaigning-stu- Writer, Citing Fabrication on ‘Grand Scale’. The New
die-btw2017.pdf>. York Times, sec. World. Available at <https://www.
nytimes.com/2018/12/19/world/europe/der-spie-
Wardle, Claire. 2019. Understanding Information gel-claas-relotius.html>. Accessed 13 March 2020.
Disorder. Available at <https://firstdraftnews.org/
wp-content/uploads/2019/10/Information_Disorder_ N.d. Internet Shutdowns in India. Available at <https://
Digital_AW.pdf?x76701>. internetshutdowns.in>. Accessed 12 March 2020.

Autorin
Ann Cathrin Riedel
Ann Cathrin Riedel studierte Islamwissenschaft,
Politik und BWL. Sie ist Vorsitzende von LOAD e.V. –
Verein für liberale Netzpolitik und Vize Präsidentin der
European Society for Digital Sovereignty e.V.. Mit ihrer
Agentur UP DIGITAL MEDIA entwickelt sie Strategien
zur digitalen politischen Kommunikation. Sie war Lehr-
beauftragte an der Hochschule Fresenius in Düssel-
dorf und wurde von der Zeitschrift „Politik & Kommu-
nikation” in die Liste der „65 Gesichter der Zukunft
unter 35” im Bereich Politikberatung und Expertise
aufgenommen. Sie ist Mitglied der Arbeitsgruppen
„Ethik in der Digitalisierung„ und „Algorithmen-Moni-
toring” der Initiative D21. Sie begleitet die Arbeit des
Mittelstand 4.0-Kompetenzzentrum IT-Wirtschaft und
des Co:Lab – Denklabor & Kollaborationsplattform für
Gesellschaft & Digitalisierung e.V. als Beirätin. In ihren
Funktionen publiziert und spricht sie regelmäßig auf
internationalen Bühnen über Ethik und Bürgerrechte,
Meinungsfreiheit und Kommunikation im digitalen
Raum, sowie digitale Souveränität.
DESINFORMATION AUF MESSENGERDIENSTEN 31

„Dass Menschen Tatsachen,


die ihnen wohlbekannt sind,
nicht zur Kenntnis nehmen,
wenn sie ihrem Vorteil oder
Gefallen widersprechen, ist
ein so allgemeines Phänomen,
dass man wohl auf den Ge-
danken kommen kann, dass
es vielleicht im Wesen der
menschlichen Angelegen-
heiten … liegt, mit der Wahr-
heit auf Kriegsfuß zu stehen.”
Hannah Arendt – Wahrheit und Politik (1967)