Hate Speech and Fake News – the interaction and politicisation of two contested terms

The terms hate speech and fake news serve as focal points for public controversies in Germany lately. The issue at stake, how should social media companies and society at large deal with these phenomena, which are not entirely new but have penetrated public consciousness heavily? The year 2016 marks the time, in which both terms became highly intertwined and politicised constructs. At the end of the year, Germany’s government largely agreed on drafting a new law while facing upcoming national elections. The highly contested Draft for an Act improving Law Enforcement on Social Networks (NetzDG) has been introduced in March this year. It particularly focuses on social media companies and how they should handle illegal hate speech and false information on their platforms. While we would leave it to others to comment on the legal draft, it is our intention to shed more light on the political discourse, in which regulatory ideas have been negotiated and solidified beforehand.
This is a blog post in two parts: In the first part we reconstruct the political debate on hate speech and fake news of 2016 by highlighting events and topics that provoked particular attention of the media. In the second part of the post, we address the increasing politicisation of the discussions, which at the end of the year resulted in one discourse on the regulation of two very different phenomena.

Eine Rekonstruktion der öffentlichen Auseinandersetzung

Wir blicken insbesondere auf die Diskussion im letzten Jahr. Denn wie die Jury für die Auslobung des Anglizismus des Jahres 2016 schreibt, dienen die Begriffe Hate Speech wie auch Fake News in diesem Jahr “als Kristallisationspunkt für gesellschaftliche Debatten über den Umgang mit diesem nicht völlig neuen, aber mit Wucht ins öffentliche Bewusstsein gedrungenen Phänomen.”

Ein Indikator für die Heftigkeit, mit der beide Begriffe in die öffentliche Debatte einschlugen, ist das gesteigerte Interesse der Medien. Wir haben daher über 800 Veröffentlichungen deutschsprachiger Medien im letzten Jahr untersucht, anhand derer wir den Verlauf der öffentlichen Auseinandersetzungen nachvollziehen. Im Folgenden möchten wir erste Ergebnisse dieser Arbeit präsentieren.1

Rekonstruktion des Verlaufs der Hate Speech-Diskussion

Widmen wir uns also zuerst der Hate Speech-Thematik, als der älteren der beiden Debatten. Wir konnten feststellen, dass sich der Verlauf bis Oktober 2016 als eine Konjunktur des Themas mit Phasen schwankender medien-öffentlicher Aufmerksamkeit darstellt. Die Kurve (siehe Darstellung 1) deutet auf eine eher selektive und ereignisbezogene Verarbeitung des Themas hin. Im November und Dezember erfährt das Thema Hate Speech dann jedoch einen rasanten Aufstieg. Die folgende Grafik stellt die Anzahl der gefundenen Artikel pro Monat zum Thema Hate Speech in 2016 dar.

Darstellung 1: Die “Hate Speech”-Diskussion als Verlauf der Berichterstattung

Wie lassen sich die Schwankungen und insbesondere der steile Anstieg am Ende des Jahres erklären? Nach unseren Analysen müssen dabei drei Phasen unterschieden werden: In der ersten Phase (Januar bis Mai) ist die Medienberichterstattung konjunkturellen Schwankungen unterworfen. Diese Schwankungen lassen sich gut an konkreten, einzelnen Ereignissen festmachen, die für eine kurzlebige Zunahme in der Berichterstattung verantwortlich sind. So beeinflusste Facebook selbst Anfang des Jahres die Agenda der Medien, indem es mehrere Maßnahmen gegen Hassrede mit einem Fokus auf Deutschland ankündigte. Die Kurve beschreibt hier in erster Linie die Fortsetzung der Diskussion aus dem Vorjahr, in der SPD-Justizminister Maas mehr Engagement gegen Hate Speech auf der Plattform forderte. Ende Mai wird der Umgang mit Hate Speech auch zu einem Thema für die europäischen Institutionen. Die EU Kommission einigt sich mit Facebook, Google, Microsoft und Twitter über einen Verhaltenskodex zu Hasskommentaren. In Deutschland bringt ein lokaler Fall rechter Hetze gegen die Grünen-Abgeordnete Stefanie von Berg das Thema erneut auf die mediale Agenda. Der Hamburger Justizsenator Till Steffen (Grüne) forciert daraufhin die Diskussion um eine mögliche Gesetzesverschärfung von Hasskriminalität.

Über den Sommer wird das Medieninteresse von einer stärker gesamtgesellschaftlichen Diskussion getragen. Verschiedene Akteure initiieren in diesen Monaten öffentliche Kampagnen gegen Hate Speech, sowie Projekte, die Hate Speech im Internet beobachten. Erste Zahlen und Statistiken werden von der Wissenschaft veröffentlicht. Das breitere öffentliche Interesse verstetigt die Diskussion in der Politik und fördert den Drang zum politischen Handeln. Im September spricht der Tagesspiegel (4.9.2016) schließlich vom “‘no hate speech!’-Fieber” deutscher Politiker.

Der enorme Anstieg in der Berichterstattung im November und Dezember ist vor allem Ergebnis einer Diskursüberlagerung. Wie ist diese zu erklären? Die dritte Phase der Hate Speech-Diskussion lässt sich nicht mehr nur als ereignisbezogene Schwankung interpretieren. Weitestgehend löst sich die Diskussion um Hate Speech von konkreten Vorfällen, in denen Hassrede in sozialen Netzwerken auftritt. Stattdessen wird diese Diskussion von einer neuen Debatte überlagert, die zum Jahresende mit großer Wucht in das öffentliche Bewusstsein drängt: Die Präsidentschaftswahl in den USA und die Frage nach dem Einfluss von Fake News, die über soziale Plattformen verbreitet werden. Diese neue Kontroverse reaktiviert Ende 2016 die Debatte um Hasskommentare als eine weitere Kategorie unerwünschter Inhalte im Internet.

Rekonstruktion des Verlaufs der Fake News-Diskussion

Der enorme Anstieg der Hate Speech-Diskussion wird von der Fake-News-Diskussion noch einmal um ein Vielfaches überboten. Unsere Analyse der Thematisierung von Falschmeldungen lässt sich im Wesentlichen in drei Phasen aufteilen (siehe Darstellung 2). Insbesondere die Rolle der Plattformen, allen voran Facebook, wird innerhalb der verschiedenen Phasen unterschiedlich gefasst und rückt zunehmend in den Fokus der Diskussion.

Darstellung 2: Fake News-Diskussion als Verlauf der Berichterstattung

Diffamierende Falschmeldungen über Geflüchtete werden als Teil der Flüchtlingsdebatte diskutiert. Zu Beginn des Jahres häufen sich Berichte zu Falschmeldungen über Geflüchtete. Unsere Analyse zeigt jedoch, dass Falschmeldungen hier noch nicht wirklich im Zentrum eines eigenen Diskurses stehen, sondern die Konfliktlinien eher anhand der Positionen in der Flüchtlingsdebatte verlaufen. Die Plattformen, über welche sich jene Falschmeldungen vorrangig verbreiteten, werden zwar häufig genannt und teilweise als besonders nahrhafter Boden für die rapide Verbreitung von Falschmeldungen beschrieben, sie werden jedoch selbst nicht in die Pflicht der Bekämpfung jener Inhalte genommen.

Eine gesteigerte Thematisierung von Falschmeldungen stellen wir wieder im Zuge des Amoklaufs in München am 22. Juli 2016 fest. Der Begriff Falschmeldung meint in dieser Phase der Berichterstattung in erster Linie Gerüchte, welche sich im Chaos als vermeintliche Fakten verbreiten. Obwohl als singuläres Ereignis zu identifizieren, markiert der Amoklauf von München in mehrfacher Hinsicht einen wichtigen Punkt in der Entwicklung der Fake News-Diskussion. So formieren sich hier bereits zentrale Diskurssubjekte und -objekte: Einerseits die sozialen Medien, auf welchen sich Falschmeldungen vornehmlich verbreiten. Andererseits die klassischen Medien, denen teilweise vorgeworfen wird, ein Informationsvakuum entstehen zu lassen, welches den Falschmeldungen auf Twitter oder Facebook mehr Gelegenheit zur Verbreitung verschafft. Und schließlich die Polizei als Institution, welche als weiteres Korrektiv für Falschmeldungen dienen könnte. Mit der Berichterstattung rund um den Amoklauf werden erstmals auch Forderungen nach einem staatlichen Eingreifen laut, Überlegungen dazu bleiben aber abstrakt.

Unter dem Anglizismus Fake News drängte das Thema ins öffentliche Bewusstsein, als Vorwürfe gegen Facebook laut werden, den Wahlsieg von Präsident Trump befördert zu haben. Die Verbreitung von Fake News über die Plattform hätte Trump den Sieg beschert und werfe “die Frage nach der gesellschaftlichen Verantwortung von Facebook auf”, titelt beispielsweise die Süddeutsche Zeitung (09.11.2016). Kreiste die Debatte zuvor meist um konkrete Fälle von Falschmeldungen und wurde deren Verbreitung an sich problematisiert, wird nun Facebooks Umgang (beziehungsweise Nicht-Umgang) damit diskutiert. Zunehmend werden dabei auch Ansätze diskutiert, die über eine bloße Selbstverpflichtung durch Facebook hinausgehen.

Verflechtung zweier Diskussionen zu einem Diskurs

Die Darstellung 3 enthält die Anzahl der Dokumente, die sowohl Hassrede als auch Falschmeldungen thematisieren. Folgt man dem Verlauf, lässt sich eine besondere Vermischung der Diskurse besonders zu zwei Zeitpunkten ablesen.

Darstellung 3: Verflechtung der Diskussionen

Am Jahresanfang treten beide Phänomene in bestimmten Kontexten tatsächlich zusammen auf: So wird vermehrt über Falschmeldungen gegen Geflüchtete berichtet, die gezielt verbreitet wurden, um Hass zu schüren. Begrifflich wird ausschließlich von Falschmeldungen mit diffamierenden Inhalten gesprochen.

Ende des Jahres etablieren sich die beiden Anglizismen Hate Speech und Fake News. Sie werden in Statements und in der Berichterstattung auch gemeinsam gebraucht. In dieser Phase, so verdeutlicht die Darstellungen 1 und 3, wird die Hate Speech-Diskussion kaum mehr eigenständig geführt. Von den 77 Artikeln zu Hate Speech, die wir insgesamt gefunden haben (Darstellung 1) erwähnen 67 auch Fake News (Darstellung 3). Die Hate Speech-Diskussion wird von der neuen Fake News-Debatte quasi subsumiert.

Das Verbindende der beiden einst getrennten Diskussionen ist aber Ende des Jahres nicht mehr das gemeinsame Auftreten zu einem bestimmten Vorfall, sondern der Ort des Sichtbarwerdens beider Phänomene. Plattformen, allen voran Facebook, geraten als vermeintlicher Nährboden für sowohl Hate Speech als auch Fake News zunehmend ins Zentrum der kritischen Aufmerksamkeit. Beide Begriffe stehen für zwei eigentlich unterschiedliche Kategorien unerwünschter Inhalte, die nun aber Gegenstand der gleichen Regulierungsbestrebungen werden.

Zusammenfassung

Die hier präsentierten Ergebnisse sind Teil einer ersten, groben Betrachtung der Hate Speech und Fake News-Diskussion in Deutschland des letzten Jahres. Ziel des ersten Teils unserer Analyse war es, die öffentlichen Auseinandersetzungen erst einmal nachzuvollziehen. Wir haben jene zentralen Ereignisse herausgearbeitet, die die Thematiken unabhängig voneinander befeuerten aber auch Phasen beschrieben, in denen sich beide Diskussionen vermischten. Das Hauptgewicht lag dabei auf dem Jahresende, als im Zuge des US-Präsidentschaftswahl die Debatte um Fake News mit bis dato unbekannter Wucht in das öffentliche Bewusstsein drang und im Zuge dessen das Hate Speech-Thema kaum noch eigenständig diskutiert wurde.
Im kommenden, zweiten Teil unserer Analyse wollen wir zeigen, wie jene Verflechtung der beiden Phänomene im öffentlichen Diskurs die Politisierung der Themen und die Erwartung nach politischem Handeln beförderte. Wir wollen dann den politischen Diskurs nachzeichnen und aufzeigen, wie sich dieser schließlich in Form eines Gesetzesentwurfs konkretisierte.

1 Wir suchten dafür über die Datenbank Dow Jones Factiva Medienmaterial, welches die Anglizismen (Fake News, Hate Speech) oder ihre jeweiligen deutschen Äquivalente (Falschmeldung, Hassrede) im Volltext nennt. Das Material filterten wir anschließend manuell und schlossen nur solche Beiträge ein, die einen Bezug zu sozialen online Plattformen oder Internet herstellen. Der resultierende Textkorpus enthielt insgesamt 845 deutschsprachige Artikel.

This post represents the view of the author and does not necessarily represent the view of the Institute itself. For more information about the topics of these articles and associated research projects, please contact info@hiig.de.