Hate speech and fake news – About the mixing up and politicization of two terms – part 2

The terms hate speech and fake news serve as focal points for public controversies in Germany lately. The issue at stake, how should social media companies and society at large deal with these phenomena, which are not entirely new but have penetrated public consciousness heavily? The year 2016 marks the time, in which both terms became highly intertwined and politicised constructs. At the end of the year, Germany’s government largely agreed on drafting a new law while facing upcoming national elections. The highly contested Draft for an Act improving Law Enforcement on Social Networks (NetzDG) has been introduced in March this year. It particularly focuses on social media companies and how they should handle illegal hate speech and false information on their platforms. While we would leave it to others to comment on the legal draft, it is our intention to shed more light on the political discourse, in which regulatory ideas have been negotiated and solidified beforehand.
This is a blog post in two parts: In the first part we reconstruct the political debate on hate speech and fake news of 2016 by highlighting events and topics that provoked particular attention of the media. In the second part of the post, we address the increasing politicisation of the discussions, which at the end of the year resulted in one discourse on the regulation of two very different phenomena.

Mitte März stellte Justizminister Heiko Maas einen Gesetzesvorschlag gegen “Hasskriminalität und strafbare Falschnachrichten” vor. Der Entwurf für das sogenannte Netzwerkdurchsetzungsgesetz (NetzDG) betrifft vor allem Anbieter sozialer Plattformen im Internet. Die rechtliche Einordnung und Bewertung des Entwurfs wollen wir an dieser Stelle anderen überlassen. Uns interessiert hingegen, wie es dazu kommen konnte, dass sich der Diskurs um diese politischen Kampfbegriffe in Deutschland nun tatsächlich rechtlich zu institutionalisieren scheint.

Im ersten Teil unserer Analyse haben wir den Verlauf der beiden Diskurse während des letzten Jahres nachgezeichnet. Wir konnten unabhängige Diskussionsentwicklungen, aber vor allem die Vermischung der beiden Themenkomplexe in der Berichterstattung gegen Ende des Jahres feststellen. Angesichts des umstrittenen Gesetzesvorstoßes von Justizminister Maas, in die beide Diskussionen zuletzt mündeten, widmen wir uns in diesem zweiten Blogpost nun der Frage, wie es zu dieser starken Politisierung der Begriffe und ihrer Debatten gekommen ist und welche Folgen sich daraus ergeben.

Die Entstehung eines Politikums

Unsere Analyse zu Hate Speech hat eine Vorgeschichte, die im Konflikt “Facebook vs. Heiko Maas” (Spiegel Online, 19.7.2016) ihren Ausdruck findet. Im Jahr 2015 rief Maas gemeinsam mit Internetunternehmen, Beschwerdestellen und NGOs eine Task Force “Umgang mit rechtswidrigen Hassbotschaften im Internet” ins Leben. Die einjährige Bilanz ihrer Arbeit fiel ernüchternd aus. Die Task Force entpolitisierte die Diskussion nicht, sondern trug trotz oder gerade wegen der daraufhin initiierten Maßnahmen dazu bei, das Thema wesentlich breiter in die Gesellschaft zu tragen. Mehr Wissen zum Ausmaß von Hate Speech wurde produziert und objektivierte die gesellschaftliche Relevanz des Themas. Die Debatte um Hate Speech manifestierte sich in Statistiken, wissenschaftlichen Projekten und neuen zivilgesellschaftlichen Organisationen. Als schließlich die einjährige Bilanz der Arbeit der Task Force anstand, wurden die Maßnahmen in der Praxis mehrheitlich als wirkungslos bewertet. Den Plattformen selbst werden in der Debatte verstärkt Defizite bei der Löschung von Hasskommentaren nachgesagt. Es wird in Frage gestellt, ob sich das Problem durch eine freiwillige Verpflichtung der Plattformen lösen lässt.

Ein weiteres Kennzeichen der Entwicklung: Politikerinnen und Politiker wurden selbst zu Betroffenen von Hate Speech und Fake News auf sozialen Plattformen und äußerten sich zum Teil öffentlich in dieser Rolle. CDU-Generalsekretär Peter Tauber zog Anfang des Jahres 2016 Aufmerksamkeit auf sich, als er sich auf Facebook mit Kommentatoren von Merkels Flüchtlingspolitik anlegte. Ein Fall von Hasstiraden gegen Hamburgs Grünen-Abgeordnete Stefanie von Berg bot Hamburgs Justizsenator Steffen Anlass, die Diskussion nach schärferen gesetzlichen Regeln zu forcieren. Im Zusammenhang damit forderte Steffen zudem erstmals Bußgeld und Schadensersatz, falls Facebook und andere Plattformen diskriminierende Kommentare nicht löschten. Und ein Fall von Fake News traf die Grünen-Bundestagsabgeordnete Renate Künast auf Facebook im November letzten Jahres.  

Darüberhinaus stand der Diskurs um Hate Speech und Fake News auf sozialen Plattformen in Beziehung zu anderen politischen Themen, insbesondere der Innen- und Sicherheitspolitik: die Situation der Geflüchteten, der Amoklauf in München, Desinformationskampagnen ausländischer Regierungen, und schließlich die durch die US-Wahl gezogene Verbindung zu den Bundestagswahlen in Deutschland. Der politische Diskurs fand daher vor allem auf der bundespolitischen Ebene statt. Neben Bundespolitikern und Ministerien kommentierten auch Bundeskanzlerin Angela Merkel, Bundestagspräsident Norbert Lammert und Präsident des Bundesverfassungsschutzes Hans-Georg Maaßen die Situation. Es zeigt sich immer deutlicher: Soziale Netzwerke sind in Zeiten von Globalisierung und Digitalisierung auch Orte des Politischen. Zunehmend verschob sich in der Debatte um Hate Speech und Fake News jedoch der Fokus von den Nutzerinnen und Nutzern auf das Handeln bzw. Nicht-Handeln der Plattformbetreiber selbst. Es unterstreicht die politische Relevanz der Praktiken dieser Unternehmen.

Im Zuge der Diskussion nach der US-Wahl äußerten sich vor allem Bundespolitiker und Regierungsparteien besorgt über die Möglichkeit einer Manipulation der Bundestagswahl. Sie konstruierten dabei das Problem als eine Bedrohung für die Demokratie in Deutschland. Dieses einfache, wie starke Narrativ setzt sich dabei aus zwei Elementen zusammen: Fake News einerseits und der Kontext von Wahlen andererseits. Die Verbindung beider Elemente wurde als Gefahr für demokratische Meinungsbildung bewertet. Das Narrativ produzierte zugleich diskursiv den Anspruch, politisch zu handeln.

Der Druck zu handeln und die politische Entscheidung für ein neues Gesetz

Wie zuvor erläutert, wurde die Fake News-Thematik fast ausschließlich im Hinblick auf die anstehenden Bundestagswahlen diskutiert. Die von vielen in der Politik geteilte Wahrnehmung, dass die anstehende Bundestagswahl durch Falschmeldungen beeinflusst werden könne, ließ den Druck auf Maas größer werden, gesetzlich zu handeln. Hinzu kam, dass die Task Force zum Umgang mit Hate Speech auch nach einem Jahr noch keine befriedigenden Ergebnisse aufzuweisen hatte. Aufgrund dieser Erfahrungen wurde eine Selbstverpflichtung der Plattformen als Lösung für die Probleme kaum mehr diskutiert.

Das politische Bewusstsein für beide Themen kulminierte im November 2016 und setzte sich als ein Diskurs zur Regulierung fort. Bundeskanzlerin Angela Merkel sprach sich zu diesem Zeitpunkt in der Haushaltsdebatte des Bundestages grundsätzlich für neue Regeln aus, um besser mit Fake News umgehen zu können. Sie unterstützte zudem Initiativen, gesetzlich gegen Hasskommentare im Internet vorzugehen. Aus ihrer Sicht verlaufe die Meinungsbildung über soziale Netzwerke heute anders und soziale Plattformen würden, anders als traditionelle Medien, kaum kontrolliert oder reguliert werden. Die politische Entscheidung, regulatorisch einzugreifen, war damit von ganz oben öffentlich autorisiert worden.

Ein Merkmal des im letzten Jahr aufkommenden Regulierungsdiskurses versinnbildlicht Merkels Aussage: Das neue Fake News-Problem wurde schnell mit dem alten Hate Speech-Thema in Beziehung gesetzt. Eine längere Diskussion wie zu Hate Speech, in der es Versuche gab erst das Problem zu verstehen, zu definieren und zu bewerten, gab es im Fall von Fake News nicht. Eine eilige Parallele wurde somit auch hinsichtlich des Umgangs der Plattformen mit unerwünschten Inhalten gezogen. Es ließe sich ein Muster in der Löschpraxis der Plattformen erkennen, so die schärfsten Kritiker. Aus der Hate Speech-Diskussion habe man gelernt, wie vor allem Facebook mit unerwünschten Inhalten umgehe, nämlich wie es Hamburgs Datenschutzbeauftragter Johannes Caspar formuliert, indem negative Folgen sozialisiert werden und die Verantwortung auf Nutzer abgewälzt werde (Handelsblatt, 20.12.2016).

Im Dezember war es dann die Politik, welche den Druck auf Facebook und andere soziale Netzwerke mit einem geplanten Gesetz erhöhen wollte (dpa, 16.12.2016). Der Entwurf für ein Netzwerkdurchsetzungsgesetz, der auf Justizminister Maas zurückgeht, könnte nun als Versuch gewertet werden, durch gesetzliche Maßnahmen politische Handlungsfähigkeit zu demonstrieren. Allerdings zieht der Entwurf erhebliche Kritik auf sich. Die jüngsten Reaktionen auf den Versuch einer gesetzlichen Regulierung decken sich mit den Ergebnissen unserer Analyse. Bereits im früheren Verlauf des Diskurses um eine Regulierung von Hate Speech und Fake News im Jahr 2016 lassen sich bei der Frage nach der Zuständigkeit zwei gegenläufige Argumentationslinien identifizieren:

Zum einen die Gruppe derer, die für eine konsequente Durchsetzung bestehenden Rechts oder neue gesetzliche Regelungen argumentierte. Insbesondere die Politik, wenn auch mit Ausnahmen einiger Politiker, rahmte Hate Speech und Fake News als politische Probleme, welche eine Bedrohung für die Demokratie und die Gewährleistung einer politischen Öffentlichkeit darstelle. Sie teilen die Idee einer staatlichen Regulierung als politische Handlungsmöglichkeit. Ins Spiel gebracht wurden (teilweise stark umstrittene) Regulierungsvorschläge, die beispielsweise Desinformation zur Destabilisierung eines Staates als Straftatbestand einzuführen, die EU-Richtlinie für audiovisuelle Medien von Hörfunk und Fernsehen auch auf soziale Netzwerke auszuweiten, oder Plattformen unter das deutsche Presserecht zu stellen. Ebenfalls war die Rede von einer Kombination aus Bußgeldern, der Verpflichtung zur Einrichtung einer Rechtsschutzstelle sowie das “Recht auf Richtigstellung” für Betroffene von diffamierenden Falschmeldungen. Die Idee, Bußgelder zu verhängen, falls Facebook und andere Plattformen beanstandete Inhalte nicht löschen sollten, hat ihren Ursprung bereits in der frühen Diskussion um eine verschärfte Regelung im Umgang mit Hate Speech.

Eine zweite Argumentation sucht nach Lösungsansätze jenseits des Rechts. Kompetenz zum effektiven Umgang mit Hate Speech und Fake News sehen die Befürworter vor allem bei den Nutzern, und bei automatisierten Verfahren. Hate Speech und Fake News wurden in diesem Zusammenhang als Problem für die Gesellschaft im Allgemeinen und den einzelnen Konsumenten und Nutzer von (sozialen) Plattformen im Speziellen aufgefasst. Als Lösungsansätze wurden insbesondere die sogenannte Gegenrede, Maßnahmen zur Stärkung der Medienkompetenz von Nutzern, sowie algorithmische Lösungen in die Diskussion eingebracht. Gegen Vorschläge einer gesetzlichen Regulierung positionierten sich in erster Linie Medien und Presse, sowie die Interessenverbände der Internetwirtschaft. Diese sehen in neuen Gesetzen eine Gefahr für die Meinungsfreiheit und warnen vor Zensur. Eine Einschränkung der Meinungsfreiheit könnte durch jene Instanz erfolgen, die beispielsweise bei einer Einführung von Desinformation als Straftatbestand die Grenze zwischen Falschmeldung und Wahrheit zieht. Auch Plattformen wie Facebook könnten bei drohenden Sanktionen geneigt sein, Inhalte im Zweifelsfall zu löschen und dabei häufig über das Ziel hinausschießen.

Nachdem im März der Gesetzentwurf vorgelegt wurde, bleiben diese Grundpositionen in der fortgesetzten Diskussion bestehen. Doch, so können wir im Ausblick feststellen, wird die nun geäußerte Kritik konkreter und differenzierter. Der in die Diskussion eingebrachte Gesetzestextes mobilisiert weitere Akteure, die mit ihrem jeweiligen Hintergrund, den Entwurf bewerten und neue Ideen, Wertvorstellungen und Argumente einbringen. So steigen nun vermehrt Juristen, zivilgesellschaftliche Organisationen und Einrichtungen der Selbstkontrolle und Internetwirtschaft in die Debatte ein.

Zusammenfassung

Ziel der Analyse war es, die öffentlichen Auseinandersetzungen um Hate Speech und Fake News im Verlauf des letzten Jahres nachzuvollziehen. Dabei haben wir im ersten Teil jene zentralen Ereignisse herausgearbeitet, die die Thematiken unabhängig voneinander befeuerten, aber auch Phasen der Verflechtung beider Diskurse erläutert.

Im zweiten Teil ging es uns darum, die dahinterliegenden Prozesse der Diskursentwicklung besser zu verstehen. Wir haben aufgezeigt, wie jene Verflechtung der beiden Phänomene in der öffentlichen Auseinandersetzung, die Debatte um Hate Speech und Fake News zunehmend politisierte und damit den Druck, politisch tätig zu werden, beförderte. Im Kern hat sich Debatte um Fake News und Hate Speech zu einer Auseinandersetzung darüber entwickelt, wie der Gesetzgeber an dieser Stelle durch rechtliche Regelungen eingreifen soll oder muss.

Der nunmehr in einen Regierungsentwurf für ein Netzwerkdurchsetzungsgesetz überführte politische Diskurs wird sich angesichts der zuvor dargestellten Positionen weiter fortsetzen. Gerade die Formulierung eines konkreten Gesetzesentwurfs mobilisiert weitere Akteure und steigert abermals das politische Bewusstsein für die Thematik. In der kommenden Diskussion wird verhandelt werden, welche Regeln und alternative Vorschläge angemessen sind und welche nicht. Es bleibt somit abzuwarten, ob ein Gesetz zum Umgang mit zwei komplexen Phänomenen, wie Hate Speech und Fake News, die gesellschaftliche Kontroverse zu entpolitisieren vermag.

This post represents the view of the author and does not necessarily represent the view of the Institute itself. For more information about the topics of these articles and associated research projects, please contact info@hiig.de.