Skip to content
labor-3485805_1920
07 August 2018| doi: 10.5281/zenodo.1341587

The difficulty of regulating “fake news”

In early 2018, President Macron announced a law against fake news. This was triggered by the dissemination of false information during the election campaign and the general fear that they could lead to an increasing distortion of political discourse in the Internet. The government’s draft has been available since May 2018 and it is now proposed as a law against “information manipulation”. In this way, French lawmakers are trying to avoid the still diffuse phenomenon surrounding the term “fake news” and instead try to take action against false information. Amélie Heldt outlines the proposed law.

Die Idee hinter dem Gesetzesvorhaben

Seit seiner Wahl zum Präsidenten 2017 macht sich Emmanuel Macron für effektivere Maßnahmen gegen sogenannte „fake news“ stark. Wie bereits im Januar erläutert soll sich das neue Gesetz gegen Falschmeldungen im Netz richten, indem ein neues Eilverfahren und deutlichere Transparenzpflichten zu Wahlkampfzeiten eingeführt werden. Ähnlich wie beim deutschen Netzwerkdurchsetzungsgesetz (NetzDG) soll das neue Gesetz vor allem der Durchsetzung bereits vorhandener Gesetze dienen; in Deutschland gegen rechtswidrige Inhalte und in Frankreich gegen Falschinformationen in Wahlkampfperioden. Dort richten sich bereits zwei Gesetze gegen die Manipulation der öffentlichen Meinung durch Falschinformationen. Gemäß Art. 27 des französischen Gesetzes über die Pressefreiheit von 1881 ist „die Veröffentlichung, die Verbreitung oder die Vervielfältigung von falschen Nachrichten, von fabrizierten, verfälschten oder wahrheitswidrig Dritten zugeschriebenen Stücken, um aus unaufrichtigen Gründen den öffentlichen Frieden zu stören, oder Störpotenzial zu entwickeln“, verboten. Demjenigen, der „mithilfe von falschen Nachrichten, verleumderischen Gerüchten oder anderen betrügerischen Manövern, Wahlergebnisse durcheinanderbringt oder verfälscht, oder einen oder mehrere Wähler davon abhält zu wählen“, droht gemäß Art. 97 des französischen Wahlgesetzes eine Freiheitsstrafe von bis zu einem Jahr oder eine Geldstrafe bis zu 15.000€. Diese beiden Regelungen wurden in der Vergangenheit kaum durchgesetzt, wogegen das neue Gesetz in Zeiten digitaler Mediennutzung Abhilfe schaffen soll, indem die Verbreitung und Finanzierung von Falschinformationen via digitaler Dienste verhindert werden.

„Informationsmanipulation“ greifbarer als „fake news“?

Bisher lautete die Überschrift des Gesetzesentwurfes „loi sur les fausses informations“ also „Gesetz gegen Falschinformationen“ und bei der ersten Ankündigung Anfang 2018 fehlte der subjektive Tatbestand aus dem Gesetz über die Pressefreiheit von 1881. Dieser erste Eindruck löste Mutmaßungen über eine Erweiterung des Anwendungsbereichs auf wahrheitswidrige Inhalte („fake news“), ohne dabei auf die vorsätzliche Verbreitung von Falschinformationen abzustellen, aus. Seit den ersten Lesungen in der Assemblée Nationale im Juni ist von einer „loi contre les manipulations de l’information“ die Rede, also einem Gesetz gegen Informationsmanipulationen. Damit wurde der Entwurf konkreter und löste sich vom Phänomenbegriff „fake news“ , welcher weiterhin inflationär und ohne klare Umrisse genutzt und politisiert wird. Zudem impliziert die Handlung der Informationsmanipulation das bisher vermisste subjektive Merkmal: die Absicht, unrichtige Tatsachenbehauptungen zu verbreiten.

Laut aktuellem Entwurf werden Falschinformationen wie folgt definiert: „jede Tatsachenbehauptung oder -beschuldigung, bar jeder Grundlage, die dem Beweis zugänglich wäre und jene Tatsache belegen würde“ («toute allégation ou imputation d’un fait dépourvue d’éléments vérifiables de nature à la rendre vraisemblable»). Das Definieren der Falschinformation soll vorrangig der Rechtssicherheit dienen und dem Vorwurf der Zensur entgegentreten. Dieser Entwurf sieht auf der Grundlage der o.g. Definition folgende Hauptmaßnahmen vor: an erster Stelle die Einführung eines Eilverfahrens, anhand dessen im einstweiligen Rechtsschutz die automatisierte Massenverbreitung solcher Falschinformationen verhindert werden soll. Antragsberechtigt wären die Staatsanwaltschaft und jedermann, der/die ein berechtigtes Interesse an einer gerichtlichen Überprüfung hat. Über dieses rechtliche Mittel könnte das Landgericht in Paris (welches ausschließlich für dieses Verfahren zuständig wäre) die Löschung oder Blockierung von Inhalten anordnen (Art. 1). Zusätzlich zu diesem Eilverfahren soll das political micro-targeting auf sozialen Netzwerken reguliert werden, indem den Diensteanbietern mehr Transparenzpflichten im Hinblick auf die Finanzierung von gesponsorten Beiträgen auferlegt werden. Schließlich sollen die Rechte der französischen Medienaufsicht CSA (Conseil Supérieur de l’Audiovisuel) insoweit gestärkt werden, als dass sie ausländische Medien strenger kontrollieren könnte (Art. 4-8).

Neues Eilverfahren gegen die Verbreitung von Falschinformationen: umsetzbar?

Im Mittelpunkt steht das oben angesprochene Eilverfahren. Kritiker weisen eindringlich darauf hin, dass die Frist von 48 Stunden, innerhalb derer die Richter im Rahmen des neuen Eilverfahrens entscheiden sollen, nicht ausreichend ist. Doch das Element der Zügigkeit ist vor Gericht nicht per se unüblich. Ob eine Tatsachenbehauptung verbreitet werden darf, bedarf auch im Presserecht einer schnellen Entscheidung – das sollte für Richter im einstweiligen Rechtsschutz nicht außergewöhnlich sein. Berechtigt erscheint allerdings die Frage, ob eine ausreichende Sachverhaltsermittlung möglich sein wird. Der Richter müsste laut aktuellem Entwurf prüfen, ob die Falschinformation (s. Definition oben) „geeignet ist, die Wahrhaftigkeit des zukünftigen Wahlergebnisses zu verfälschen“, und „auf nicht-menschliche oder automatisierte und massive Art und Weise über einen digitalen Kommunikationsdienst verbreitet“ wird. Diese Voraussetzungen müssten kumulativ erfüllt sein: eine einstweilige Verfügung könnte nur erlassen werden, wenn eine Prüfung dessen möglich ist. Hierin liegt die größte Herausforderung – welche zu der Spekulation führt, dass die Prüfung des technischen Merkmals letztlich nur auf Verdachtsmomenten beruhen könnte und damit der Maßstab im Ergebnis gesenkt werden würde.

Wie beim deutschen NetzDG wird auch in Frankreich vor der Gefahr des Overblockings gewarnt, obwohl die Bedenken anders zu bewerten sind. Als Overblocking bezeichnet man, wenn Inhalte – wie sich erst im Nachhinein herausstellt unberechtigt – gelöscht oder geblockt werden, weil der Anreiz entsteht, die Löschung einer grundlegenderen Prüfung vorzuziehen. Der Pflicht zur Löschung von offensichtlich rechtswidrigen Inhalten müssen soziale Netzwerke in Deutschland gemäß § 3 Abs. 2 NetzDG innerhalb von 24 Stunden nachkommen. Zwar liegen die ersten Berichte der sozialen Netzwerke zu Beschwerden über rechtswidrige Inhalte auf ihren Plattformen gemäß § 2 Abs. 1 NetzDG noch nicht vor (Fristende: 31. Juli 2018), aber, um das hohe Bußgeld (§ 4 Abs. 2 NetzDG) zu vermeiden, ist es für Anbieter einfacher, die Inhalte im Zweifel zu löschen. Damit weichen Rechtswidrigkeitsüberlegungen dem Druck der finanziellen Einbußen.

Diese Sorge ist – übertragen auf die französische Situation – als solche jedoch unberechtigt, da die Entscheidung von Richtern, nicht von sozialen Netzwerken getroffen wird. Beim französischen Gesetzesvorhaben könnte ein Risiko für die Meinungsvielfalt in der technischen Einschätzbarkeit bestehen. Laut Forschern ist es sehr schwierig, das Merkmal der „nicht-menschlichen oder automatisierten Verbreitung in massiver Art und Weise über einen digitalen Kommunikationsdienst“ in kurzer Zeit zu überprüfen. Fälle des „deep fake“ also einer Mischung von „fake news“ und deep learning seien höchst komplex und kaum zu „entlarven“. Nur sehr offensichtliche Informationsfälschungen wie Spam-Mail oder massive Verbreitung in extrem kurzer Zeit durch Social Bots seien auf die Schnelle als solche zu erkennen. Andere Falschinformationen sind in ihrer Tarnung, ähnlich wie das gefälschte Video von Ex-Präsident Obama, weit fortgeschrittener. Dank künstlicher Intelligenz kann man jemandem etwas in den Mund legen, bspw. weil es technisch möglich ist, die Redeart einer Person exakt nachzuahmen. Das ist nur ein Beispiel von vielen, bei denen die Sachlage schwer einzuschätzen ist, wodurch der Eindruck entsteht, dass der Gesetzesentwurf von einer nicht der Realität entsprechenden Sachlage ausgeht. Aufgrund einer möglichen Überforderung bei der technischen Bewertung sind zwei Szenarien denkbar: die Richter vernachlässigen dieses Merkmal und stellen vordergründig auf den Wahrheitsgehalt der Tatsachenbehauptung ab oder das neue Verfahren verkommt zum zahnlosen Tiger, weil innerhalb der vorgegebenen Zeit nicht zu entscheiden ist. Es bleibt also abzuwarten, ob das französische Parlament diese Bedenken berücksichtigen wird und den Fehler einer voreiligen Verabschiedung des Gesetzes nicht (auch) begeht.


This article first appeared at Junge Wissenschaft im Öffentlichen Recht

Quotation suggestion: Heldt, The difficulty of regulating “fake news”, JuWissBlog Nr. 71/2018 v. 26.7.2018, https://www.juwiss.de/71-2018/

This work is licensed under a Creative Commons Attribution – Noncommercial – No Derivative Works 4.0 International License.

This post represents the view of the author and does not necessarily represent the view of the institute itself. For more information about the topics of these articles and associated research projects, please contact info@hiig.de.

Amélie Heldt

Former Associated Researcher: Platform Governance

Sign up for HIIG's Monthly Digest

HIIG-Newsletter-Header

You will receive our latest blog articles once a month in a newsletter.

Explore Research issue in focus

Platform governance

In our research on platform governance, we investigate how corporate goals and social values can be balanced on online platforms.

Further articles

Three groups of icons representing people have shapes travelling between them and a page in the middle of the image. The page is a simple rectangle with straight lines representing data used for people analytics. The shapes traveling towards the page are irregular and in squiggly bands.

Empowering workers with data

As workplaces become data-driven, can workers use people analytics to advocate for their rights? This article explores how data empowers workers and unions.

A stylised illustration featuring a large "X" in a minimalist font, with a dry branch and faded leaves on one side, and a vibrant blue bird in flight on the other. The image symbolises transition, with the bird representing the former Twitter logo and the "X" symbolising the platform's rebranding and policy changes under Elon Musk.

Two years after the takeover: Four key policy changes of X under Musk

This article outlines four key policy changes of X since Musk’s 2022 takeover, highlighting how the platform's approach to content moderation has evolved.

The picture shows a tractor cultivating a field from above. One side of the field is covered in green, the other is dry and earthy. This is intended to show that although sustainable AI can be useful in the fight against climate change, it also comes at a high ecological cost.

Between vision and reality: Discourses about Sustainable AI in Germany

This article explores Sustainable AI and Germany's shift from optimism to concern about its environmental impact. Can AI really combat climate change?