Die Mächtigen regulieren: Das Potenzial von Plattformräten

Social-Media-Plattformen sind bei der öffentlichen und privaten Meinungsbildung nicht mehr wegzudenken. Die Entscheidungen der Plattformen durch Nutzungsbedingungen und algorithmische Moderationspraktiken prägen den Schutz von Menschenrechten. Dies hat eine wichtige Diskussion angestoßen: Wie kann das gesellschaftliche Interesse in diese digitalen Räume integriert werden? Eine potenzielle Lösung für diese komplexe Herausforderung ist das Konzept der Plattformräte oder Social Media Councils (SMCs). Doch wie können diese sicherstellen, dass öffentliche Interessen und demokratische Werte in den Regelsetzungsprozessen von Plattformen berücksichtigt werden? In unserer Forschungsarbeit haben wir uns mit 30 Forscher*innen aus allen Kontinenten der Welt genau diese Frage gestellt. Dieser Blogpost gibt einen kurzen Überblick zum Thema. 

Öffentlicher Diskurs in digitalen Räumen

Private Unternehmen bestimmen im Wesentlichen die Rahmenbedingungen für den öffentlichen Meinungsaustausch auf Online-Plattformen.. Das geschieht durch Content Moderation. Dieser Begriff beschreibt den Prozess, bei dem zum Beispiel Beiträge, Bilder und Videos der Nutzer*innen überprüft und bewertet werden, um sicherzustellen, dass sie den Gemeinschaftsrichtlinien der Plattform entsprechen. Diese Moderation entscheidet also darüber, welche Inhalte als unangemessen gelten und was auf den Plattformen gelöscht, bearbeitet oder zugelassen wird. Unangemessene oder schädliche Inhalte umfassen beispielsweise Beleidigungen, Hassrede, Gewaltverherrlichung, pornografische Materialien, sowie Falschinformationen oder Spam.

Durch diese Nutzungsbedingungen und algorithmische Moderation von Inhalten nehmen Social-Media-Plattformen auch Einfluss auf den öffentlichen Diskurs. Sie entscheiden letztlich darüber, welche Nutzer*innenbeiträge bleiben (und verbreitet werden) und welche entfernt (oder versteckt) werden. Dadurch regulieren sie erheblich, wie sich die öffentliche Meinung in digitalen Räumen formt. Dies ist wiederum entscheidend, wenn wir über die demokratischen Kommunikationsrechte der Bürger*innen nachdenken. Denn Unternehmen agieren hier als Regelsetzer, Durchsetzer und letztlich Richter über ihre eigenen Entscheidungen.

Erweiterung des unternehmerischen Verantwortungsbereichs

Unternehmen sind keine Demokratien. Sie werden nicht von demokratisch gewählten Vertreter*innen geleitet. Sie folgen im Wesentlichen ihrem eigenen Profitinteresse. Wie der Europäische Gerichtshof für Menschenrechte jedoch in seinem Cengiz-Urteil von 2015 betonte, “ist das Internet zu einem der wichtigsten Mittel geworden, um das Recht auf Freiheit der Information und Meinungsäußerung auszuüben, indem es (…) wesentliche Instrumente für die Teilnahme an Aktivitäten und Diskussionen über politische Fragen und Themen von allgemeinem Interesse bereitstellt.” Im Zuge dieser gesellschaftlichen Veränderung kann daher auch die Verantwortlichkeit hinsichtlich Inklusivität und Menschenrechtsschutz nicht ausschließlich auf staatlicher Ebene verortet werden. Auch die Unternehmen nehmen eine entscheidende Rolle ein. So ist, unter anderem durch das Zusammenspiel von staatlichen Gesetzen und privaten Community-Standards, ein hybrider Ordnungsrahmen für digitale Plattformen entstanden.

Expert*innen sind sich einig, dass Unternehmen in solch bedeutenden Positionen für eine angemessene und nachhaltige Ausübung ihrer Vorrangstellung auch gesellschaftlich verantwortlich gemacht werden sollten. Stehen sie hier vor einem Konflikt, weil sie Entscheidungen gegen das Profitinteresse des Unternehmens treffen müssen? Eine mögliche Lösung dieses Interessenkonflikts besteht darin, dem Entscheidungsprozess durch Plattformräte mehr Legitimität zu verleihen. 

Plattformräte als die Legitimation verbessernde Komponente

Die Idee hinter Plattformräten besteht darin, die Inklusivität bei der Entscheidungsfindung und der Gestaltung des Kommunikationsraums zu steigern. Durch die Beteiligung von Personen, die nicht im Interesse des Unternehmens handeln, sollen Grundrechte und andere wichtige Werte auf den Plattformen gestärkt werden. Metas Oversightboard gilt als erster, bedeutender Schritt hin zu einer externen Kontrolle der Entscheidungsprozesse einer kommerziellen Plattform. Dennoch zögern viele andere Plattformen weiterhin, ähnliche Governance-Strukturen einzuführen.

Die genaue, effektive Ausgestaltung dieser Räte ist jedoch noch nicht einheitlich geklärt. Plattformräte sind auf verschiedenen Regelungsebenen (national, regional und global) vorstellbar und können in verschiedenen Konstellationen eingerichtet werden. Auch gibt es verschiedene Ansätze, worüber die Plattformräte entscheiden sollen. Sollten sie nur durch Präzedenzfälle die großen Linien der Moderationspraxis vorgeben, oder als eine Art Gericht jede Entscheidung prüfen, welche die Nutzer*innen anzweifeln?

Inklusivität als wichtiger Faktor

Die Zusammensetzung der Räte ist eine zentrale Frage. Sowohl Expert*innen mit technischem Fachwissen als auch gewählte Vertreter:innen von Nutzer:innen und/oder Minderheiten könnten Teil der Besetzung sein. Die Einbeziehung von Randgruppen ist von großer Bedeutung, um insbesondere die Interessen ansonsten marginalisierter Gruppen einzubeziehen. Dabei kann jedoch die Inklusivität des Plattformrates im Widerspruch zu dessen Effektivität stehen: Größere, möglichst heterogene Räte könnten zwar die Legitimität stärken, kämpfen jedoch gleichzeitig mit der Herausforderung ineffizienter Entscheidungsfindung. Je mehr Interessen berücksichtigt werden müssen, desto aufwendiger gestaltet sich der Entscheidungsprozess. 

Mit diesem Gedanken wurde auch Metas Oversight Board eingesetzt. Bei dessen Gestaltung wurde viel Wert auf Inklusivität gelegt. Unsere komplexe moderne Gesellschaft erzeugt jedoch kaum lösbare Repräsentationsprobleme. Daher wird Metas Oversightboard weiterhin dafür kritisiert, kulturelle oder soziale Perspektiven nicht ausreichend zu berücksichtigen.

Weitere potenzielle Nachteile der Räte könnten die Schwächung staatlicher Regulierungsbehörden, Unklarheit über Verantwortlichkeiten, eine Verwässerung der ethischen Standards, ein normativer Vertuschungseffekt und ein allzu globaler Ansatz für eigentlich regional zu treffende Sprachregeln sein, der lokale Praktiken außer Acht lässt.

Von den anderen lernen

Ein mögliches Vorbild für die komplexe Einrichtung der Räte könnte die Europäische Kommission für Demokratie durch Recht (sog. “Venedig-Kommission”) sein. Diese unabhängige Beratungsstelle im Rahmen des Europarats bietet Fachwissen zu Fragen des Verfassungsrechts und der demokratischen Institutionen, wobei der Fokus auf bewährten Verfahren und Mindeststandards liegt.

Referenzen

Kettemann, Matthias C und Schulz, Wolfgang – Ground Rules for Platform Councils (https://graphite.page/platform-democracy-report/#read-full-article)