Internationales Forschungsteam ruft zu mehr Transparenz und Verantwortung im Umgang mit algorithmischer Moderation von Inhalten auf

Berlin, 3. Dezember 2020 – Das Projekt „Ethik der Digitalisierung hat seinen ersten Forschungssprint abgeschlossen und drei Policy Briefs veröffentlicht, in denen sie mehr Transparenz und Verantwortlichkeit in Bezug auf algorithmische Moderation von Inhalten auf Plattformen fordert. Das Verbundprojekt des „Global Network of Internet and Society Research Centers“ (NoC) steht unter der Schirmherrschaft des deutschen Bundespräsidenten Frank-Walter Steinmeier und wird von der Stiftung Mercator gefördert.

Die Initiative des Global Network of Internet and Society Research Centers (NoC) rückt die Ethik in den Vordergrund der Debatte um Plattformen und deren Umgang mit Inhalten.

Als Reaktion auf den zunehmenden öffentlichen Druck, Hate Speech und andere problematische Phänomene zu bekämpfen, setzen Plattformen immer häufiger algorithmische Moderationssysteme für Inhalte ein. Diese automatisierten Werkzeuge versprechen eine effektivere und effizientere Identifizierung potenziell illegaler oder unerwünschter Inhalte. Aber die algorithmische Moderation von Inhalten wirft auch viele Fragen auf, die selten einfach zu beantworten sind. Wo ist die Grenze zwischen Hassrede und Meinungsfreiheit – und wie lässt sich dies im globalen Maßstab automatisieren? Und wie können politische Entscheidungsträger ein angemessenes Maß an Transparenz und Rechenschaftspflicht in den Moderationsprozessen algorithmischer Inhalte von Plattformen sicherstellen?

Dies waren nur einige der Fragen, die den Forschungssprint zu KI und Moderation von Inhalten bestimmten, den das HIIG im Laufe von zehn Wochen von August bis Oktober 2020 virtuell veranstaltete. Eine interdisziplinäre Gruppe von dreizehn internationalen Fellows aus neun verschiedenen Ländern erarbeitete drei Policy Briefs, die Empfehlungen zur Bewältigung der dringendsten Herausforderungen enthalten, die sich aus der Automatisierung der Moderation von Inhalten ergeben.

Der Sprint war das erste Forschungsformat des Projekts „Ethik der Digitalisierung – von Prinzip zu Praktiken“ unter der Schirmherrschaft des deutschen Bundespräsidenten Frank-Walter Steinmeier. Dieses von der Stiftung Mercator geförderte Projekt hat zum Ziel, einen globalen Dialog über die Ethik der Digitalisierung zu fördern. Die Hauptpartner des NoC-Projekts sind das Berkman Klein Center an der Harvard University, der Digital Asia Hub, das HIIG und das Leibniz-Institut für Medienforschung | Hans-Bredow-Institut.

Der aktuelle zweite Forschungssprint (Oktober – Dezember 2020), der vom Berkman Klein Center an der Harvard University veranstaltet wird, untersucht die Auswirkungen der COVID-19-Pandemie auf den Zugang zu Bildungs- und Lernräumen. Im Februar 2021 wird das HIIG eine zweiwöchige Research Clinic zu mehr Fairness bei der Anzeigenschaltung in sozialen Netzwerken veranstalten. Weitere Informationen über das Projekt sowie einen detaillierten Zeitplan finden Sie auf der Projektseite.

Lesen Sie hier die Policy Briefs:

Policy Brief I – Making Audits Meaningful

Policy Brief II – Disclosure Rules for Algorithmic Content Moderation

Policy Brief III – Freedom of Expression in the Digital Public Sphere

Lesen Sie dazu unseren Blogpost:

When Scholars Sprint, Bad Algorithms Are on the Run

Die Präsentation der Ergebnisse hier im Video:

AI and Content Moderation – The Ethics of Digitalisation

Pressekontakt: Katrin Werner | Tel.: +49 30 200 760 82 | presse@hiig.de

Über das NoC

Das Global Network of Internet and Society Research Centers (NoC) ist eine 2012 gestartete Initiative wissenschaftlicher Institutionen im Bereich Internet und Gesellschaft mit dem Ziel, die Zusammenarbeit der teilnehmenden Institute zu stärken und globale Fragen gemeinsam anzugehen. Dabei setzt sich das Netzwerk mit Themen lokaler, nationaler und globaler Bedeutung auseinander: Policy, Regulierung und Governance, menschliches Verhalten, neue Märkte und Businessmodelle, Immaterialgüterrecht, Privacy, Sicherheit und vielen anderen mehr. Durch gemeinsame Forschungsaktivitäten, Veranstaltungen und den Austausch der einzelnen Forschungseinrichtungen wird der Diskurs zu digitaler Transformation um eine globale, interdisziplinäre Perspektive ergänzt.

Über das HIIG

Das Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) erforscht die Entwicklung des Internets aus einer gesellschaftlichen Perspektive, um die damit einhergehende Digitalisierung aller Lebensbereiche besser zu verstehen. Als erstes Forschungsinstitut in Deutschland mit einem Fokus auf Internet und Gesellschaft hat das HIIG ein Verständnis erarbeitet, das die Einbettung digitaler Innovationen in gesellschaftliche Prozesse betont. Basierend auf dieser transdisziplinären Expertise und als Teil des Global Network of Interdisciplinary Internet & Society Research Centers will das HIIG eine europäische Antwort auf den digitalen Strukturwandel entwickeln.

Das HIIG wurde 2011 von der Humboldt-Universität zu Berlin (HU), der Universität der Künste Berlin (UdK) und vom Wissenschaftszentrum Berlin für Sozialforschung (WZB) gegründet mit dem Hans-Bredow-Institut Hamburg als integrierter Kooperationspartner. Die ForschungsdirektorInnen des Instituts sind Prof. Dr. Jeanette Hofmann, Prof. Dr. Björn Scheuermann, Prof. Dr. Dr. Thomas Schildhauer und Prof. Dr. Wolfgang Schulz.

Über die Stiftung Mercator

Die Stiftung Mercator ist eine private, unabhängige Stiftung. Sie strebt mit ihrer Arbeit eine Gesellschaft an, die sich durch Weltoffenheit, Solidarität und Chancengleichheit auszeichnet. Dabei konzentriert sie sich darauf, Europa zu stärken, den Bildungserfolg benachteiligter Kinder und Jugendlicher insbesondere mit Migrationshintergrund zu erhöhen, Qualität und Wirkung kultureller Bildung zu verbessern, Klimaschutz voranzutreiben und Wissenschaft zu fördern. Die Stiftung Mercator steht für die Verbindung von wissenschaftlicher Expertise und praktischer Projekterfahrung. Als eine führende Stiftung in Deutschland ist sie national wie international tätig. Dem Ruhrgebiet, der Heimat der Stifterfamilie und dem Sitz der Stiftung, fühlt sie sich besonders verpflichtet.