Zukunft der Content Moderation durch effektive Mensch-Maschine-Kollaboration

Das Alexander von Humboldt Institut für Internet und Gesellschaft organisiert zum Auftakt des zweiten Anwendungsfalls des Forschungsprojektes Human in the Loop: Autonomie und Automation in sozio-technischen Systemen (HiLo) einen Roundtable zum Thema Zukunft der Content Moderation. Diese Auftaktveranstaltung findet am HIIG und in deutscher Sprache statt.  

Zukunft der Content Moderation durch effektive
Mensch-Maschine-Kollaboration

Roundtable

7. Oktober 2024 | 15:00 – 18:45 Uhr I Einlass ab 14:30 Uhr
Alexander von Humboldt Institut für Internet und Gesellschaft
Französische Straße 9, 10117 Berlin

Content Moderation ist in der Online-Welt entscheidend, um Inhalte zu kontrollieren und sicherzustellen, dass sie den Plattformrichtlinien entsprechen. Schädliche oder unangemessene Inhalte wie zum Beispiel Hassrede und Falschinformationen können so erkannt, bearbeitet und/oder gelöscht werden. Dieser Prozess umfasst sowohl automatisierte Entscheidungen durch Algorithmen als auch menschliche Bewertungen. Aus diesem Grund ist das Thema Content Moderation ein Anwendungsfall im HiLo-Projekt, zu dem das wissenschaftliche Team mit Expert*innen und relevanten Stakeholdern aus dem Feld ins Gespräch kommen möchte. Im Fokus stehen Modelle der Mensch-Maschine-Interaktion und die Erarbeitung von Vorschlägen für optimale Content Governance-Ansätze vor dem Hintergrund der neuen EU-Rechtsakte. 

Wie gestalten wir die Zukunft der Content Moderation durch effektive Mensch-Maschine-Kollaboration?

Nach einem kurzen Einblick in das Forschungsprojekt und einem Input von Prof. Matthias C. Kettemann über Mensch-Maschine-Kollaborationen stehen die Expertise und Fragen der geladenen Teilnehmenden im Mittelpunkt. Im Fokus stehen die aktuellen Praktiken der automatisierten Content Governance bei einer großen Online-Plattform. Anschließend wird erörtert, wie die Automatisierung in den derzeit von den Digital Services Coordinators diskutierten Codes of Conduct sinnvoll geregelt werden sollte.

Ziel des Roundtables ist es, verschiedene Akteur*innen zusammenzubringen und das Thema Content Moderation durch effektive Mensch-Maschine-Kollaboration aus unterschiedlichen Perspektiven zu beleuchten. Die Ergebnisse der Diskussionen fließen direkt in die Forschung zurück und werden so Teil eines problem- und praxisorientierten Forschungsprojekts.

Agenda

Zum Projekt Human in the Loop

Das Projekt Human in the Loop: Autonomie und Automation in sozio-technischen Systemen zielt darauf ab, die Interaktion von Mensch und Maschine in Entscheidungsprozessen zu modellieren, um die Vorteile beider Entscheidungsfähigkeiten zu nutzen und insbesondere Diskriminierungsrisiken zu minimieren. Automatisierte Entscheidungen sind häufig nicht fehlerfrei. Das liegt daran, dass sie unbeabsichtigte Vorurteile (Biases) aus Trainingsdaten beinhalten oder es an menschliches Kontextverständnis fehlt. So werden einzelne, rein maschinelle Entscheidungen – aus der Natur ihrer Funktionsweise – den individuellen Situationen von Personen häufig nicht gerecht. Deshalb wird schon lange gefordert,  Menschen in solche Prozesse zu integrieren, damit sie eine bestimmte Rolle bei der Überwachung und Verbesserung von technologischen Systemen spielen.

Das Forschungsprojekt analysiert demnach anhand von vier Fallstudien, wie menschliche Beteiligung besser in zunehmend automatisierte Entscheidungsprozesse integriert werden kann. Es untersucht Faktoren, die Entscheidungen beeinflussen, identifiziert Fehler, Anfälligkeiten und Stärken aller beteiligten technischen Systeme und menschlichen Personen. Zentrale Fragen betreffen die Gestaltung sinnvoller Interaktionen zwischen Mensch und Maschine, die Bedeutung menschlicher Entscheidungen für die Qualitätssicherung von Automatisierungen sowie die Sicherstellung von Rechtssicherheit, Transparenz und Nachvollziehbarkeit in dieser Interaktion. Es werden auch Anforderungen für die Interaktion zwischen Mensch und Maschine in Bezug auf technische Systeme, menschliche Entscheidungsträger, deren Kontext und Umwelt untersucht.

Partner

Das Projekt Human in the Loop wird von der Stiftung Mercator gefördert. 

Teilnahme

Die Teilnahme an dieser Veranstaltung ist nur auf Einladung möglich.