Human in the Loop: Kreditvergabe im Fokus

The Alexander von Humboldt Institute for Internet and Society is organising a roundtable on the topic of credit grating at the start of the research project Human in the Loop? Autonomy and Automation in Socio-Technical Systems.  This kick-off event will take place at HIIG and in German.

Kreditvergabe im Fokus

Roundtable
Auftaktveranstaltung des Projekts Human in the Loop
10. April 2024 | 15:00 – 18:00 Uhr
Alexander von Humboldt Institut für Internet und Gesellschaft
Französische Straße 9, 10117 Berlin

Die automatisierte Kreditvergabe im Fall von Verbraucher*innen bringt Effizienzvorteile, birgt aber auch ethische Bedenken sowie Vertrauensfragen. Innerhalb des Forschungsprojektes werden demnach mögliche Verzerrungen in Kreditentscheidungen durch Faktoren wie Geschlecht und Wohnort, die potenzielle Priorisierung der Gewinnmaximierung seitens der Kreditinstitute und die Rechte und Bedürfnisse der Kreditnehmer*innen analysiert. Zudem werden die Auswirkungen automatisierter Kreditentscheidungen auf das Vertrauen der Verbraucher*innen in ihre Kreditgeber erforscht. Das Forschungsteam widmet sich des Weiteren den Fragen zur Einhaltung des Gebots der Nichtdiskriminierung sowie zur Rolle weiterer rechtlicher Rahmenbedingungen.

Ziel des Roundtables ist es, verschiedene Akteure zusammenzubringen und das Thema Kreditvergabe aus unterschiedlichen Perspektiven zu beleuchten. Die Ergebnisse der Diskussionen fließen direkt in die Forschung zurück und werden so Teil eines problem- und praxisorientierten Forschungsprojekts.

Projekt Human in the Loop

Das Projekt Human in the Loop? Autonomie und Automation in sozio-technischen Systemen zielt darauf ab, die Interaktion von Mensch und Maschine in Entscheidungsprozessen zu modellieren, um die Vorteile beider Entscheidungsfähigkeiten zu nutzen und Diskriminierungsrisiken zu minimieren. Automatisierten Entscheidungen sind häufig nicht fehlerfrei. Das liegt daran, dass sie unbeabsichtigte Vorurteile (Biases) aus Trainingsdaten beinhalten oder es an mangelndem menschliches Kontextverständnis fehlt. So werden einzelne, maschinelle Entscheidungen den individuellen Situationen von Personen häufig nicht gerecht. Deshalb wird schon lange gefordert,  Menschen in solche Prozesse zu integrieren, damit sie eine bestimmte Rolle bei der Überwachung und Verbesserung von technologischen Systemen spielen.

Das Forschungsprojekt analysiert demnach anhand von vier Fallstudien, wie die sinnvolle menschliche Beteiligung in Entscheidungsprozesse integriert werden kann. Es untersucht Faktoren, die menschliche Entscheidungen beeinflussen, identifiziert Fehler, Anfälligkeiten und Stärken aller beteiligten technischen Systeme und Personen. Zentrale Fragen betreffen die Gestaltung sinnvoller Interaktionen zwischen Mensch und Maschine, die Bedeutung menschlicher Entscheidungen für die Qualitätssicherung von Automatisierungen sowie die Sicherstellung von Rechtssicherheit, Transparenz und Nachvollziehbarkeit in dieser Interaktion. Es werden auch Anforderungen für die Interaktion zwischen Mensch und Maschine in Bezug auf technische Systeme, menschliche Entscheidungsträger, deren Kontext und Umwelt untersucht.

Agenda

Teilnahme

Die Teilnahme an dieser Veranstaltung ist nur auf Einladung möglich.

Bitte melden Sie sich bei Fragen bei Katharina Mosene (katharina.mosene@hiig.de) oder Sarah Spitz (sarah.spitz@hiig.de).

Partner

Das Projekt Human in the Loop wird von der Stiftung Mercator gefördert.