Human in the Loop: Human and machine in lending decisions

The Alexander von Humboldt Institute for Internet and Society (HIIG) is organising a discussion round on the topic of lending deciscions to mark the end of the first case study of the research project Human in the loop? Autonomy and automation in socio-technical systems. This final event will take place at the HIIG and will be held in German.

Mensch und Maschine in der Kreditvergabe
Diskussionsrunde

20. Januar 2024 |09:30 Uhr – 14:00 Uhr | Einlass ab 09:00 Uhr
Alexander von Humboldt Institut für Internet und Gesellschaft
Französische Straße 9, 10117 Berlin

Die Automatisierung von Prozessen nimmt im Zeitalter von künstlich intelligenten Systemen eine größer werdende Rolle ein. Dies geschieht auch im Bereich der Kreditvergabe; zum Beispiel beurteilen automatisierte Systeme für Banken die Kreditwürdigkeit von potenziellen Antragsteller*innen, geben automatisierte Empfehlungen und in bestimmten Fällen sogar automatisierte Entscheidungen.

Der erste Case des Forschungsprojektes Human in the Loop? Autonomie und Automation in sozio-technischen Systemen untersucht das Zusammenspiel zwischen Mensch und Maschine in der Kreditvergabe und analysiert dabei die Einflussfaktoren auf die Entscheidung. Auch die Frage, wie der “Humans in the Loop” auf automatisierte Kreditentscheidungen einwirkt und inwiefern dieser sinnvoll in den Verbesserungsprozess (Feedbackschleifen) eingebunden ist, steht im Fokus des Projektes.

Aus den Erkenntnissen dieses ersten Cases sollen Hypothesen für die weitere Erforschung der Rolle des Human in the Loop insgesamt entwickelt werden, die in den folgenden Cases erweitert und geprüft werden. Darüber hinaus formuliert das Projekt neben den Forschungsergebnissen Empfehlungen für eine verbessernde Anpassung der Mensch-Maschine Interaktion im Fall Kreditvergabe und darüber hinaus. Zudem birgt die Interaktion zwischen Mensch und Maschine selbst neue Fehlerquellen. Das Forschungsteam widmet sich des Weiteren den Fragen zur Einhaltung des Gebots der Nichtdiskriminierung sowie zur Rolle weiterer rechtlicher Rahmenbedingungen.

Ziel der Abschlussveranstaltung ist es, die Forschungsergebnisse der ersten Fallstudie Kreditvergabe vorzustellen, sowie verschiedene Akteure zusammenzubringen und die Erkenntnisse aus unterschiedlichen Perspektiven zu beleuchten. Die Ergebnisse der Diskussionen fließen direkt in die Forschung zurück und werden so Teil eines problem- und praxisorientierten Forschungsprojekts.

Über das Projekt

Das Forschungsprojekt Human in the Loop? wird von der Stiftung Mercator gefördert und vom Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) durchgeführt. Das Projekt untersucht, wie angesichts der zunehmend komplexen Interaktion von Mensch und Maschine Entscheidungswege so modelliert werden können, dass die Vorteile menschlicher und maschineller Entscheidungsfähigkeiten unter Reduktion von Diskriminierungsrisiken realisiert werden können. Die Analyse der menschlichen Beteiligung in automatisierten Entscheidungsprozessen erfolgt in vier ausgewählten Fallstudien.

Teilnahme

Die Teilnahme an dieser Veranstaltung ist nur auf Einladung möglich.

Bitte melden Sie sich bei Fragen bei Katharina Mosene (katharina.mosene@hiig.de) oder Sarah Spitz (sarah.spitz@hiig.de).

Gefördert durch

Das Projekt Human in the Loop wird von der Stiftung Mercator gefördert.