Wer ist dieser Human in the Loop – und wenn ja, wie viele? Im Zeitalter von künstlich intelligenten Systemen werden riesige Datenmengen verarbeitet, um automatisierte Empfehlungen zu geben und sogar Entscheidungen zu fällen. Diese spielen eine zunehmende Rolle in unserem Alltag: Zum Beispiel beurteilen automatisierte Systeme für Banken die Kreditwürdigkeit von potenziellen Antragsteller*innen oder unterstützen Ärzt*innen dabei, Krankheiten zu diagnostizieren. Darum liegen die Vorteile dieser Automatisierung für viele klar auf der Hand. Zum einen beschleunigen sie viele Arbeitsprozesse und -abläufe, womit die Hoffnung verbunden ist, Kosten zu sparen. Zum anderen erkennen KI-gestützte Systeme versteckte Zusammenhänge und Muster, die Menschen übersehen können. Doch trotz ihrer Vorteile sind automatisierte Entscheidungen nicht immer fehlerfrei. Sie neigen beispielsweise dazu, unbeabsichtigte Vorurteile (Biases) aus den Daten zu übernehmen, mit denen sie trainiert wurden. Viele glauben, dass ein Mensch im Prozessablauf, der sogenannte Human in the Loop, die Lösung für viele Automatisierungsprobleme sein kann. Er könnte die Ergebnisse eines automatisierten Systems optimieren oder seine Entscheidungen überwachen. Aber führt menschliche Beteiligung automatisch zu besseren Ergebnissen? Und kommt es dabei nur auf die Ergebnisse an? Wie stellen wir tatsächlich sicher, dass menschliche Interventionen echte Mehrwerte liefern? Wer entscheidet im Automatisierungsprozess was und auf welcher Grundlage? Im folgenden Beitrag erklären wir, wie wir diese Fragen im Forschungsprojekt Human in the Loop? am Alexander von Humboldt Institut für Internet und Gesellschaft erforschen.
