Forschungsthema im Fokus
Autonomie, autonome Systeme und Roboter
Selbstfahrende Autos, humanoide Roboter oder von menschlicher Kontrolle unabhängige Waffen – an diesen sogenannten autonomen Systemen zeigt sich der enorme Einfluss von Künstlicher Intelligenz (KI) auf unsere Gesellschaft. Sie treffen Entscheidungen, bewegen sich eigenständig und interagieren mit uns als beinahe schon soziale Wesen. In unserer Forschung untersuchen wir dieses komplexe und dynamische Verhältnis zwischen Menschen und intelligenten Maschinen. Autonome Systeme fordern uns dazu heraus, sicher geglaubte Vorstellungen von Autonomie, Intelligenz, Bewusstsein und Kontrolle in Frage zu stellen.
Die autonomen Eigenschaften eines Systems werden oft als nächster Schritt zur Automatisierung verstanden. Bei automatischen Systemen ging es im Wesentlichen darum, alle Eventualitäten in der Programmierung eines Systems vorauszudenken. Sie können zwar komplexe Aufgaben durchführen, folgen aber immer noch den Regeln, die Menschen aufgestellt haben. Autonome Systeme hingegen sind in der Lage, Muster aus unbekannten Daten zu abstrahieren ('maschinelles Lernen’). Sie sind so programmiert, dass sie sich Schritt für Schritt auch an das anpassen können, was nicht im Voraus festgelegt wurde. Das gibt ihnen mehr Anpassungs- und Handlungsfähigkeit.
Der menschliche Einfluss auf autonome Systeme
Autonome Systeme sind nie vollständig selbstgesteuert (sie sind durch Menschen programmiert) oder selbstversorgend (sie sind abhängig von einer Energiequelle und technischen Infrastrukturen). Der Begriff autonomes System ist daher etwas irreführend. Das autonome System hat eine eigene Materialität (seine ‘Hardware’), die ganz wesentlich bestimmt, was das System kann. Diese spielt aber auch in Bezug auf das Ausmaß menschlicher Kontrolle eine große Rolle: Interfaces (Bildschirme, Schalter) bestimmen, wie wir mit dem System interagieren (Sprechen, Gesten). Sie bieten uns auch Optionen, wie wir das System steuern können – oder können uns diese vorenthalten. All das bestimmt, inwiefern der Mensch ‘im Loop’ ist – ist er Teil der Entscheidung, geschieht diese selbständig, wann kann er eingreifen?
Welche kulturellen Faktoren prägen unser Verständnis von KI?
KI ist keine rein technische oder abstrakte Idee, sondern eingebettet in komplexe soziale und kulturelle Kontexte. Allein der Begriff der Autonomie – ein seit Jahrhunderten stets neu verhandeltes Konzept – zeigt, wie sehr unser Verständnis von KI durch die europäische Geistesgeschichte geprägt ist. Hinzu kommt, dass gesellschaftliche Erwartungen und Ängste um KI stark mit Fiktionen und Imaginationen (z. B. die Darstellung von Robotern in der Populärkultur) verbunden sind. Diese kulturellen Bilder haben einen starken Einfluss darauf, wie wir KI erleben. Kulturelle Vergleiche, wie wir sie in unserer Forschung durchführen, schärfen daher unseren Blick auf KI.
Redenreihe
Vertrauenswürdige Maschinen?
In unserer making sense of the digital society Redenreihe diskutiert Iyad Rahwan über deie psychologischen, sozialen und politischen Faktoren, die unser Vertrauen in Maschinen prägen.
Digitaler Salon
Machine Gun Learning
In unserem Digitalen Salon diskutieren wir über autonome Waffensysteme in einem Spannungsfeld zwischen technologischen Möglichkeiten, politischer Verantwortung und rechtlichen Implikationen.
Konferenz Keynote
Beate Rössler: Infrastrukturen der Autonomie
Autonomie ist ein vielschichtiges Konzept. In jüngster Zeit hat der Begriff im Zusammenhang mit technologischen Innovationen wie Drohnen, Autos oder Robotern erneut an Bedeutung gewonnen.
Im Zeitalter der autonomen Maschinen?
Können Maschinen autonom sein – oder ist das ein Privileg des Menschen? Diese kategorische Frage dominiert viele Diskussionen über unser Verhältnis zu den (vermeintlich) intelligenten Maschinen. Doch bringt sie uns...
Autonome Waffen – Realität oder Imagination?
Wie autonom sind autonome Waffen? Wie real sind sie bereits? Und welchen Anteil haben Fiktionen wie der Terminator daran, wie wir über diese Technik denken?