Im Zeitalter der autonomen Maschinen?

Können Maschinen autonom sein – oder ist das ein Privileg des Menschen? Diese kategorische Frage dominiert viele Diskussionen über unser Verhältnis zu den (vermeintlich) intelligenten Maschinen. Eine Mensch-gegen-Maschine-Rhetorik bringt uns jedoch nicht sehr weit. Im Gegenteil, sie lenkt sogar von der wichtigeren Frage ab, wie autonome Systeme die Art und Weise verändern, wie wir Menschen uns zur Welt im Allgemeinen und zueinander verhalten. In einem viel umfassenderen Sinne werden Roboter – insbesondere als simulierte Menschen – zwangsläufig die Grundlagen dessen umwühlen, was wir als menschliche Autonomie betrachten. 

Das weitgehend nutzlose Entweder-oder unseres Verständnisses von Autonomie

“Autonom” ist zu einer alltäglichen Beschreibung von Computersystemen geworden, die in der Lage sind, auf unvorhersehbare Weise zu agieren. In populären, aber auch in vielen akademischen Diskursen steht dieses Attribut oft stellvertretend für alles, was mit künstlicher Intelligenz zu tun hat. Dies hat zur Folge, dass die übliche Unschärfe des Begriffs “KI” in vielen Fällen gegen einen anderen, kaum weniger unscharfen Begriff ausgetauscht wird. 

Trotz dieser Unschärfe bringt der Begriff “autonom” in vielen aktuellen Debatten über die Autonomie des Maschinen einige Vorteile mit sich. Zunächst einmal deutet er auf ein bestimmtes Merkmal von KI-bezogenen Computersystemen hin, das sie von vorangegangenen Technologien unterscheidet: eine erstaunliche – und immer weiter wachsende – Unabhängigkeit von menschlicher Kontrolle und Intervention. In den Ingenieurwissenschaften und der Informatik werden die autonomen Eigenschaften eines Systems als nächster Schritt nach der Automatisierung verstanden, bei der es im Wesentlichen darum ging, alle Möglichkeiten und Eventualitäten in der Programmierung eines Systems vorauszudenken. Automatische Systeme reagieren auf einen einfachen Schwellenwert, automatisierte Systeme folgen, in einem ausgeklügelten, aber immer noch recht engen Sinne, den Regeln, die in komplexen und detaillierten, von Menschenhand erstellten Rezepten vorgegeben sind, also einem Top-down-Modell in Aktion. Autonome Systeme hingegen sind in der Lage, Muster aus unbekannten Daten zu abstrahieren (ein Bottom-up-Ansatz; dies ist die Komponente des maschinellen Lernens) und sind so programmiert, dass sie sich Schritt für Schritt an das anpassen, was nicht vorher festgelegt wurde. Somit weisen sie im Vergleich zu ihren automatischen Gefährten einen viel höheren Grad an Handlungsfähigkeit auf (siehe z. B. Scharre 2018, 26-34).

Zweitens hat die Bezeichnung “autonom” neben diesen technologisch begründeten Bedeutungen auch einen ganz praktischen Vorteil: Die Menschen wissen sofort – oder sie glauben sofort zu wissen – was damit gemeint ist. Die Bezeichnung ist geläufig, ruft bekannte Bilder von selbstfahrenden Autos oder Robotern auf und erscheint gleichzeitig universell anwendbar. In diesem Sinne ist sie in der Lage, den dringend benötigten Austausch zwischen der breiten Öffentlichkeit, politischen Entscheidungsträgern und Fachdiskursen und auch zwischen akademischen Disziplinen zu erleichtern, der von technischen über soziale bis zu philosophischen Ansätzen reicht. Zu einem Teil erklärt dies die Popularität des Begriffs “autonom”, der sich neben dem noch allgemeineren Begriff “KI” etabliert hat.  

Es ist kaum verwunderlich, dass die Eigenschaften eines (zu) allgemeinen und umfassenden “Autonomie”-Begriffs in anderen Bereichen Schwierigkeiten bereiten. Während es den technischen Disziplinen wie den Ingenieurwissenschaften und der Informatik gelungen ist, das Verständnis von “autonomen Systemen” entschieden zu verengen und damit eine recht konkrete Lesart zu etablieren (im Wesentlichen die oben skizzierte), steht die Terminologie ständig im Widerspruch zu Ansätzen, die in philosophischen Interpretationen von Autonomie wurzeln. Dies liegt nicht zuletzt darin begründet, dass ihr Hauptbezugspunkt nicht eine technische Einheit, sondern der Mensch ist. Schon die Idee der menschlichen Autonomie impliziert, dass eine philosophische oder anthropologische Disziplin für sie zuständig ist (oder zumindest sein sollte); eine, die die Grundlagen des menschlichen Seins erforschen will und deren konzeptionelle Tradition tief im europäischen Denken verwurzelt ist. Der Begriff der menschlichen Autonomie weckt Assoziationen mit Konzepten wie dem freien Willen und dem rationalen Subjekt, was die Bedeutung von Autonomie oft vorsätzlich und resolut gegen ihre Anwendung in technologischen Diskursen in Stellung bringt. 

Dieser Begriff für alle ist zwar inklusiv, birgt aber auch einige schwerwiegende Widersprüche in sich: Es handelt sich zwar um dasselbe Konzept, aber wir meinen in der Regel sehr unterschiedliche Dinge und argumentieren dabei manchmal sogar von miteinander unvereinbaren Positionen aus. Diese Positionen schließen sich gegenseitig aus, wenn “autonom” als Markierung des Menschlichen artikuliert wird. Nicht selten mündet dies in der doch erwartbaren bis banalen Erkenntnis, Maschinen seien nicht wirklich intelligent, besäßen keinen freien Willen und könnten daher gar nicht autonom sein.

Die disziplinären Terrains zeigen einander ihre jeweiligen Grenzen auf. Aus diesem Grund mag auch ein Argument, das die Unterschiede zwischen menschlicher und maschineller Autonomie zu erforschen sucht, als Trockenübung in der Debatte durchaus brauchbar sein mag – führen wird es aber dennoch zu nichts. Wenn die jeweiligen Prämissen von Anfang an so große Unterschiede aufweisen, sind auch einige der Antworten von vornherein klar sein: Maschinen sind nicht autonom im menschlichen Sinne. Aber es ist auch fraglich, ob das auf Menschen zutrifft. 

Ironischerweise weist die Grundlage eines positiven Verständnisses von Autonomie (das den freien Willen des rationalen Subjekts voraussetzt) auf ein Dilemma hin, in dem sich sowohl Maschinen als auch Menschen in Bezug auf ihre autonomen Qualitäten und Fähigkeiten gemeinsam wiederfinden: Beide sind in ihrer “Autonomie” nicht nur stark von externen Faktoren abhängig; diese externen Faktoren konstituieren die Idee der Autonomie erst im praktischen Handeln, das sich auf einen Rahmen von Kulturtechniken, symbolischen Strukturen, Technologie bis hin zu somatischen Bedingungen und Bedürfnissen stützt. 

Schauen wir uns diese Beziehung also genauer an.

Autonomie: eine Relation, keine Essenz

Die meisten Debatten zum Thema Autonomie und autonome Systeme lassen sich (zugegebenermaßen vereinfacht) entlang zweier Hauptinterpretationen von Autonomie aufteilen. Der erste Impuls besteht darin, sie mit Figurationen des Menschen zu verbinden, wie dem rationalen und freien Subjekt, der Vernunft oder den angeborenen Eigenschaften und Werten eines Menschen (siehe Christman 2020 für einen Überblick). Das rationale Subjekt trifft bewusste Entscheidungen und übt einen freien Willen aus. Im offensichtlichsten Sinne lässt sich leicht argumentieren, dass dieses traditionelle Verständnis durch KI in Frage gestellt wird, wenn autonome Systeme Anteil an Entscheidungsprozessen haben, die früher ausschließlich dem Menschen vorbehalten waren. Es kann auch argumentiert werden, dass die Undurchsichtigkeit dieser Systeme die Grundlage der menschlichen Autonomie destabilisiert, da wir uns nicht mehr in vollem Maße darauf verlassen können, zu wissen, worauf menschliche Entscheidungen beruhen. Oder, um es ganz praktisch auszudrücken: Wie können wir fundierte Entscheidungen treffen, die unsere Absichten zum Ausdruck bringen, wenn die Optionen, aus denen wir wählen, von einem technischen “KI”-System vorausgewählt und damit vorbestimmt sind? Ebenfalls im Einklang mit dieser ersten Interpretation von Autonomie, aber etwas subtiler, zwingt die Unabhängigkeit autonomer Systeme uns Menschen dazu, die Idee unserer eigenen menschlichen Handlungsfähigkeit zu hinterfragen. Im Allgemeinen dient dieses essentialistische Verständnis von Autonomie sowohl im öffentlichen als auch im wissenschaftlichen Diskurs häufig dazu, die Handlungsfähigkeit von Maschinen rhetorisch und konzeptionell als etwas kategorisch Anderes darzustellen, sozusagen als ein Grundelement des Menschseins. 

Das zweite Verständnis von Autonomie hingegen betrachtet sie als eine relationale Qualität, die nur innerhalb bestimmter symbolischer oder materieller Rahmen existieren kann. In dieser Denkrichtung sind es diese rahmenden Bedingungen, die überhaupt erst komplexe Verflechtungen von menschlicher und maschineller Autonomie schaffen. Mit anderen Worten: Es gibt kein autonomes Subjekt oder einen autonomen Akteur an sich, Autonomie ist vielmehr als ein Effekt von Beziehungen zu sehen, die autonome Prozesse erst ermöglichen. Konkret bedeutet dies, dass die Strukturen als Bedingungen der Autonomie zu betrachten sind, was auch ihren paradoxen Charakter widerspiegelt: Individuelle Freiheiten müssen eingeschränkt werden, zum Beispiel durch Regeln, die in Gesetzen oder Normen festgelegt sind, um die individuelle Autonomie zu sichern, eine dynamische Dialektik von Normativität und Freiheit (Khurana 2013). Wir sind auf diese sozialen Strukturen ebenso angewiesen wie auf die Sprache oder unseren Körper, um autonom zu “sein” (vgl. Rössler 2021).  

Diese relationalen Prinzipien finden einen Nachhall sowohl in der Konzeptualisierung autonomer Systeme selbst als auch in der Beziehung zwischen Mensch und Maschine, die dieser Konzeptualisierung zu Grunde liegt. In einem basalen Sinn nimmt der Begriff “autonom” sowohl bei Menschen als auch bei Computersystemen zwei Bedeutungen an, nämlich “Selbstgenügsamkeit – die Fähigkeit einer Einheit, für sich selbst zu sorgen” – und “Selbststeuerung oder Freiheit von äußerer Kontrolle” (Bradshaw et al. 2012, 3; Übersetzung des englischsprachigen Originals). Da wir uns jedoch immer mit Beziehungen befassen, ist der Begriff “autonome Systeme” in einer strengen Deutung eine in sich widersprüchliche Bezeichnung (Bradshaw et al. 2012, 5), eine logische Unmöglichkeit, da keine Einheit weder völlig autark noch selbstgesteuert ist. Autonomie bezeichnet daher, wie bereits erwähnt, eher das Beziehungssystem und nicht das “Computersystem” oder den Menschen als eigenständige Entitäten. Autonomie ist eine Qualität, die in diesen Mensch-Maschine-Systemen ausgehandelt wird, nicht eine Eigenschaft, die einfach da ist. 

Dieser relationale Aspekt von autonomen Mensch-Maschine-Systemen spiegelt sich auch (wenn auch oft implizit) in den Graden der Kontrolle über das technische System wider, die zum Zweck ihrer Klassifizierung unterschieden werden. In diesem Sinne wird die Notation “in, on und out of the loop” oft als Charakterisierung der maschinellen Autonomie ex negativo missverstanden, indem die Möglichkeiten des menschlichen Eingriffs klassifiziert werden. “In-the-loop” bezieht sich in der Regel auf direkt ausgeführte Steuerung, wenn eine Aktion eingeleitet wird, “on-the-loop” auf Systeme, deren Aktionen verhindert oder abgebrochen werden können, und “out-of-the-loop” auf Systeme, die keine menschliche Steuerung mehr benötigen, aber meist (noch) von menschlichen Akteuren überwacht werden. Diese Einteilung charakterisiert jedoch weniger die maschinelle Autonomie, sondern trägt dem relationalen Verständnis von Autonomie Rechnung (Bächle/Bareis 2022). 

Da diese Beziehung so zentral ist – Wie kann der Mensch eingreifen? Wie formen Maschinen das menschliche Verhalten? etc. – spielen die Modalitäten genau dieser Mensch-Maschine-Interaktion eine Schlüsselrolle (Suchman 2007). KI ist also keine abstrakte Idee, sondern an eine bestimmte Materialität, eine Interface-Struktur gebunden, die ihren Platz in der Welt bestimmt. 

Humanoide Roboter: die autonomere KI? 

Neben diesen konzeptionellen Fragen ist die Modellierung von Autonomie auch eine sehr produktive Praxis der Herstellung von Bedeutungen, die nicht nur unser Wissen über notwendige Debatten zur conditio humana bereichert. Sie ist zugleich Ausdruck des (historisch konstanten) soziokulturellen Wunsches danach, eine Technologie zu entwickeln, die uns selbst einen Spiegel vorhält. Am deutlichsten wird dies bei Robotern, die in unterschiedlichem Maße menschenähnliche Designelemente aufweisen können, wie etwa stilisierte Gesichtsausdrücke auf einem Bildschirm oder eine Stimme. 

Die materielle Dimension des Roboterkörpers macht sie zu einer einzigartigen Art von KI. Wie wir bisher gesehen haben, sind es die relationalen Aspekte, die die Idee der Autonomie direkt bestimmen. Sowohl in funktionaler als auch in morphologischer Hinsicht verfügt ein humanoider Roboter über eine Reihe von distinkten Fähigkeiten (wie etwa diejenige, sich frei zu bewegen) und Merkmalen (wie dem eines menschenähnlichen materiellen Gesichts), die ihn von abstrakteren Vorstellungen von KI-Autonomie unterscheiden, die mit Software, algorithmusbasierten Lernsystemen oder einem “intelligenten” Bot in Verbindung gebracht werden. Mit anderen Worten: Ein humanoider Roboter kann potenziell viel komplexere Verbindungen zu seiner materiellen und sozialen Umgebung herstellen. 

In einem funktionalen Sinne kann ein humanoider Roboter (in der Regel ein zweibeiniges System mit Armen und Händen) ein höheres Maß an Selbststeuerung zeigen, um mit (unbekannten) Umgebungen zu interagieren und sich in ihnen zu bewegen. Diese rekursiven Sensor-Aktor-Schleifen (das maschinelle Äquivalent zu menschlicher Wahrnehmung und Handlung) ermöglichen es ihm, Repräsentationen und Modelle der Welt außerhalb des Systems automatisch zu verfeinern, ein Ansatz, der dem oben skizzierten Bottom-up-Verständnis des maschinellen Lernens sehr nahe kommt. Der Mensch ist – zumindest im Prinzip – nicht erforderlich dafür, dass das KI-System seine Umgebung erkunden kann. 

Eng verbunden mit diesen Merkmalen sind im morphologischen Sinne die menschenähnlichen Elemente, die als wichtige Schnittstelle dienen, einschließlich der Gestik, der Nachahmung der Mimik oder der “Körpersprache”. Das humanoide System gewährt nicht nur Zugang zu Formen menschlicher Handlungsfähigkeit, sondern auch zu einer Kommunikationsform, die einen wichtigen Teil der sozialen Realität darstellt und den Bereich der Emotionen und der affektiven Dimension der Mensch-Maschine-Interaktion eröffnet. Humanoide Roboter haben das Potenzial, als echte soziale Schnittstellen zu fungieren. 

Wohin führt das unser Verständnis von Autonomie und autonomen Systemen? Eine viel engere Verflechtung zwischen dem verkörperten Computersystem und seiner Umgebung erweitert die Bandbreite möglicher Beziehungen zu dieser erheblich: Dies macht den autonomen humanoiden Roboter mit sozialen Merkmalen zum ‘autonomsten’ künstlichen Agenten, den es derzeit gibt. Was unser traditionelles Verständnis von menschlicher Autonomie betrifft, so werden die Ideen der perfekten Simulation und der Täuschung zentral. Wir stehen kurz davor, in eine mediatisierte soziale Umgebung einzutreten, in der wir nicht mehr sicher sein können, ob wir mit einem menschlichen Akteur (d. h. einem anderen empfindungsfähigen Wesen) oder einem künstlichen Agenten, einem Bot oder Roboter, ohne Seele und Geist, interagieren. Angesichts dieses zunehmenden Zweifels geraten die Voraussetzungen für eine fundierte Entscheidungsfindung ins Wanken – und damit auch unsere Beziehungen zur Welt, die Grundlagen unserer eigenen Autonomie.

Literatur

Bächle TC, Bareis J (2022) “Autonomous weapons” as a geopolitical signifier in a national power play: analysing AI imaginaries in Chinese and US military policies. European Journal of Futures Research 10, 20 (2022). https://doi.org/10.1186/s40309-022-00202-w

Bradshaw J, Hoffman R, Woods D, Johnson M (2013) The seven deadly myths of “Autonomous Systems”. IEEE Intelligent Syst 28:54–61.

Christman J (2020) Autonomy in Moral and Political Philosophy, The Stanford Encyclopedia of Philosophy (Fall 2020 Edition), Edward N. Zalta (ed.). https://plato.stanford.edu/archives/fall2020/entries/autonomy-moral/

Khurana T (2013) Paradoxes of autonomy: on the dialectics of Freedom and normativity. Symposium 17(1):50–74. https://doi.org/10.5840/symposium20131714

Rössler B (2021) Autonomy: An essay on the life well-lived, Cambridge.

Scharre P (2018) Army of none: autonomous weapons and the future of war. W. W. Norton & Company, New York.

Suchman L (2007) Human-machine reconfigurations: Plans and situated actions. Cambridge, New York.