Autonome Waffensysteme

Die Entwicklung “autonomer Waffensysteme” (AWS) wird seit Jahren kontrovers diskutiert. Akteure aus Politik, Wissenschaft, Recht und Zivilgesellschaft debattieren die gesellschaftlichen, geopolitischen und ethischen Implikationen dieser Technologie. Diese Diskussionen um autonome Waffensysteme werden von Forderungen nach einer strengen Regulierung – bis hin zu Forderungen nach einem vollständigen Verbot – begleitet.

Essentielle Fragen sind dabei aber noch ungeklärt. Zum einen ist umstritten, welche Systeme als autonome Waffen gelten sollen. Hierbei ist oft von Waffen die Rede, die ‘nur’ automatisch oder teilautonom sind. Zum anderen ist bisher unbestimmt, wie und in welchen Situationen eine menschliche Kontrolle stattfinden kann – und wie diese technisch überhaupt realisiert werden soll.

Verschärft wird diese Unbestimmtheit durch den Umstand, dass die Debatten nicht nur um bereits bestehende oder derzeit entwickelte Technologien kreisen. Sie rufen auch Bilder zukünftiger Systeme auf, die bisher eher eine konzeptionelle Vision sind, beispielsweise intelligente und menschenähnliche Kampfroboter. Die Frage danach, welche Technologien reguliert und welche erst gar nicht entwickelt werden sollen, eröffnet einen Diskursraum, der bereits existierende Systeme mit solchen, die zukünftig vielleicht existieren könnten, vermischt.

Damit werden auch grundsätzlichere Fragen nach dem Verhältnis zwischen Mensch und Maschine, dem Grad der Autonomie künstlicher Intelligenzen und den Bedingungen menschlicher Einflussnahme aufgeworfen. Diese grundsätzlichen Fragen bilden auch den Kern der Debatten um KI im Allgemeinen. Doch mit der so folgenreichen Technologie autonomer Waffen wird deren Relevanz und Dringlichkeit besonders deutlich.

Forschungsfragen

Projektpartner

Die Erforschung des Themas autonome Waffensysteme wird gemeinsam mit dem Projekt Szenarien der Interaktion – Mensch-Maschine Interfaces in der Diskussion um Autonome Waffensysteme an der Universität Bonn durchgeführt, in dem die unterschiedlichen Konzepte der Mensch-Maschine-Interaktion in Autonomen Waffensystemen untersucht werden. Die Diskussion um derartige Konzepte wird anhand der Frage nach den spezifischen Interface-Lösungen für Mensch-Maschine-Interaktionen in AWS und ihren soziotechnischen Imaginationen analysiert. Auf diese Weise werden die medialen Bedingungen von Verantwortlichkeitskonzepten in den Formen der Kriegführung mit AWS erschlossen und für die kritische Reflexion zugänglich gemacht. Das Projekt an der Universität Bonn ist Teil des BMBF-geförderten Verbundprojekts Meaningful Human Control – Autonome Waffensysteme zwischen Regulation und Reflexion (Koordination: Universität Paderborn).