Autonome Waffensysteme
Die Entwicklung “autonomer Waffensysteme” (AWS) wird seit Jahren kontrovers diskutiert. Akteure aus Politik, Wissenschaft, Recht und Zivilgesellschaft debattieren die gesellschaftlichen, geopolitischen und ethischen Implikationen dieser Technologie. Diese Diskussionen um autonome Waffensysteme werden von Forderungen nach einer strengen Regulierung – bis hin zu Forderungen nach einem vollständigen Verbot – begleitet.
Essentielle Fragen sind dabei aber noch ungeklärt. Zum einen ist umstritten, welche Systeme als autonome Waffen gelten sollen. Hierbei ist oft von Waffen die Rede, die ‘nur’ automatisch oder teilautonom sind. Zum anderen ist bisher unbestimmt, wie und in welchen Situationen eine menschliche Kontrolle stattfinden kann – und wie diese technisch überhaupt realisiert werden soll.
Verschärft wird diese Unbestimmtheit durch den Umstand, dass die Debatten nicht nur um bereits bestehende oder derzeit entwickelte Technologien kreisen. Sie rufen auch Bilder zukünftiger Systeme auf, die bisher eher eine konzeptionelle Vision sind, beispielsweise intelligente und menschenähnliche Kampfroboter. Die Frage danach, welche Technologien reguliert und welche erst gar nicht entwickelt werden sollen, eröffnet einen Diskursraum, der bereits existierende Systeme mit solchen, die zukünftig vielleicht existieren könnten, vermischt.
Damit werden auch grundsätzlichere Fragen nach dem Verhältnis zwischen Mensch und Maschine, dem Grad der Autonomie künstlicher Intelligenzen und den Bedingungen menschlicher Einflussnahme aufgeworfen. Diese grundsätzlichen Fragen bilden auch den Kern der Debatten um KI im Allgemeinen. Doch mit der so folgenreichen Technologie autonomer Waffen wird deren Relevanz und Dringlichkeit besonders deutlich.
Forschungsfragen
|
| Fakt, Fiktion und ImaginationIn den Diskussionen um autonome Waffen, so die These, werden Realitäten mit Imaginationen verwoben, die sich in der Folge gegenseitig beeinflussen. Die mit autonomen Waffen assoziierten Bedeutungen sind daher sehr vielfältig und reichen von Landminen und Kampfdrohnen, über menschenähnliche Robotersoldaten bis hin zu Cyberwaffen. Wir betrachten die bestehenden sozialen und technischen Imaginationen und untersuchen, welche Rolle sie in der breiteren öffentlichen, politischen und wissenschaftlichen Debatte einnehmen. Ein geplantes Buchprojekt befasst sich mit bestehenden sozialen und technischen Vorstellungen und untersucht, welche Rolle sie in der breiteren öffentlichen, politischen und wissenschaftlichen Debatte spielen. |
|
| Mensch/Maschine-Interaktion und menschliche KontrolleSchon das Attribut “autonom” lässt diese Waffensysteme als weitgehend eigenständig agierende technische Einheiten erscheinen, die keinerlei menschlicher Steuerung oder Kontrolle mehr unterliegen. In konzeptionell-theoretischer Hinsicht erfordert dies eine Einordnung der fortschreitenden Computerisierung entlang von breiteren Entwicklungen im Feld der Künstlichen Intelligenz. Es stellen sich auch Fragen nach der Rolle, die dem Menschen in diesen Modellen zugewiesen wird (“human in the loop”?) und nach den Bedingungen der Interaktion zwischen Mensch und Maschine (u. a. geprägt durch Interfaces). |
Projektpartner
Die Erforschung des Themas autonome Waffensysteme wird gemeinsam mit dem Projekt Szenarien der Interaktion – Mensch-Maschine Interfaces in der Diskussion um Autonome Waffensysteme an der Universität Bonn durchgeführt, in dem die unterschiedlichen Konzepte der Mensch-Maschine-Interaktion in Autonomen Waffensystemen untersucht werden. Die Diskussion um derartige Konzepte wird anhand der Frage nach den spezifischen Interface-Lösungen für Mensch-Maschine-Interaktionen in AWS und ihren soziotechnischen Imaginationen analysiert. Auf diese Weise werden die medialen Bedingungen von Verantwortlichkeitskonzepten in den Formen der Kriegführung mit AWS erschlossen und für die kritische Reflexion zugänglich gemacht. Das Projekt an der Universität Bonn ist Teil des BMBF-geförderten Verbundprojekts Meaningful Human Control – Autonome Waffensysteme zwischen Regulation und Reflexion (Koordination: Universität Paderborn).
Thomas Christian Bächle, Dr.
GEPLANTE PUBLIKATION
Dieses Buchprojekt befasst sich mit bestehenden sozialen und technischen Vorstellungen und untersucht, welche Rolle sie in der breiteren öffentlichen, politischen und wissenschaftlichen Debatte spielen.
Unterstützen Sie unsere Forschung
Mehr Informationen finden Sie hier.Bankverbindung:
DE 39 1203 0000 1020 4668 82
BYLADEM1001
Deutsche Kreditbank (DKB)
Jascha BareisAssoziierter Forscher: Die Entwicklung der digitalen Gesellschaft-
Thomas Christian Bächle, Dr.Forschungsprogrammleiter: Die Entwicklung der digitalen Gesellschaft
-
Elisa BirkmannEhem. Studentische Mitarbeiterin: Die Entwicklung der digitalen Gesellschaft: Konzepte, Diskurse, Materialitäten
Zeitschriftenartikel und Konferenzbeiträge
Bächle, T. C., & Bareis, J. (2022). “Autonomous weapons” as a geopolitical signifier in a national power play: analysing AI imaginaries in Chinese and US military policies. European Journal of Futures Research, 10(20). DOI: 10.1186/s40309-022-00202-w Weitere Informationen
Andere Publikationen
Bareis, J. (2023). We are scared of the question Chat-GPT cannot answer. Because the answer is too obvious. Medium. Weitere Informationen
Ernst, C., & Bächle, T. C. (2019). Autonomous weapons – reality or imagination? Digital society blog. Weitere Informationen
Bächle, T. C., & Sauer, F. (2019). Autonomous Weapons Systems – Frank Sauer über die Regulation autonomer Waffen, [Audio Podcast] Exploring digital spheres – a podcast by HIIG. Retrieved from: hiig.de/podcast. Weitere Informationen
Vorträge
Military AI und Interface-EffekteAutonome Systeme und Interfaces. Ruhr Universität Bochum and Alexander von Humboldt Institut für Internet und Gesellschaft. Humboldt Institut für Internet und Gesellschaft, Berlin, Germany: 05.07.2024 Weitere Informationen
Thomas C. Bächle, Christoph Ernst
Automation, networks, augmentation – Military technologies and the autonomy of imaginationsImaginations of Autonomy – On Humans, AI-Based Weapon Systems and Responsibility at Machine Speed. Universität Paderborn. Universität Paderborn, Paderborn, Germany: 24.05.2024 Weitere Informationen
Thomas C. Bächle, Christoph Ernst
The AI-Augmented Super Soldier: Enhancement, Interfaces and the Extended Cognition of Human-MachinesDILEMA Designing International Law and Ethics into Military Artificial Intelligence (Session: Military AI and the Reconfiguration of Human Agency). Organised by T.M.C. Asser Institute. Asser Institute, The Hague, Netherlands: 13.10.2023 Weitere Informationen
Thomas Christian Bächle
On Technological Seduction: Hermeneutical Deconstruction of Tech Hype5ème Laboratoire Interdisciplinaire Sciences Innovations Sociétés (LISIS 2023). Laboratoire Interdisciplinaire Sciences Innovations Sociétés. University Gustave Eiffel, Paris, France: 05.10.2023 Weitere Informationen
Jascha Bareis
Die Abhängigkeiten des Super Soldier: Enhancement, Interfaces und die externalisierte Kognition der militärischen MenschmaschinenJahrestagung der Gesellschaft für Medienwissenschaften 2023 (Session: Letale Un/Abhängigkeiten. Bedingungen der Un/Möglichkeiten menschlicher Kontrolle und Verantwortung in autonomen Waffensystemen). Gesellschaft für Medienwissenschaften. Rheinische Friedrich-Wilhelms-Universität Bonn, Bonn, Germany: 28.09.2023 Weitere Informationen
Thomas Christian Bächle
Human augmentation or augmented machines? Military paradigms and the problem of the unmanned/manned dichotomy in AI-assisted technologiesScience Peace Security '23 (Session: Session 6A: Presentation Session III (Autonomous Systems and Human-Machine Interaction)). Organised by Science and Technology for Peace and Security (PEASEC), TU Darmstadt. Technische Universität Darmstadt, Darmstadt, Germany: 21.09.2023 Weitere Informationen
Thomas Bächle, Christoph Ernst
"Autonomous weapons” as a geopolitical signifier in a national power play: analysing AI imaginaries in Chinese and US military policiesIAMCR/OCP 23. Communication Policy and Technology Section (CPT) of the International Association for Media and Communication Research (IAMCR). Université Claude Bernard Lyon 1, Lyon, France: 26.06.2023 Weitere Informationen
Thomas Christian Bächle, Jascha Bareis
Do Politics with Fiction: Circulating Imaginaries of Military AISTS-Hub (Session: Circulating futures: On how to analyze, evaluate and shape the circulations of sociotechnical futures and their impacts for the demands of technology assessment). STS-Hub.de Germany. Human Technology Center, Aachen, Germany: 16.03.2023 Weitere Informationen
Jascha Bareis
"Autonomy" and "autonomous weapon systems" as a geopolitical signifiers: AI imaginaries in Chinese and US military policiesAutonomy in the Digital Age: Rethinking Relationships between Humans, Technology and Society (Session: Autonomie, Künstliche Intelligenz, Neue Technologien). Universität Bonn, RWTH Aachen. Universität Bonn, Bonn, Germany: 21.11.2022 Weitere Informationen
Thomas Christian Bächle, Jascha Bareis
"Autonomous Weapons" as a geopolitical signifier: Analysing AI imaginaries in Chinese and US military policiesEASST 2022 (Session: Meaningful human control? Sociotechnical imaginations of AI, drone swarms and the future of warfare). European Association for the Study of Science and Technology. IFEMA North Convention Center, Madrid, Spain: 07.07.2022 Weitere Informationen
Thomas Christian Bächle, Jascha Bareis
Organisation von Veranstaltungen
Intelligent Robotics for Society 5.0 & Industry 4.013.12.2024. Humboldt Institut für Internet und Gesellschaft, Berlin, Germany (International)
Sarah Spitz, Thomas Christian Bächle, Jörg Pohle
Militärische Gewalt und Künstliche IntelligenzFrom 17.04.2024 to 17.04.2024. bpb:medienzentrum Bonn, Bonn, Berlin. Co-Organised by: University of Bonn, Federal Agency for Civic Education (National) Weitere Informationen
Thomas Christian Bächle
David Betz: Kriegsführung im digitalen Zeitalter29.08.2022. Holzmarktstraße 25, Berlin, Germany (International) Weitere Informationen
Lena Henkes, Thomas Christian Bächle
Autonome Waffensysteme – Realitäten und Imaginationen zukünftiger Kriegführungwith attending Vip: Jürgen Altmann, Robin Geiß, Frank Sauer, Jutta Weber. 04.07.2019. Humboldt Institute for Internet and Society, Berlin, Germany. Co-Organised by: Christoph Ernst (National)
Thomas Christian Bächle
Thinking about robots04.04.2019. Humboldt Institut für Internet und Gesellschaft, Berlin, Germany (National)
Thomas Christian Bächle