
Autonome Waffensysteme
Die Entwicklung “autonomer Waffensysteme” (AWS) wird seit Jahren kontrovers diskutiert. Akteure aus Politik, Wissenschaft, Recht und Zivilgesellschaft debattieren die gesellschaftlichen, geopolitischen und ethischen Implikationen dieser Technologie. Diese Diskussionen um autonome Waffensysteme werden von Forderungen nach einer strengen Regulierung – bis hin zu Forderungen nach einem vollständigen Verbot – begleitet.
Essentielle Fragen sind dabei aber noch ungeklärt. Zum einen ist umstritten, welche Systeme als autonome Waffen gelten sollen. Hierbei ist oft von Waffen die Rede, die ‘nur’ automatisch oder teilautonom sind. Zum anderen ist bisher unbestimmt, wie und in welchen Situationen eine menschliche Kontrolle stattfinden kann – und wie diese technisch überhaupt realisiert werden soll.
Verschärft wird diese Unbestimmtheit durch den Umstand, dass die Debatten nicht nur um bereits bestehende oder derzeit entwickelte Technologien kreisen. Sie rufen auch Bilder zukünftiger Systeme auf, die bisher eher eine konzeptionelle Vision sind, beispielsweise intelligente und menschenähnliche Kampfroboter. Die Frage danach, welche Technologien reguliert und welche erst gar nicht entwickelt werden sollen, eröffnet einen Diskursraum, der bereits existierende Systeme mit solchen, die zukünftig vielleicht existieren könnten, vermischt.
Damit werden auch grundsätzlichere Fragen nach dem Verhältnis zwischen Mensch und Maschine, dem Grad der Autonomie künstlicher Intelligenzen und den Bedingungen menschlicher Einflussnahme aufgeworfen. Diese grundsätzlichen Fragen bilden auch den Kern der Debatten um KI im Allgemeinen. Doch mit der so folgenreichen Technologie autonomer Waffen wird deren Relevanz und Dringlichkeit besonders deutlich.
Forschungsfragen
| Fakt, Fiktion und ImaginationIn den Diskussionen um autonome Waffen, so die These, werden Realitäten mit Imaginationen verwoben, die sich in der Folge gegenseitig beeinflussen. Die mit autonomen Waffen assoziierten Bedeutungen sind daher sehr vielfältig und reichen von Landminen und Kampfdrohnen, über menschenähnliche Robotersoldaten bis hin zu Cyberwaffen. Wir betrachten die bestehenden sozialen und technischen Imaginationen und untersuchen, welche Rolle sie in der breiteren öffentlichen, politischen und wissenschaftlichen Debatte einnehmen. |
| Mensch/Maschine-Interaktion und menschliche KontrolleSchon das Attribut “autonom” lässt diese Waffensysteme als weitgehend eigenständig agierende technische Einheiten erscheinen, die keinerlei menschlicher Steuerung oder Kontrolle mehr unterliegen. In konzeptionell-theoretischer Hinsicht erfordert dies eine Einordnung der fortschreitenden Computerisierung entlang von breiteren Entwicklungen im Feld der Künstlichen Intelligenz. Es stellen sich auch Fragen nach der Rolle, die dem Menschen in diesen Modellen zugewiesen wird (“human in the loop”?) und nach den Bedingungen der Interaktion zwischen Mensch und Maschine (u. a. geprägt durch Interfaces). |
Projektpartner
Die Erforschung des Themas autonome Waffensysteme wird gemeinsam mit dem Projekt Szenarien der Interaktion – Mensch-Maschine Interfaces in der Diskussion um Autonome Waffensysteme an der Universität Bonn durchgeführt, in dem die unterschiedlichen Konzepte der Mensch-Maschine-Interaktion in Autonomen Waffensystemen untersucht werden. Die Diskussion um derartige Konzepte wird anhand der Frage nach den spezifischen Interface-Lösungen für Mensch-Maschine-Interaktionen in AWS und ihren soziotechnischen Imaginationen analysiert. Auf diese Weise werden die medialen Bedingungen von Verantwortlichkeitskonzepten in den Formen der Kriegführung mit AWS erschlossen und für die kritische Reflexion zugänglich gemacht. Das Projekt an der Universität Bonn ist Teil des BMBF-geförderten Verbundprojekts Meaningful Human Control – Autonome Waffensysteme zwischen Regulation und Reflexion (Koordination: Universität Paderborn).
Unterstützen Sie unsere Forschung
Hier erhalten Sie mehr Informationen, wie Sie uns fördern können.Elisa Birkmann
Studentische Mitarbeiterin: Die Entwicklung der digitalen Gesellschaft: Konzepte, Diskurse, MaterialitätenJascha Bareis
Assoziierter Forscher: Die Entwicklung der digitalen GesellschaftLena Henkes
Wissenschaftliche Mitarbeiterin: Die Entwicklung der digitalen Gesellschaft & Deputy Editor Internet Policy ReviewThomas Christian Bächle, Dr.
Forschungsprogrammleiter: Die Entwicklung der digitalen Gesellschaft
Zeitschriftenartikel und Konferenzbeiträge
Bächle, T. C., & Bareis, J. (2022). “Autonomous weapons” as a geopolitical signifier in a national power play: analysing AI imaginaries in Chinese and US military policies. European Journal of Futures Research, 10(20). DOI: 10.1186/s40309-022-00202-w Weitere Informationen
Andere Publikationen
Ernst, C., & Bächle, T. C. (2019). Autonomous weapons – reality or imagination? Digital society blog. Weitere Informationen
Bächle, T. C., & Sauer, F. (2019). Autonomous Weapons Systems – Frank Sauer über die Regulation autonomer Waffen, [Audio Podcast] Exploring digital spheres – a podcast by HIIG. Retrieved from: hiig.de/podcast. Weitere Informationen
Organisation von Veranstaltungen
David Betz: Kriegsführung im digitalen Zeitalter29.08.2022. Holzmarktstraße 25, Berlin, Germany (International) Weitere Informationen
Lena Henkes, Thomas Christian Bächle
Autonome Waffensysteme – Realitäten und Imaginationen zukünftiger Kriegführungwith attending Vip: Jürgen Altmann, Robin Geiß, Frank Sauer, Jutta Weber. 04.07.2019. Humboldt Institute for Internet and Society, Berlin, Germany. Co-Organised by: Christoph Ernst (National)
Thomas Christian Bächle
Thinking about robots04.04.2019. Humboldt Institut für Internet und Gesellschaft, Berlin, Germany (National)
Thomas Christian Bächle