Zum Inhalt springen
Man sieht mehrer Spiegel, die in unterschiedlichen Formen angeordnet sind und verschiedene Oberflächen, wie den Himmel, eine Hauswand und so weiter widerspiegeln. Das Bild steht sinnbildlich für die vielen verschiedenen Bedeutungen von autonomen Waffensystemen in unserer Gesellschaft. You see several mirrors arranged in different shapes reflecting different surfaces, such as the sky, a house wall and so on. The image is emblematic of the many different meanings of autonomous weapon systemsin our society.

Autonome Waffensysteme

 

Die Entwicklung “autonomer Waffensysteme” (AWS) wird seit Jahren kontrovers diskutiert. Akteure aus Politik, Wissenschaft, Recht und Zivilgesellschaft debattieren die gesellschaftlichen, geopolitischen und ethischen Implikationen dieser Technologie. Diese Diskussionen um autonome Waffensysteme werden von Forderungen nach einer strengen Regulierung – bis hin zu Forderungen nach einem vollständigen Verbot – begleitet.

Essentielle Fragen sind dabei aber noch ungeklärt. Zum einen ist umstritten, welche Systeme als autonome Waffen gelten sollen. Hierbei ist oft von Waffen die Rede, die ‘nur’ automatisch oder teilautonom sind. Zum anderen ist bisher unbestimmt, wie und in welchen Situationen eine menschliche Kontrolle stattfinden kann – und wie diese technisch überhaupt realisiert werden soll.

Verschärft wird diese Unbestimmtheit durch den Umstand, dass die Debatten nicht nur um bereits bestehende oder derzeit entwickelte Technologien kreisen. Sie rufen auch Bilder zukünftiger Systeme auf, die bisher eher eine konzeptionelle Vision sind, beispielsweise intelligente und menschenähnliche Kampfroboter. Die Frage danach, welche Technologien reguliert und welche erst gar nicht entwickelt werden sollen, eröffnet einen Diskursraum, der bereits existierende Systeme mit solchen, die zukünftig vielleicht existieren könnten, vermischt.

Damit werden auch grundsätzlichere Fragen nach dem Verhältnis zwischen Mensch und Maschine, dem Grad der Autonomie künstlicher Intelligenzen und den Bedingungen menschlicher Einflussnahme aufgeworfen. Diese grundsätzlichen Fragen bilden auch den Kern der Debatten um KI im Allgemeinen. Doch mit der so folgenreichen Technologie autonomer Waffen wird deren Relevanz und Dringlichkeit besonders deutlich.

Forschungsfragen

 

Discourse

Fakt, Fiktion und Imagination

In den Diskussionen um autonome Waffen, so die These, werden Realitäten mit Imaginationen verwoben, die sich in der Folge gegenseitig beeinflussen. Die mit autonomen Waffen assoziierten Bedeutungen sind daher sehr vielfältig und reichen von Landminen und Kampfdrohnen, über menschenähnliche Robotersoldaten bis hin zu Cyberwaffen. Wir betrachten die bestehenden sozialen und technischen Imaginationen und untersuchen, welche Rolle sie in der breiteren öffentlichen, politischen und wissenschaftlichen Debatte einnehmen.

 

 

Structures

Mensch/Maschine-Interaktion und menschliche Kontrolle

Schon das Attribut “autonom” lässt diese Waffensysteme als weitgehend eigenständig agierende technische Einheiten erscheinen, die keinerlei menschlicher Steuerung oder Kontrolle mehr unterliegen. In konzeptionell-theoretischer Hinsicht erfordert dies eine Einordnung der fortschreitenden Computerisierung entlang von breiteren Entwicklungen im Feld der Künstlichen Intelligenz. Es stellen sich auch Fragen nach der Rolle, die dem Menschen in diesen Modellen zugewiesen wird (“human in the loop”?) und nach den Bedingungen der Interaktion zwischen Mensch und Maschine (u. a. geprägt durch Interfaces).

Projektpartner

Die Erforschung des Themas autonome Waffensysteme wird gemeinsam mit dem Projekt Szenarien der Interaktion – Mensch-Maschine Interfaces in der Diskussion um Autonome Waffensysteme an der Universität Bonn durchgeführt, in dem die unterschiedlichen Konzepte der Mensch-Maschine-Interaktion in Autonomen Waffensystemen untersucht werden. Die Diskussion um derartige Konzepte wird anhand der Frage nach den spezifischen Interface-Lösungen für Mensch-Maschine-Interaktionen in AWS und ihren soziotechnischen Imaginationen analysiert. Auf diese Weise werden die medialen Bedingungen von Verantwortlichkeitskonzepten in den Formen der Kriegführung mit AWS erschlossen und für die kritische Reflexion zugänglich gemacht. Das Projekt an der Universität Bonn ist Teil des BMBF-geförderten Verbundprojekts Meaningful Human Control – Autonome Waffensysteme zwischen Regulation und Reflexion (Koordination: Universität Paderborn).

Kontakt

Thomas Christian Bächle, Dr.

Forschungsprogrammleiter: Die Entwicklung der digitalen Gesellschaft

Teil des Forschungsprogramms

Digital & Disziplinlos: HIIG Erklärvideos

Unterstützen Sie unsere Forschung

Hier erhalten Sie mehr Informationen, wie Sie uns fördern können.

  • Profilbild Elisa Birkmann
    Studentische Mitarbeiterin: Die Entwicklung der digitalen Gesellschaft: Konzepte, Diskurse, Materialitäten
  • Jascha Bareis
    Assoziierter Forscher: Die Entwicklung der digitalen Gesellschaft
  • Lena Henkes | HIIG Lena Henkes
    Wissenschaftliche Mitarbeiterin: Die Entwicklung der digitalen Gesellschaft & Deputy Editor Internet Policy Review
  • Thomas Christian Bächle Thomas Christian Bächle, Dr.
    Forschungsprogrammleiter: Die Entwicklung der digitalen Gesellschaft

Zeitschriftenartikel und Konferenzbeiträge

Bächle, T. C., & Bareis, J. (2022). “Autonomous weapons” as a geopolitical signifier in a national power play: analysing AI imaginaries in Chinese and US military policies. European Journal of Futures Research, 10(20). DOI: 10.1186/s40309-022-00202-w Weitere Informationen

Andere Publikationen

Ernst, C., & Bächle, T. C. (2019). Autonomous weapons – reality or imagination? Digital society blog. Weitere Informationen

Bächle, T. C., & Sauer, F. (2019). Autonomous Weapons Systems – Frank Sauer über die Regulation autonomer Waffen, [Audio Podcast] Exploring digital spheres – a podcast by HIIG. Retrieved from: hiig.de/podcast. Weitere Informationen

Organisation von Veranstaltungen

David Betz: Kriegsführung im digitalen Zeitalter
29.08.2022. Holzmarktstraße 25, Berlin, Germany (International) Weitere Informationen

Lena Henkes, Thomas Christian Bächle

Autonome Waffensysteme – Realitäten und Imaginationen zukünftiger Kriegführung
with attending Vip: Jürgen Altmann, Robin Geiß, Frank Sauer, Jutta Weber. 04.07.2019. Humboldt Institute for Internet and Society, Berlin, Germany. Co-Organised by: Christoph Ernst (National)

Thomas Christian Bächle

Thinking about robots
04.04.2019. Humboldt Institut für Internet und Gesellschaft, Berlin, Germany (National)

Thomas Christian Bächle