Sammler: Künstliche Intelligenz und autonome Waffensysteme

In der kürzlich vom Bundeskabinett verabschiedeten Strategie Künstliche Intelligenz der Bundesregierung spielen zwar die Streitkräfte praktisch keine Rolle und werden überhaupt nur einmal erwähnt:

Der künftige Einsatz von KI-basierten Technologien und Systemen wird Auswirkungen auf Streitkräfte haben und ist damit ein wichtiges Thema für die Zukunftsentwicklung der Bundeswehr. Die Bundesregierung wird hier, analog zu anderen Anwendungsgebieten, die Vor- und Nachteile einer umfassenden Bewertung unterziehen.

Aber natürlich wird Künstliche Intelligenz (englisch Artificial Intelligence, AI) auch und gerade für die Nutzung in Streitkräften erforscht und erprobt – nicht zuletzt im Zusammenhang mit autonomen (tödlichen) Waffensystemen. Deshalb ein erster Sammler mit Lesestoff zu diesen Themen, der (dringend) ergänzungsbedürftig ist: weiterlesen

DroneWatch: Zwei neue deutsche Studien zu autonomen (Waffen)Systemen

guardium_drone_idf

Zum Lesen (und vor allem zum Wiederfinden): Zwei in diesen Tagen veröffentlichte Studien zum Einsatz von autonomen Systemen, ob man sie nun Drohnen oder Roboter nennen will, bei Streitkräften:

Robin Geiss, Die völkerrechtliche Dimension autonomer Waffensysteme, veröffentlicht von der Friedrich-Ebert-Stiftung

Marcel Dickow, Robotik – ein Game-Changer für Militär und Sicherheitspolitik?, veröffentlicht von der Stiftung Wissenschaft und Politik

Und eine aktuelle, nicht-militärische Meldung aus diesem Umfeld: Roboter tötet Arbeiter

(Werbehinweis: Das Thema Autonomie spielt auch eine wichtige Rolle in dem Drohnen-Buch vom Zeit Online-Kollegen Kai Biermann und mir.)

(Archivbild 2012: Guardium, eine bislang nur mit Kameras und nicht mit Waffen ausgerüstete Boden-Drohne der Israeli Defence Forces auf Patrouille an der Grenze Israels zum Gazastreifen – Cpl. Zev Marmorstein, IDF Spokesperson’s Unit)

 

Autonome Waffensysteme: Keiner ist verantwortlich

USS George H.W. Bush launches X-47B

Autonome Waffensysteme, die unabhängig von einem einzelnen menschlichen Befehl selbständig über einen Waffeneinsatz entscheiden, können nach Darstellung der Menschenrechtsorganisation Human Rights Watch (HRW) dazu führen, dass es keinerlei Verantwortlichkeiten mehr für unrechtmäßige Gewalt, Tote und Verletzte gibt. Programmierer, Hersteller und Militärpersonal könnten für rechtswidrige Tötungen nicht mehr zur Verantwortung gezogen werden, wenn solche vollkommen autonomen Waffen entwickelt und eingeführt würden, warnte die Organisation in einem am (heutigen) Donnerstag in Genf vorgelegten Bericht.

Als Konsequenz müssten autonome Waffensysteme grundsätzlich geächtet werden, wie das beispielsweise mit blind machenden Laserwaffen geschehen sei, fordert die Organisation. Neben der straf- und zivilrechtlichen Verantwortlichkeit sei auch die Vereinbarkeit mit dem humanitären Völkerrecht und den Menschenrechten nicht gegeben, wenn Maschinen über Leben und Tod entscheiden könnten.

Human Rights Watch setzt sich mit der Kampagne Stop Killer Robots seit Jahren dafür ein, dass Entwicklung und Nutzung autonomer Waffensysteme international verboten und geächtet werden. Kern der jetzt vorgelegten Argumentation ist das Problem, dass eine Maschine für rechtswidrige oder auch nur fahrlässige Handlungen nicht zur Verantwortung gezogen werden kann. Weder nach dem Straf- noch nach dem Zivilrecht könne dann jemand für eine unrechtmäßige tödliche Aktion verantwortlich gemacht werden. weiterlesen

Anlauf für Verbot ‚von ‚Killer-Robotern‘ in der UN-Waffenkonvention

Kaum haben Union und SPD im Entwurf ihres Koalitionsvertrages vereinbart Deutschland wird … sich für eine völkerrechtliche Ächtung vollautomatisierter Waffensysteme einsetzen, die dem Menschen die Entscheidung über den Waffeneinsatz entziehen, schon folgen die Vereinten Nationen… Im Ernst: Seit dem (heutigen) Freitag steht fest, dass im Rahmen der UN-Waffenkonvention im kommenden Jahr Gespräche beginnen sollen, voll-autonome Systeme (manche sagen auch: Killer-Roboter) in die Konvention und damit in die Liste geächteter Waffen aufzunehmen.

Eine offizielle Bestätigung dafür habe ich noch nicht gefunden, am nächsten kommt dem ein Tweet der schwedischen Mission bei den Vereinten Nationen:

Today the Conference of #CCWUN adopted a mandate to discuss lethal autonomous weapons in 2014. New and forward-looking issue on the agenda

Etwas ausführlicher erläutert das die Menschenrechtsorganisation Human Rights Watch, die sich schon länger für ein Verbot solcher Systeme einsetzt:

An agreement on November 15, 2013, to begin international discussions on fully autonomous robot weapons is the beginning of a process that should conclude in a treaty banning these weapons, Human Rights Watch said today. Governments attending a weapons meeting in Geneva have agreed to begin international discussions in May 2014 on these weapons, which would select and engage targets without further human intervention. weiterlesen