UN und Rotes Kreuz dringen auf Regeln für autonome Waffensysteme

Die Vereinten Nationen und das Internationale Kommittee vom Roten Kreuz (IKRK) haben in einem dringenden Appell erneut dazu aufgerufen, internationale Regeln für autonome Waffensysteme zu schaffen. Der Einsatz hochentwickelter Technologien auf dem Gefechtsfeld erhöht das Risiko, Zivilpersonen und zivile Infrastruktur zu schädigen sowie das Leid der Zivilbevölkerung in bewaffneten Konflikten zu verschlimmern, erklärten UN-Generalsekretär António Guterres und IKRK-Präsidentin Mirjana Spoljaric.

Der am (heutigen) Dienstag in Genf veröffentlichte gemeinsame – erneute – Appell von UN und IKRK zielt darauf ab, bei der nächsten Überprüfungskonferenz der Konvention über bestimmte konventionelle Waffen (Convention on Certain Conventional Weapons, CCW) im November formale Verhandlungen über Beschränkungen für autonome Waffensysteme zu beginnen. Bislang haben nur Experten aus verschiedenen Staaten die möglichen Instrumente für den Umgang mit solchen Waffensystemen debattiert; zu Verhandlungen über ein mögliches Regelwerk kam es bisher nicht.

Allerdings hat die Expertendebatte bereits dazu geführt, dass die kontextabhängige menschliche Kontrolle (Meaningful Human Control) für autonome, insbesondere von Künstlicher Intelligenz (KI) gesteuerte Waffensysteme als wichtiger Bestandteil angesehen wird – konkret hat das zum Beispiel Eingang in die KI-Konzeption der Bundeswehr gefunden.

Grund für eine dringend nötige internationale Regelung sei die technische Entwicklung autonomer Waffensysteme und die drohende Gefahr, dass solche Systeme eigenständig über die Tötung von Menschen entscheiden könnten. Bislang richte sich der Einsatz solcher Systeme gegen militärische Objekte und nicht gegen Menschen selbst, sagte Laurent Gisel von der Rechtsabteilung des IKRK. Mit zunehmender Autonomie werde die menschliche Kontrolle des Waffeneinsatzes gegen Menschen immer mehr reduziert.

Das IKRK und die Vereinten Nationen betonten, bisher gebe es keine bestätigten Fälle, in denen vollständig autonome Systeme ohne menschliches Zutun Menschen getötet hätten. Einen aktuellen Bericht der New York Times über einen möglichen solchen Fall wollten Vertreter beider Organisationen nicht kommentieren. Allerdings laufe die derzeitige technische Entwicklung genau darauf zu.

Der Appell von Vereinten Nationen und Internationalem Roten Kreuz im Wortlaut (in der vom IKRK veröffentlichten deutschen Fassung):

Vor drei Jahren haben wir die Staaten dazu aufgerufen, spezifische Verbote und Beschränkungen für autonome Waffensysteme festzulegen. Heute erneuern wir diesen Appell mit noch größerer Dringlichkeit. Die grundlegenden Bedenken bleiben unverändert, doch die Risiken haben zugenommen. Wir befinden uns jetzt gefährlich nahe daran, eine moralische rote Linie zu überschreiten: Die autonome Zielerfassung von Menschen durch Maschinen.

Die Weiterentwicklung von Waffentechnologien ist in Rekordtempo vorangeschritten, was rechtliche Rahmenbedingungen zunehmend unter Druck setzt. Seit unserem letzten Appell hat sich die Kluft zwischen technologischen Fähigkeiten und regulatorischen Grenzen ausgeweitet. Der Einsatz hochentwickelter Technologien auf dem Gefechtsfeld erhöht das Risiko, Zivilpersonen und zivile Infrastruktur zu schädigen sowie das Leid der Zivilbevölkerung in bewaffneten Konflikten zu verschlimmern.
Die Entwicklung und der Einsatz autonomer Waffensysteme stellen eine weitere Eskalationsstufe dar, die die menschliche Kontrolle über den Einsatz von Gewalt verringert. Autonome Waffensysteme sind nicht Teil einer weit entfernten Zukunft – ein Wettlauf hin zu immer größerer Autonomie in Waffensystemen ist längst im Gange. Zugleich haben Wissenschaftler:innen sowie Ingenieur:innen und Ingenieure, die ebendiese Systeme entwickeln, selbst Alarm geschlagen. Wenn die Architekt:innen dieser Technologien selbst Grenzen fordern, können es sich Staaten nicht leisten, passiv zu bleiben.

Dieses Jahr muss einen Wendepunkt markieren.

Staaten haben durch die Generalversammlung der Vereinten Nationen und die Gruppe von Regierungssachverständigen im Rahmen des Übereinkommens über bestimmte konventionelle Waffen wichtige Grundlagen geschaffen. Bedeutende Fortschritte wurden auf dem Weg zu einem gemeinsamen Verständnis darüber erzielt, welches Maß an menschlichem Urteilsvermögen und menschlicher Kontrolle erforderlich ist und welche Maßnahmen notwendig sind, um die Einhaltung des humanitären Völkerrechts zu gewährleisten, ethischen Bedenken Rechnung zu tragen und menschliches Leid zu mindern.

Staaten müssen politischen Mut beweisen und über die schrittweise geführten Diskussionen hinausgehen, um entschlossen zu handeln. Verhandlungen müssen jetzt beginnen, um ein rechtsverbindliches Instrument zur Regulierung autonomer Waffensysteme mit klaren Verboten und Beschränkungen, zu verabschieden.

Ein Versäumnis schnell und entschieden zu handeln wird Menschenleben kosten. Es wird dazu führen, dass künftige Generationen eine Welt erben, in der das Fehlen klarer und konkreter Verbote und Beschränkungen für diese Waffen die Tür für Praktiken öffnet, die jene Schutzmaßnahmen untergraben, die durch das humanitäre Völkerrecht gewährleistet werden sollen. Eine Welt, in der Rechenschaftspflicht zunehmend schwer durchsetzbar wird, da sich Verantwortung für Fehler und Verstöße gegen geltende Regeln immer schwieriger feststellen lassen.

Staaten tragen eine Verantwortung gegenüber jenen, die bereits heute unter den Folgen der gegenwärtigen Konflikte leiden, sowie gegenüber jenen, die die Welt erben werden, die derzeit gestaltet wird. Künftige Generationen werden fragen, ob die politischen Entscheidungsträger:innen gehandelt haben, als noch die Möglichkeit bestand, Grenzen zu setzen, bevor die Verbreitung dieser Waffen außer Kontrolle geriet. Die bevorstehende Siebte Überprüfungskonferenz des Übereinkommens über bestimmte konventionelle Waffen im November bietet Staaten den derzeit klarsten Weg, um zu beschließen, Verhandlungen über ein rechtsverbindliches Instrument aufzunehmen. Die mühevolle Arbeit der letzten drei Jahre bildet die ideale Grundlage für solche Verhandlungen darf nicht verloren gehen.

Wir rufen Staaten dazu auf, diesen entscheidenden Moment zu nutzen.

Die weitere Entwicklung von Waffensystemen die Kriegsführung erleichtern, wird unsere gemeinsamen Bemühungen für eine friedlichere Welt nur untergraben.

Der Weg ist klar. Der Handlungsbedarf ist dringend. Innovation muss der Menschheit dienen – nicht sie gefährden.