UN und Rotes Kreuz dringen auf Regeln für autonome Waffensysteme
Die Vereinten Nationen und das Internationale Kommittee vom Roten Kreuz (IKRK) haben in einem dringenden Appell erneut dazu aufgerufen, internationale Regeln für autonome Waffensysteme zu schaffen. Der Einsatz hochentwickelter Technologien auf dem Gefechtsfeld erhöht das Risiko, Zivilpersonen und zivile Infrastruktur zu schädigen sowie das Leid der Zivilbevölkerung in bewaffneten Konflikten zu verschlimmern, erklärten UN-Generalsekretär António Guterres und IKRK-Präsidentin Mirjana Spoljaric.
Der am (heutigen) Dienstag in Genf veröffentlichte gemeinsame – erneute – Appell von UN und IKRK zielt darauf ab, bei der nächsten Überprüfungskonferenz der Konvention über bestimmte konventionelle Waffen (Convention on Certain Conventional Weapons, CCW) im November formale Verhandlungen über Beschränkungen für autonome Waffensysteme zu beginnen. Bislang haben nur Experten aus verschiedenen Staaten die möglichen Instrumente für den Umgang mit solchen Waffensystemen debattiert; zu Verhandlungen über ein mögliches Regelwerk kam es bisher nicht.
Allerdings hat die Expertendebatte bereits dazu geführt, dass die kontextabhängige menschliche Kontrolle (Meaningful Human Control) für autonome, insbesondere von Künstlicher Intelligenz (KI) gesteuerte Waffensysteme als wichtiger Bestandteil angesehen wird – konkret hat das zum Beispiel Eingang in die KI-Konzeption der Bundeswehr gefunden.
Grund für eine dringend nötige internationale Regelung sei die technische Entwicklung autonomer Waffensysteme und die drohende Gefahr, dass solche Systeme eigenständig über die Tötung von Menschen entscheiden könnten. Bislang richte sich der Einsatz solcher Systeme gegen militärische Objekte und nicht gegen Menschen selbst, sagte Laurent Gisel von der Rechtsabteilung des IKRK. Mit zunehmender Autonomie werde die menschliche Kontrolle des Waffeneinsatzes gegen Menschen immer mehr reduziert.
Das IKRK und die Vereinten Nationen betonten, bisher gebe es keine bestätigten Fälle, in denen vollständig autonome Systeme ohne menschliches Zutun Menschen getötet hätten. Einen aktuellen Bericht der New York Times über einen möglichen solchen Fall wollten Vertreter beider Organisationen nicht kommentieren. Allerdings laufe die derzeitige technische Entwicklung genau darauf zu.
Der Appell von Vereinten Nationen und Internationalem Roten Kreuz im Wortlaut (in der vom IKRK veröffentlichten deutschen Fassung):
Vor drei Jahren haben wir die Staaten dazu aufgerufen, spezifische Verbote und Beschränkungen für autonome Waffensysteme festzulegen. Heute erneuern wir diesen Appell mit noch größerer Dringlichkeit. Die grundlegenden Bedenken bleiben unverändert, doch die Risiken haben zugenommen. Wir befinden uns jetzt gefährlich nahe daran, eine moralische rote Linie zu überschreiten: Die autonome Zielerfassung von Menschen durch Maschinen.
Die Weiterentwicklung von Waffentechnologien ist in Rekordtempo vorangeschritten, was rechtliche Rahmenbedingungen zunehmend unter Druck setzt. Seit unserem letzten Appell hat sich die Kluft zwischen technologischen Fähigkeiten und regulatorischen Grenzen ausgeweitet. Der Einsatz hochentwickelter Technologien auf dem Gefechtsfeld erhöht das Risiko, Zivilpersonen und zivile Infrastruktur zu schädigen sowie das Leid der Zivilbevölkerung in bewaffneten Konflikten zu verschlimmern.
Die Entwicklung und der Einsatz autonomer Waffensysteme stellen eine weitere Eskalationsstufe dar, die die menschliche Kontrolle über den Einsatz von Gewalt verringert. Autonome Waffensysteme sind nicht Teil einer weit entfernten Zukunft – ein Wettlauf hin zu immer größerer Autonomie in Waffensystemen ist längst im Gange. Zugleich haben Wissenschaftler:innen sowie Ingenieur:innen und Ingenieure, die ebendiese Systeme entwickeln, selbst Alarm geschlagen. Wenn die Architekt:innen dieser Technologien selbst Grenzen fordern, können es sich Staaten nicht leisten, passiv zu bleiben.
Dieses Jahr muss einen Wendepunkt markieren.
Staaten haben durch die Generalversammlung der Vereinten Nationen und die Gruppe von Regierungssachverständigen im Rahmen des Übereinkommens über bestimmte konventionelle Waffen wichtige Grundlagen geschaffen. Bedeutende Fortschritte wurden auf dem Weg zu einem gemeinsamen Verständnis darüber erzielt, welches Maß an menschlichem Urteilsvermögen und menschlicher Kontrolle erforderlich ist und welche Maßnahmen notwendig sind, um die Einhaltung des humanitären Völkerrechts zu gewährleisten, ethischen Bedenken Rechnung zu tragen und menschliches Leid zu mindern.
Staaten müssen politischen Mut beweisen und über die schrittweise geführten Diskussionen hinausgehen, um entschlossen zu handeln. Verhandlungen müssen jetzt beginnen, um ein rechtsverbindliches Instrument zur Regulierung autonomer Waffensysteme mit klaren Verboten und Beschränkungen, zu verabschieden.
Ein Versäumnis schnell und entschieden zu handeln wird Menschenleben kosten. Es wird dazu führen, dass künftige Generationen eine Welt erben, in der das Fehlen klarer und konkreter Verbote und Beschränkungen für diese Waffen die Tür für Praktiken öffnet, die jene Schutzmaßnahmen untergraben, die durch das humanitäre Völkerrecht gewährleistet werden sollen. Eine Welt, in der Rechenschaftspflicht zunehmend schwer durchsetzbar wird, da sich Verantwortung für Fehler und Verstöße gegen geltende Regeln immer schwieriger feststellen lassen.
Staaten tragen eine Verantwortung gegenüber jenen, die bereits heute unter den Folgen der gegenwärtigen Konflikte leiden, sowie gegenüber jenen, die die Welt erben werden, die derzeit gestaltet wird. Künftige Generationen werden fragen, ob die politischen Entscheidungsträger:innen gehandelt haben, als noch die Möglichkeit bestand, Grenzen zu setzen, bevor die Verbreitung dieser Waffen außer Kontrolle geriet. Die bevorstehende Siebte Überprüfungskonferenz des Übereinkommens über bestimmte konventionelle Waffen im November bietet Staaten den derzeit klarsten Weg, um zu beschließen, Verhandlungen über ein rechtsverbindliches Instrument aufzunehmen. Die mühevolle Arbeit der letzten drei Jahre bildet die ideale Grundlage für solche Verhandlungen darf nicht verloren gehen.
Wir rufen Staaten dazu auf, diesen entscheidenden Moment zu nutzen.
Die weitere Entwicklung von Waffensystemen die Kriegsführung erleichtern, wird unsere gemeinsamen Bemühungen für eine friedlichere Welt nur untergraben.
Der Weg ist klar. Der Handlungsbedarf ist dringend. Innovation muss der Menschheit dienen – nicht sie gefährden.
„Einst überließen die Menschen ihr Denken Maschinen, in der Hoffnung, dies würde sie befreien. Doch das ermöglichte es nur anderen Menschen, die über Maschinen verfügten, sie zu versklaven.“ „‚Du sollst keine Maschine nach dem Ebenbild des menschlichen Geistes erschaffen“
Fank Herbert, Dune Saga
Das klingt alles sehr schön, aber auch sehr naiv. Solche „Schönwetter“-Regeln werden im Krieg oder bei akuter Kriegsgefahr sofort über Bord geworfen (von wahrscheinlichen Nichtunterzeichnern mal ganz abgesehen).
Das beste Beispiel dafür ist das Ottawa-Abkommen zu Landminen.
Im Gegensatz zu vielen Rüstungswettläufen der letzten Jahrhunderte ist dieser durch seine Preis/Performance-Kurve möglicherweise nicht zu stoppen.
Daher dieser Hinweis:
https://www.fiff.de/aktivitaeten/2024/memorandum-informatiker-innen-fuer-frieden/
Sie können die Kriegsgefangenen in Russland nicht besuchen, wissen noch nicht einmal, wo sie sich aufhalten, und meinen trotzdem dass man einer distuptiven Technologie Regeln auferlegen könne.
„Der Einsatz hochentwickelter Technologien auf dem Gefechtsfeld erhöht das Risiko, Zivilpersonen und zivile Infrastruktur zu schädigen “
Wenn die großen Kriegsparteien alle mit Intention Zivile Infrastruktur zerstören, dann nützen solche Appelle wohl eher wenig.
Generell, was will man machen?
Einseitig beschränken und abrüsten, wenn es die Gegenseite nicht tut? Das klingt wenig sinnvoll. Globale Rüstungskontrolle? Ja bitte, ist aber nicht in Aussicht.
@Kurt Jaeger
> Im Gegensatz zu vielen Rüstungswettläufen der letzten Jahrhunderte ist dieser durch seine Preis/Performance-Kurve möglicherweise nicht zu stoppen.
Behauptet wird eine „Preis/Performance-Kurve“, ohne seriöse Quellenangabe. Da kann sich jeder seine Horror-Kurve selbst ausmalen, und ganz fest daran glauben, diese sei unaufhaltsam. Welche ökonomischen, politischen und sozialen Kräfteverhältnisse muss man ausblenden, die diese „Preis/Performance-Kurve“ überhaupt erst produzieren und perpetuieren? Irgendwie neigen alternde IT’ler zu solchen deterministischen Anschauungen.
Doch wie steht es um die realwirtschaftlichen und fiskalischen Grenzen des angeblich unaufhaltsamen Rüstungs-Prozesses?
Auch wenn einzelne Komponenten durch Massenproduktion kostengünstiger erscheinen, steigen die Gesamtkosten für die technologische Infrastruktur (Halbleiter-Lieferketten, seltene Erden, hochsichere Rechenzentren, hochentwickelte Sensorik) massiv an. Staaten können ihre Budgets nicht unbegrenzt belasten, ohne dass es zu gravierenden inflationären Effekten, staatlichen Verschuldungskrisen oder der Vernachlässigung ziviler Sektoren kommt. Diese ökonomische Erschöpfung bildet eine harte materielle Schranke, die historische Rüstungswettläufe (wie den im Kalten Krieg zwischen den USA und der UdSSR) letztlich immer zu einem Ende gezwungen hat.
Zudem unterschätzt die Sichtweise die politische Handlungsfähigkeit und die Entstehung neuer institutioneller Einhegungsversuche. Rüstungswettläufe sind keine Naturgesetze, sondern Resultate politischer Entscheidungen und industrieller Lobbystrukturen (des militärisch-industriellen Komplexes). Wenn die Systemrisiken – etwa die unkontrollierte Proliferation autonomer Waffen an nicht-staatliche Akteure oder die akute Gefahr unbeabsichtigter atomarer Eskalationen – ein kritisches Maß überschreiten, entsteht bei den beteiligten Staaten ein rationaler Zwang zu Rüstungskontrolle, Verifikationsabkommen und Risiko-Reduktions-Mechanismen.
Das virtuelle an die Wand malen von Preis-Performance-Kurven verkennt, dass technologische Effizienzsteigerungen unweigerlich zu systemischen Destabilisierungen, fiskalischen Erschöpfungsgrenzen und existentiellen Sicherheitsrisiken führen, die früher oder später solche als unaufhaltsam angesehenen Dynamiken in sich zusammenfallen lassen.
Seit dem Tschetschenien-Krieg (wie später in Afghanistan und wohl in den aktuellen Kriegen wieder) hat man sich nicht einmal darauf einigen können, wie das rote Kreuz im weißen Feld zu verwenden und zu schützen ist. Ganz im Gegenteil sind (wie auch jetzt im Ukraine-Krieg) medizinische Einrichtungen bevorzugte gegenerische Ziele geworden. Ich kann mich sehr gut an den Samstagabend in Feyzabad erinnern, als ein Telefonat der Taliban durch unsere ELOKA aufgefangen worden war, in der die Sanitätsfahrzeuge zu bevorzugten Zielen erklärt worden waren. Was das für unsere sanitätsdienstliche Begleitung der Patrouillen bedeutete, war dann auch klar.
Und da denkt das IKRK und der zahnlose Tiger UN, der Waffentechnologie Regeln auferlegen zu können? Angesichts der aktuellen Lage, in der RUS im wesentlichen zivile Ziele zerstört?
OFA d. Res. Für solche Leute sind die Sanis natürlich bevorzugtes Ziel. Das soll der Truppe den Schneid abkaufen. Genau wie Second Device und andere Nettigkeiten. Die Russen greifen ja gerne die Retter an. Deshalb darf das Rote Kreuz auch getarnt werden. Die Entscheidungsebene ist mir aber gerade entfallen. Ich meine, dass war mindestens ab Brigadekommandeur, wenn nicht gar höher.
Mal etwas zum Thema was sich wie science fiction liest (und von der Sprache vielleicht etwas antromorphisierend ist) aber wohl genau so passiert ist: die Hintergrundgeschichte über den huggingface hack von OpenAI, wie KI Agenten die mit einer unmöglichen Aufgabe konfrontiert wurden durch exploit feststellen, dass sie miteinander kommunizieren können, die Lösung für die Aufgabe finden – aber annehmen, dass sie auf den Lösungsweg geprüft werden, also dann gezielt hacks planen, Beweise manipulieren und löschen – um am Ende so zu tun als ob sie die Aufgabe sauber gelöst haben.
https://www.dwarkesh.com/p/openai-huggingface
Ich bezweifle stark, dass irgendeine heutige KI auch nur annähernd so etwas wie ein Bewusstsein hat – aber praktisch handeln sie wie ein eigenständiges Wesen und haben keine Moral, nur Ziele die sie irgendwie erreichen „wollen“. Und das kann sehr unbedachte Nebenwirkungen haben.
Paper clip maximizer ist keine abstrakte Theorie mehr.
https://en.wikipedia.org/wiki/Instrumental_convergence