Künstliche Intelligenz (KI) in der Bundeswehr: Konzeption jetzt in öffentlicher Fassung

Ohne Künstliche Intelligenz (KI) werden Streitkräfte in Zukunft weder militärisch handeln noch ihre Verwaltung organisieren können. Das Verteidigungsministerium hatte dafür bereits im Juli seine neuen KI-Leitlinien vorgelegt – in denen die Regeln für den KI-Einsatz sowohl in Waffensystemen als auch für die Effizienz der Verwaltung festgelegt werden. Die bislang eingestufte Konzeption gibt es nun auch in einer öffentlichen Version, die Augen geradeaus! vorliegt.

Ein zentraler Punkt der neuen Richtlinie ist die Festlegung des menschlichen Einflusses bei der Nutzung der Künstlichen Intelligenz. Dabei setzen die deutschen Streikräfte auf die kontextabhängige menschliche Kontrolle (international als meaningful human control bezeichnet) – ein grundlegender Unterschied zu dem in Wissenschaft und Politik bislang geforderten Ansatz, den Menschen in der Entscheidungskette, den human in the loop, als wesentlichen Kontrollmechanismus beizubehalten.

Grund dafür ist die Veränderung vor allem auf dem Gefechtsfeld, oder besser: den unterschiedlichen Gefechtsfeldern. Eine Fregatte auf hoher See nutze zur Luftverteidigung KI anders als eine Infanteriegruppe ihre Waffen im Häuserkampf, erläuterte Generalleutnant Michael Vetter, Abteilungsleiter Innovation&Cyber  (IC) im Verteidigungsministerium, die unterschiedlichen Ansätze. Es komme darauf an, dass die grundlegende Entscheidung über den Einsatz eines Waffensystems beim Menschen bleibe, auch wenn er dann im Ablauf nicht mehr direkt eingebunden sei.

In den Worten der neuen KI-Konzeption:

Ein zentrales Prinzip ist der menschenzentrierte Ansatz, bei dem der Mensch die Kontrolle über kritische Entscheidungen behält. Die KI dient hiernach als unterstützendes Werkzeug bei der Entscheidungsfindung, nicht selbst als autonomer Entscheider. Die Verantwortung für Entwicklung, Nutzung und Ergebnisse von KI-Systemen muss klar definiert sein, um Transparenz, Vertrauen, Zurechenbarkeit und Sicherheit zu gewährleisten. Dazu gehört auch die Offenlegung von KI-Ergebnissen und der zur Entwicklung genutzten Datengrundlage durch angemessene Dokumentation der Verhaltensweisen technischer Systeme und deren Möglichkeit zur Überprüfung. KI-Systeme sind ausreichend zu testen. Dazu
sind akzeptierte Fehlertoleranzen festzulegen. Die revisionssichere Speicherung aller Aktivitäten und Anpassungen in der Nutzung des Systems kann die Rückverfolgbarkeit und die Nachvollziehbarkeit
der Ergebnisse gewährleisten, sofern dies geboten ist. Regelmäßige Audits stellen sicher, dass ein KI-System auch im laufenden Betrieb den ethischen, rechtlichen und technischen Standards entspricht.
Personal muss über die Kompetenz verfügen, eine Plausibilitätsprüfung der KI durchzuführen zu können, um fehlerhafte Entscheidungsvorschläge zu identifizieren und entsprechend zu handeln.

Die Bundeswehr baut bereits das KI-gestützte System URANOS auf, um an der NATO-Ostflanke Bedrohungen möglichst schnell erkennen und analysieren und dann darauf reagieren zu können. Dafür sollen möglichst viele Sensoren für ein fusioniertes Lagebild einbezogen werden – und am Ende wenn nötig auch Waffen einsetzen können. Im kommenden Jahr soll das System in der Panzerbrigade 45 in Litauen genutzt werden können.

Wichtig ist Ministerium und Streitkräften dabei eine saubere rechtliche Einbettung, auch und gerade angesichts möglicher Gegner, die KI-gestützte Waffensysteme ohne Beschränkungen einsetzen. Vertrauen ist ein Schlüsselfaktor, sagte Jan Ganschow, zuständiger Referent der Abteilung IC, bei einer Informationsrunde des Ministeriums zum Thema KI Ende Juli. Dabei brauche sowohl die Bundeswehr das Vertrauen der Gesellschaft, dass die diese Technologie rechtmäßig einsetze – als auch die Truppe die Überzeugung, dass sie diese Instrumente rechtmäßig nutze.

Andererseits könne die Bundeswehr nicht auf die Künstliche Intelligenz für ihren Einsatz verzichten, betonte Ganschow. Ein solcher Verzicht würde die deutschen Streitkräfte massiv schwächen, was schon vom Verfassungsauftrag nicht zulässig sei. Der rechtliche und ethische Rahmen müsse aber so gestaltet werden, dass er die Effektivität militärischer Operationen steigere und nicht beschränke.

KI wird nach Einschätzung der BMVg-Fachleute für die Verwaltungsarbeit mindestens genauso nötig sein wie für den Waffeneinsatz.  Dabei geht es um Materialbewirtschaftung und Lagerhaltung ebenso wie um die so genannte predictive maintenance, die vorbeugende Wartung: Potenzielle Verschleissteile werden nicht erst bei Ausfall oder nach starren Vorgaben ausgetauscht, sondern anhand der KI-Vorhersage zum Verschleiss.

Allerdings gehört dazu auch:

Durch die ständige sowie falsche Nutzung von KI können Fähigkeiten beim Personal verloren gehen, die bei einem Ausfall von KI dann nicht mehr kompensiert werden können. Daher ist in kritischen
Bereichen zwingend ein In-Übung-halten ohne die Nutzung von KI notwendig, um eine nötige Resilienz gegen beispielsweise Störungen durch den Gegner aufrecht zu erhalten.

Die ganze KI-Konzeption in der öffentlichen Fassung (mit noch viel mehr Details) hier zum Nachlesen:
K-9000-102 ÖFFENTLICHE Fassung

Und eine Einordnung der neuen Konzeption u.a. von Frank Sauer von der Bundeswehr-Universität München:

Bye bye, human in the loop: (Endlich) neue Regeln für Waffenautonomie