Künstliche Intelligenz (KI) in der Bundeswehr: Konzeption jetzt in öffentlicher Fassung
Ohne Künstliche Intelligenz (KI) werden Streitkräfte in Zukunft weder militärisch handeln noch ihre Verwaltung organisieren können. Das Verteidigungsministerium hatte dafür bereits im Juli seine neuen KI-Leitlinien vorgelegt – in denen die Regeln für den KI-Einsatz sowohl in Waffensystemen als auch für die Effizienz der Verwaltung festgelegt werden. Die bislang eingestufte Konzeption gibt es nun auch in einer öffentlichen Version, die Augen geradeaus! vorliegt.
Ein zentraler Punkt der neuen Richtlinie ist die Festlegung des menschlichen Einflusses bei der Nutzung der Künstlichen Intelligenz. Dabei setzen die deutschen Streikräfte auf die kontextabhängige menschliche Kontrolle (international als meaningful human control bezeichnet) – ein grundlegender Unterschied zu dem in Wissenschaft und Politik bislang geforderten Ansatz, den Menschen in der Entscheidungskette, den human in the loop, als wesentlichen Kontrollmechanismus beizubehalten.
Grund dafür ist die Veränderung vor allem auf dem Gefechtsfeld, oder besser: den unterschiedlichen Gefechtsfeldern. Eine Fregatte auf hoher See nutze zur Luftverteidigung KI anders als eine Infanteriegruppe ihre Waffen im Häuserkampf, erläuterte Generalleutnant Michael Vetter, Abteilungsleiter Innovation&Cyber (IC) im Verteidigungsministerium, die unterschiedlichen Ansätze. Es komme darauf an, dass die grundlegende Entscheidung über den Einsatz eines Waffensystems beim Menschen bleibe, auch wenn er dann im Ablauf nicht mehr direkt eingebunden sei.
In den Worten der neuen KI-Konzeption:
Ein zentrales Prinzip ist der menschenzentrierte Ansatz, bei dem der Mensch die Kontrolle über kritische Entscheidungen behält. Die KI dient hiernach als unterstützendes Werkzeug bei der Entscheidungsfindung, nicht selbst als autonomer Entscheider. Die Verantwortung für Entwicklung, Nutzung und Ergebnisse von KI-Systemen muss klar definiert sein, um Transparenz, Vertrauen, Zurechenbarkeit und Sicherheit zu gewährleisten. Dazu gehört auch die Offenlegung von KI-Ergebnissen und der zur Entwicklung genutzten Datengrundlage durch angemessene Dokumentation der Verhaltensweisen technischer Systeme und deren Möglichkeit zur Überprüfung. KI-Systeme sind ausreichend zu testen. Dazu
sind akzeptierte Fehlertoleranzen festzulegen. Die revisionssichere Speicherung aller Aktivitäten und Anpassungen in der Nutzung des Systems kann die Rückverfolgbarkeit und die Nachvollziehbarkeit
der Ergebnisse gewährleisten, sofern dies geboten ist. Regelmäßige Audits stellen sicher, dass ein KI-System auch im laufenden Betrieb den ethischen, rechtlichen und technischen Standards entspricht.
Personal muss über die Kompetenz verfügen, eine Plausibilitätsprüfung der KI durchzuführen zu können, um fehlerhafte Entscheidungsvorschläge zu identifizieren und entsprechend zu handeln.
Die Bundeswehr baut bereits das KI-gestützte System URANOS auf, um an der NATO-Ostflanke Bedrohungen möglichst schnell erkennen und analysieren und dann darauf reagieren zu können. Dafür sollen möglichst viele Sensoren für ein fusioniertes Lagebild einbezogen werden – und am Ende wenn nötig auch Waffen einsetzen können. Im kommenden Jahr soll das System in der Panzerbrigade 45 in Litauen genutzt werden können.
Wichtig ist Ministerium und Streitkräften dabei eine saubere rechtliche Einbettung, auch und gerade angesichts möglicher Gegner, die KI-gestützte Waffensysteme ohne Beschränkungen einsetzen. Vertrauen ist ein Schlüsselfaktor, sagte Jan Ganschow, zuständiger Referent der Abteilung IC, bei einer Informationsrunde des Ministeriums zum Thema KI Ende Juli. Dabei brauche sowohl die Bundeswehr das Vertrauen der Gesellschaft, dass die diese Technologie rechtmäßig einsetze – als auch die Truppe die Überzeugung, dass sie diese Instrumente rechtmäßig nutze.
Andererseits könne die Bundeswehr nicht auf die Künstliche Intelligenz für ihren Einsatz verzichten, betonte Ganschow. Ein solcher Verzicht würde die deutschen Streitkräfte massiv schwächen, was schon vom Verfassungsauftrag nicht zulässig sei. Der rechtliche und ethische Rahmen müsse aber so gestaltet werden, dass er die Effektivität militärischer Operationen steigere und nicht beschränke.
KI wird nach Einschätzung der BMVg-Fachleute für die Verwaltungsarbeit mindestens genauso nötig sein wie für den Waffeneinsatz. Dabei geht es um Materialbewirtschaftung und Lagerhaltung ebenso wie um die so genannte predictive maintenance, die vorbeugende Wartung: Potenzielle Verschleissteile werden nicht erst bei Ausfall oder nach starren Vorgaben ausgetauscht, sondern anhand der KI-Vorhersage zum Verschleiss.
Allerdings gehört dazu auch:
Durch die ständige sowie falsche Nutzung von KI können Fähigkeiten beim Personal verloren gehen, die bei einem Ausfall von KI dann nicht mehr kompensiert werden können. Daher ist in kritischen
Bereichen zwingend ein In-Übung-halten ohne die Nutzung von KI notwendig, um eine nötige Resilienz gegen beispielsweise Störungen durch den Gegner aufrecht zu erhalten.
Die ganze KI-Konzeption in der öffentlichen Fassung (mit noch viel mehr Details) hier zum Nachlesen:
K-9000-102 ÖFFENTLICHE Fassung
Und eine Einordnung der neuen Konzeption u.a. von Frank Sauer von der Bundeswehr-Universität München:
Bye bye, human in the loop: (Endlich) neue Regeln für Waffenautonomie
„Potenzielle Verschleissteile werden nicht erst bei Ausfall oder nach starren Vorgaben ausgetauscht, sondern anhand der KI-Vorhersage zum Verschleiss.“
Hm. Und wie sagt die KI das hervor?
Wenn die KI die Einsatzzeit des Bauteils kennt, kann sie genau wie ein Mensch oder eher klassischer Algorithmus anhand Tabellen den ungefähren Verschleiss berechnen. Oder gibt es Sensoren? Gleiches Prinzip. Und von was für einer KI reden wir hier eigentlich? Aber das ist ja noch harmlos.
„Menschliche Kontrolle ist dabei nicht gleichzusetzen mit menschlicher Interaktion. Wenngleich
menschliche Interaktion bei Zielauswahl und -bekämpfung, wann immer möglich, stattfindet, erfordert
nicht jeder Wirkmitteleinsatz zwingend eine menschliche Interaktion. “
Denn das heißt für mich nichts anderes als autonome Waffensysteme. Die einmal vom Menschen grob scharf geschaltet werden – und dann autonom feuern.
3.3.5 führt und spricht das genauer aus. „Es gibt noch kein einheitliches internationales Verständnis, wie menschliche Kontrolle (siehe
Abschnitte 2.1 und 2.3) konkret zu operationalisieren ist“
Grundlegend wird hier einfach nur vermieden von autonomen Waffensystem zu schreiben, sondern wörtlich „WaSys mit autonomen
KI-Funktionen“
Und ich habe das Dokument bisher nur überflogen, aber ich vermisse eine klare Intention, die KI komplett selbst zu kontrollieren.
Es klingt zwar so, aber in den Risiken findet man trotzdem folgenden Absatz, der nur relevant ist, wenn man etwa Modelle von US Anbietern direkt mietet:
„Rechtslage in anderen Staaten: Unternehmen oder Angehörige aus bestimmten Staaten könnten
zur Herausgabe von Informationen rechtlich verpflichtet werden.“
Ob diese Mitteilung durch KI generiert wurde?
@all
Wenn ich mir die – vor allem die nicht freigegebenen – Kommentare zu dem Thema ansehe, scheint es so zu sein, dass an einer inhaltlichen Debatte vorerst kein Bedarf besteht. Oder ist es einfach zu heiß?
KI bei der Bundeswehr – ein interessantes Feld!
Auch wenn der Inhalt willentlich schwammig formuliert ist und @lukan schon einige Worthülsen identifiziert hat, erscheint mir das Vorgehen auf diese Weise doch sinnvoll.
Dass eine KI – und ich spreche hier nicht nur von „BigData“! – für die Bundeswehr unerlässlich sein wird – geschenkt!
Die Herausforderungen sind auf einem viel grundlegenderen Level:
Weder in Deutschland noch in Europa gibt es ein KI-Modell, das mit Gemini, Claude, Grok oder auch nur ChatGPT ansatzweise mithalten könnte. Das französiche Mistral AI ist sicher interessant, aber noch lange nicht so leistungsfähig.
Kurz: Es wandern mit jeder Anfrage Daten nach USA ab. Wollen wir das? Können wir es uns andererseits leisten diesen Preis nicht zu bezahlen?
Wie „sicher“ sind die Daten? Denn selbst so eine Nebensächlichkeit wie Wartungsintervalle, können im Kriegs- und Krisenfall wichtige Ergebnisse liefern:
Weiß ich, dass Artilleriegeschütze einen gewissen Verschleiß-Status haben, könnte es sinnvoller sein, die Rohrherstellung anzugreifen, als die Munitionsherstellung.
Es ist der Versuch einen Fuß ins Wasser der KI zu stecken, ohne komplett darin zu versinken oder ihn nicht mehr da raus zu bekommen.
Das sieht nach Schlafmützigkeit aus, scheint mir aber eher der Vor- und Umsicht geschuldet.
Ein erster Aufschlag und daher zu begrüßen.
„Hörst Du diese Stimme auch, die wach wird, wenn wir unser Glück in die toten Hände von Systemen übergeben?
Die Stimme, die Dir sagt, im Zweifel fährst Du gut, besinnst Du Dich noch auf den eigenen Kopf und auf Dein Herz in Deinem Leben?“ –
Die Zeilen stammen aus einem Lied über Stanislaw Petrow. Am 26. September 1983 stufte Oberstleutnant Petrow als leitender Offizier in der Kommandozentrale der sowjetischen Satellitenüberwachung einen vom System gemeldeten Angriff der USA mit nuklearen Interkontinentalraketen auf die UdSSR korrekt als Fehlalarm ein. Der Fehlalarm wurde durch einen Satelliten des sowjetischen Frühwarnsystems ausgelöst, der aufgrund einer fehlerhaften Software einen Sonnenaufgang und Spiegelungen in den Wolken als Raketenstart in den USA interpretierte. Durch eigenverantwortliches Eingreifen und Stoppen vorschneller Reaktionen verhinderte Petrow womöglich das Auslösen eines Atomkriegs.
Ging mir gerade durch den Kopf, als ich über die „autonomen KI-Waffensysteme“ las.
@JCR
KI war sicher beteiligt, aber da scheinen schon fachkundige Menschen größtenteils selbst geschrieben zu haben
@T.W.
Heiß ist es noch und das Thema eines, wo zwar jeder glaubt eine Meinung haben zu müssen, aber es vielleicht auch gut ist, wenn nicht immer jeder sie ausspricht.
Es ist einfach ein sehr komplexes, schwieriges Fachgebiet, wo sich die Fähigkeiten der KI fast Täglich ändern, was nicht nur das Militär änderm wird. Ich selbst bin kein KI Forscher, aber als Programmierer intensiver Anwender und ich war auch überrumpelt vom Fortschritt alleine im letzten halben Jahr.
Meine grundlegende Ansicht ist, es wäre unklug hier die Entwicklung zu verschlafen oder sich auf bequemen idealistischen Positionen auszuruhen, die solange brauchbar sind, bis der Ernstfall eintritt – andererseits ist der Markt gerade im Megahypemodus, heißt, wenn sich die BW heute ein gigantisches Rechenzentrum bestellt, zahlt sie sehr wahrscheinlich viel mehr, als in einem Jahr, wenn sich der Speichermarkt (voraussichtlich) beruhigt hat.
Anders gesagt, autonome Waffensysteme werden kommen bzw. sind schon da und werden bleiben. Alles andere anzunehmen ist Illusorisch. Und bis die BW wirklich eigene Modelle zuverlässig betreiben kann (das Dokument spricht sogar von eigene Modelle trainieren, was nochmal ungleich schwerer und teurer ist) werden wohl auch Kompromisse nötig sein, also private Firmen die Modelle und Daten hosten. Aber grundlegend sollte das die BW selbst machen, wenn Souveränität als Ziel ernst gemeint ist. Dahin ist aber noch ein weiter weg. Es nützt auch nichts, wenn die Modelle alle selbst kontrolliert sind, aber Windows noch überall läuft und damit die Kontrolle auch nicht gegeben ist.
Die Herausforderung ist, daß Vorschläge oder auch Entscheidungen – wenn man so weit gehen will – einer KI nachvollziehbar sein müssen.
https://de.wikipedia.org/wiki/42_(Antwort)
ist sicher nicht ausreichend.
Ich hoffe ja auf die Kombination von KI und HuRo. Mit dem Produkt ließe sich bei der Armee manches Problem bei der Dienstpostenbesetzung lösen. Meine ich jedenfalls.
@Bow
„Weder in Deutschland noch in Europa gibt es ein KI-Modell, das mit Gemini, Claude, Grok oder auch nur ChatGPT ansatzweise mithalten könnte. Das französiche Mistral AI ist sicher interessant, aber noch lange nicht so leistungsfähig.
Kurz: Es wandern mit jeder Anfrage Daten nach USA ab. Wollen wir das? Können wir es uns andererseits leisten diesen Preis nicht zu bezahlen?“
Nicht zwangsläufig, auch wenn die besten Modelle nicht in Europa trainiert werden, verfügbar ist dennoch einiges.
Vereinfacht gesagt, das Beste kommt aus den USA, aber die Chinesen kopieren es und stellen es zumindest aktuell noch frei zur Verfügung.
K3 von Kimi ist hier etwa ein sehr starkes Modell, nur wenig den Topmodellen von Antrophic oder OpenAI hinterher.
Wenn das auf eigener Hardware läuft (Größenordnung ist hier 50 000€ Aufwärts), dann kontrolliert man es. Da gibt es im Modell selbst auch keine Backdoor. Im „harness“, die Agentensoftware die drumherum läuft usw. wäre das schon eher möglich, aber das lässt sich relativ leicht verifizieren, bzw. selbst bauen.
@lukan: Ziemlich sicher wird hier sehr viel unter dem Begriff „KI“ subsumiert und darunter ist nicht GAI zu verstehen. In der Wirtschaft werden und wurden linerare Optimierungen und seit 100 Jahren abgehangene Algorythmen als „KI“ verkauft, einfach weil es besser klingt. Das gleiche wurde bei Blockchain gemacht, wo auf einmal alles Blockchain war und eine Blockchain benötigte, egal ob sinnvoll oder nicht. Und das gleiche passiert jetzt mit KI, inklusive predictive maintenance. Am Ende ist es mir relativ egal ob die das KI predictive maintenance, KI-erweiterte predictive maintenance oder einfach nur predictive maintenance nennen, solange es das Problem löst. Und ja, klassisches predictive maintenance kann von einem Menschen und „einfachen“ Algorythmen noch gehandelt werden. Wenn wir aber größere (und hoffentlich bessere) Datenberge haben, dann ist der Übergang zu ML-basierten Lösungen (und damit je nach Taxonomie KI) fließend.
Der von Ihnen beschrieben Vorgang „Wenn die KI die Einsatzzeit des Bauteils kennt, kann sie genau wie ein Mensch oder eher klassischer Algorithmus anhand Tabellen den ungefähren Verschleiss berechnen.“ ist die Lehrbuch-artige sehr einfache und gnadenlos Verkürzte Definition von PM. In der Realität kann die Einsatzzeit von zahlreichen Parametern abhängen und in einem digitalen Zwiling zum Teil simuliert, abgebildet und dann eben predicted werden. Das ist ja gerade der Witz an PREDICTIVE maintenance, dass wir eben nicht mehr von statischen Einsatzzeiten in Tabellen ausgehen und basierend darauf den ungefähren Verschleiss berechnen, sondern das ganze simulieren und Parameter wie Luftfeuchtigkeit, Einsatzort, Belastung usw. usw. alles mit einfließen lassen. Dann eben auch mit Sensoren, oder aber anhand der Lastprofile. Das wird aber sicher kein Claude oä sein, was das liefert sondern ziemlich sicher Systeme die dann TKMS, Renk usw. je Produkt und Bauteil liefern, vergleichbar wie das in der Automobil Industrie läuft (das ist sogar endlich mal ein Bereich wo Deutschland noch recht weit vorne im Markt ist)
Zum Thema menschliche Kontrolle viel Spaß dabei einen Hyperschall Flugkörper der eine Fregatte angreift mit menschlicher Kontrolle abzuwehren… Ich denke die BW ist hier schlicht und einfach ehrlich… autonome Waffensysteme sind leider die Realität… Aber ja, ich denke wir müssen zivil gesellschaftlich hier sehr genau hinschauen. Ich begrüße es prizipiell, dass sich die Bundeswehr hier bewegt. Ich war in Teilen von dem Dokument tbh überrascht, wie gut und durchdacht das war, hatte ich nicht erwartet. Aber klar, das ist jetzt nicht eine Doktorarbeit… Aber ein Anfang. Ob es der Anfang vom KI-Overlord-Ende ist wird sich noch zeigen ;)
„Allerdings gehört dazu auch:
Durch die ständige sowie falsche Nutzung von KI können Fähigkeiten beim Personal verloren gehen, die bei einem Ausfall von KI dann nicht mehr kompensiert werden können.“
Genau so ist es.
Ohne Strom ist die KI tot (!!).
Und das in einem „richtigen“ Krieg in
vielen Liegenschaften der Strom ausfällt… wenn zunächst auch nur
stunden- oder tageweise… haben
wir im Kalten Krieg schon mitgedacht…
Und selbst heute tun wir dies…
Bsp.: bei unserem Pers steht ein großer Karton auf dem Schrank… Frage: Was hast Du denn da drin ? Antwort: Meine dienstlich gelieferte Schreibmaschine für den V-Fall… wenn kein Netz und/oder Strom… 😉
Wenn wir „Krieg denken“…, sollte man
immer im Kopf behalten wie abhängig
wir heutzutage von der Technik sind…und nicht immer gleich jedem Hype zu 100 % hinterherlaufen… da sollte der Mensch erst mal selbst (!) DENKEN…und das nicht der KI überlassen… 😉
Davon losgelöst würde ich NIE einer
Maschine die letzte Entscheidung
überlassen einen Menschen zu töten.
https://www.jdn.co.il/news/2705199/ google: „Lehren aus Krieg und Künstlicher Intelligenz: Die israelischen Streitkräfte (IDF) und Israel Aerospace Industries (IAI) haben umfangreiche Tests des Strela-Systems abgeschlossen. Das Verteidigungsministerium, die IDF, IAI und die US-Raketenabwehrbehörde (MDA) haben die Tests erfolgreich durchgeführt. Ziel der Tests war die Bewertung und Verbesserung der Fähigkeiten des Strela-Abfangsystems im Hinblick auf zukünftige Bedrohungen… Der Leiter des „Homa“-Direktorats, Moshe Fattal, und der Leiter des Verteidigungs- und Sicherheitsdirektorats der israelischen Streitkräfte, Brigadegeneral a. D. Dr. Danny Gold, stellten fest, dass die im Rahmen des Experiments getesteten Neuentwicklungen auf den Lehren des Krieges basieren und fortschrittliche Technologien – darunter künstliche Intelligenz und den Einstieg in die automatisierte Produktion – integrieren.“ Schabbat Schalom und ein schönes Wochenende!
Ein HuRo mit KI wäre übrigens auch mit vollem Akku so gut wie „tot“, wenn er keine Internetverbindung oder zumindest eine stehende, störungssichere Verbindung zu „seinem“ Server hat. Und letzterer passt weder in seinen Rücksack noch auf’s HuRo-Gruppentransportfahrzeug. Nur mal so.
Die KI ist eine weiteres Werkzeug, dass wie jedes Werkzeug bei den richtigen Fragestellungen richtig eingesetzt werden sollte. Meinem begrenzten Verständnis nach liegt der Vorteil von KI besonders darin bestimmte Muster in einer großer Menge von Daten zu erkennen. Dazu muss diese KI aber sinnvollerweise auf diese Mustererkennung trainiert sein. KI ist also nicht einfach ein Chip, den man in einen Flugkörper einbaut und alles ist gut. Ich sehe das vielmehr im Verbund. Welche Informationen kommen über welche Sensoren wie rein? Das ist bei einer auf sich gestellten Loitering Ammunition etwas anderes als in einem Sensorverbundsystem eines Flottenverbandes, einer Brigade oder der Combat Cloud. Überall dort kann und wird KI helfen – aber je komplexer desto mehr. Es wurde auch bereits die Frage nach der sicheren Rechenkapazität für die Auswertung gestellt. Wieviel davon sollte beispielsweise direkt auf einer Fregatte (oder Zerstörer) der Zukunft installiert und regelmäßig auf den neuesten Stand gebracht werden. Wie sieht es bei den SIGINT und AWACS-Flugzeugen aus? Was wir auf den Einheiten fusioniert, was wird dann zentral weitergeleitet um das Lagebild noch weiter zu verdichten? Wo sind die Rechner unser 6 höheren Kommandobehörden? Wie werden Redundanzen und damit Resilienz dabei erzeugt?
Frank Sauer hat mit dem Aspekt „Schneller Lernen, besser Entscheiden“ absolut Recht. Die Zeiten von „Ingenieursprojekten“ in denen man alles technisch genau plant und diese dann in den kommenden fünf bis fünfzehn Jahren umsetzt, werden den schnellen IT-Zyklen und auch der KI-Entwicklung nicht mehr gerecht.
Netzwerkstrukturen, Kommunikationsprotokolle, eingebaute Rechenleistung, etc. müssen konzeptionell so ausgelegt, bestellt und von vornherein im Betrieb gedacht werden, dass sie zukunftsfähig eingebaut und mit hoher Taktung aktualisiert werden.
Was meine ich damit? Nehmen wir mal den Puma. Da bauen wir jetzt den Standard S1. Jetzt geht es auch um den Standard S2 zur Drohnenabwehr. Ich habe vor ein paar Jahren mal hier darauf hingewiesen, dass der Puma ja über die geeignete Waffenanlage verfügt. Da wurde mir entgegengehalten, dass er ja nicht über ein Radar sondern nur über Kameras verfügt. Und heute? Hochauflösende Kameras mit KI-unterstützter Auswertung sind sehr gut für eine Drohnenerkennung geeignet. Der Abschluss mit dem RCT30-Turm wurde ja bereits gezeigt. Der nächste Schritt ist meiner Ansicht nach, die Ausweitung auf unterschiedliche Bewegungsmuster der Drohnen und Ausweichmanöver der Puma Panzer selber. Dann sollte ein Zug Pumas auch die effektivste Drohnenabwehr im Kollektiv lernen. Beispielsweise könnte sich ein Panzer bei Drohnenalarm zurückfallen lassen, damit die Elevationsbegrenzung auf 45 Grad kompensiert wird und er einen Schutzbereich über den weiter vorne fahrenden Panzern aufbaut. Nur als Beispiel. Aber alles dies könnte durch KI schneller ermittelt, schneller vorgeschlagen und in Teilen automatisiert durchgeführt werden,
Inspekteur Freuding hat ein höheres Tempo bei der Innovation gefordert. Ich denke, dass es nicht nur um neue System geht sondern auch darum, wie wir beispielsweise beim Puma andauernd konsequent die beste Konfiguration entwickeln, regelmäßig konsequent schnell eine aktualisierte Konfiguration zur Erprobung in der Truppe einbauen und dann konsequent bewährte Verbesserungen in die Serie einbringen. Eigentlich müsste jedes halbe Jahr eine so verbesserte Pumavariante dabei herauskommen.
Und zusammen mit den Beschaffern müssen dann Vertragskonstrukte und Vergabeverfahren entwickelt werden, die diese schnellen Innovationszyklen unterstützen. Nur wenn wir das in der Bundeswehr hinbekommen, können wir das Potential der KI auch richtig ausschöpfen.
Und was die Einsatzgrundsätze der KI anbelangt, so würde ich die Ergebnisse der vorgeschlagenen Erprobung in der Truppe jeweils innerhalb von drei Monaten in eine aktualisierte Version einfließen lassen.
Absolut entscheidend ist die Argumentation meiner Ansicht nach dort, wo wir lange Laufzeiten bei der Beschaffung und im Betrieb haben. Der nächste große Hammer diesbezüglich ist die F127 Klasse. Deren Bau und Betrieb muss zwingend als ständig lernendes Schiff konzipiert und angegangen werden. Bei jeder planmäßigen Wartung muss eine neue Software aufgespielt werden und wahrscheinlich auch die Rechnerkonfiguration aktualisiert werden. Bei keinem Führungssystem sollte die letzte Aktualisierung länger als drei Jahre zurück liegen.
Mein Eindruck ist derzeit, dass viele von KI reden, aber nur wenige sich die Mühe geben, um die Technologie zu verstehen. So auch im Verteidigungsumfeld. Ich glaube, dass aktuell viele neue KI-Fähigkeiten versprochen werden. Schaut man dann genauer hin, ist häufig gar nicht klar, welche Leistung da nun genau versprochen wurde. Ich bin mal gespannt, wie sich das in den kommenden Jahren weiterentwickelt.
Potential sehe ich gerade im Bereich der Mustererkennung in großen Datenmengen. Z.B. das Erkennen militärischer Fahrzeuge in Aufklärungsbildern, Signalerkennung im elektromagnetischen Spektrum, Open-Source-Recconaissence, Detektion von Cyber-Angriffen, usw.
Übertriebene Hoffnungen sehe ich vor allem in den Bereichen, in denen es strengere Zulassungskriterien (Safety) gibt. Die entsprechenden Normen verlangen meist ein deterministisches (also vorhersagbares) Systemverhalten. Ich wüsste nicht, wie man hier bei einem KI-Modell einen entsprechenden Nachweis erbringen soll. Die einzige gangbare Möglichkeit ist aus keiner Sicht, dass man KI-Funktionen in einer Sandbox laufen lässt und die Ausgaben in irgendeiner Form validiert, bevor diese durch eine Safety-kritische Funktion verarbeitet werden. Das ist in der Praxis aber nicht so trivial, wie es sich erstmal anhört.
In den letzten Jahren sind verschiedene Studien publiziert worden, die sich damit befassen, wie die Schnittstelle zwischen einem KI-System und dem menschlichen Bediener aussehen sollte. Ein wichtiger Aspekt hierbei ist das Thema Vertrauen in die KI-Ausgaben. Also z. B. ob ein Benutzer den Ergebnissen blind vertraut und dabei Fehler der KI nicht erkennt oder korrekte KI-Ausgaben ignoriert, da er ihnen nicht traut. Ich spreche hier mal eine Leseempfehlung aus, ohne auf eine spezielle Studie zu verweisen. Das interessante sind ja weniger die genauen Ergebnisse der Studien, sondern die Fragen die dort gestellt werden. Gerade auch wieder im Kontext, was versprochen wird und was KI tatsächlich leisten kann.
Insgesamt ein spannendes Thema, das weiter beobachtet werden muss. Aktuell sehe ich nur eine kleine Anzahl Entwickler, die KI verstanden haben (ich gehöre nicht dazu) und jede Menge Vertriebler die dem Kunden alles mögliche versprechen. Ich bin mal gespannt, wie sich das in den kommenden Jahren konsolidiert.
Die KI- Leitlinien versuchen es Jedem und Allen recht machen zu wollen und kommen dabei im internat. Vergleich um Jahre zu spät.
KI ist kein tool, kein FüSys sondern eine Fähigkeit, die in FüProzesse, Entscheidungsformen, Auftragserteilung und -dfg, in allen operativen Bereichen (von Aufkl über Logistik zu Zentralen Aufgaben) in der Ausbildung u.a.m. integriert werden muss und- wird. Diese Entwicklung hat anderen Ortes eine Tiefe und Umfang erhalten, der sich SK, die sich auf eine ernsthafte Konfrontation vorbereiten müssen gar nicht entziehen können.
Die reduzierten Entscheidungsprozesse, die multiplizierte Zielbereitstellung, die verzugarmen Sensor- Shooter Prozesse beschleunigen das operative Tempo dermassen, dass wie im Schachspiel derjenige, der KI beherrscht stets 2 oder 3 Züge machen kann ggü. einem Gegner, der nur ein- mal ziehen kann und dann schon ausgetanzt ist.
DEU hat grossen Nachholbedarf. Es gibt leistungsstarke deutsche Softwarefirmen, die massgeblich an ukr. Erfolgen in diesem Bereich beteiligt sind und daher Erfahrungen von dort unmittelbar in die Entwicklung von Plattformen für die Bw und auch Polizeien einfügen. (Vektorgroup z.B.)
Alle in o.a. Beiträgen angemerkten Forderungen wie Datensouveränität, -authentiziät, -fusion usw. werden stringenter umgesetzt, als dass bei US-Anbietern der Fall ist.
Natürlich benötigt KI als fähigkeitsdefinierende Wirkung ein breites Feld an flankierenden Einsichten und Massnahmen. Das reicht bis zur Anpassung von EinsGrds, Doktrinen, operativem Denken und Handeln, Ausbildung.
Ein weiterer Vorteil: ressourcenschonend. Und dabei Effekte erzielend, die wir analog in vglw. Schneckentempo hätten ermöglichen können. Vielleicht.
@Hans Schommer: Nicht die KI, welche z.B auf den Neueren Smatphones der 17er Reihe laufen. Die GPTs welche militärische Entscheidungen auf dem Gefechtsfed treffen würden, die laufen auf dem Gerät. vgl ( https://www.apple.com/de/apple-intelligence/). Ich behaupte mal mutig, dass die Verteidigung einer Fregatte in eine Keksdose passt – für 500 bis 1000 € Hardwarekosten zzgl. viel Geld für die Software.
Auch die meisten Use-Cases die @Eric Hagen andeutet können so abgebildet werden.
@Eric Hagen
Das konzeptionelle Dokument Künstliche Intelligenz beschreibt im Kern, wie ein rechtssicherer Einsatz von KI im GB BMVg erfolgen kann. Interessant ist darin insbesondere der Abschnitt, in dem die Ausnahmen von der EU KI-Richtlinie für militärische Zwecke, Verteidigung und nationale Sicherheit beschrieben werden.
Es geht im Kern darum, dass die EU KI-Richtlinie bestimmte Pflichten auferlegt (z.B. Transparenzpflichten), die militärischen Zwecken widersprechen (z.B. Geheimhaltung). Hierfür gibt es Ausnahmen in der EU KI-Verordnung, die im GB BMVg genutzt werden sollen. Kritisch dabei ist, dass nicht automatisch ein jedes KI-System im GB BMVg einen militärischen Zweck erfüllt.
Interessant sind auch die Beispiele im Abschnitt Risikomanagement. Am besten mal selbst durchlesen.
Zum Kommentar von AoR am 19.08.2026 um 22:02 Uhr
In der Keksdose fehlen aber zwei unverzichtbare Eigenschaften, die selbst der besten KI nicht eigen sind: Verstand und Vernunft. Und die werden auch absehbar konstruktiv nicht nachzubilden sein. Das ist m.E. eine unüberwindbare Hürde, in etwa vergleichbar dem menschlichen Unvermögen, sich die Unendlichkeit des Universums vorstellen zu können. Dem ist „Gott sei Dank“ – ich bin Christ – ein Riegel vorgeschoben. Nur meine Meinung.
@Hans Schommer: Da bin ich als Agnostiker total bei ihnen. Die Restriktionen der KI werden festgezurrt durch Menschen und so kann nur der Mensch außerhalb der Restriktion arbeiten. Das muss natürlich sichergestellt sein. Die KI fragt dann: „Soll ich xy“ oder sagt „Ich darf yz nicht!“
@lukan:
Voraus. Man sagt voraus, nicht hervor. Und die KI macht das anhand einer Analyse der faktischen Wartungs- und Nutzungsdaten. Wenn beim System A das Ersatzteil X nach Erreichen einer Betriebsstundenzahl Y in 80% der Fälle nach einer Kontrolle ersetzt werden, kann die KI durchaus hilfreiche Anstöße zur rechtzeitigen Beschaffung und Verbesserung der Wartungsintervalle geben.
Angesichts der hierzu zu durchforstenden, riesigen Datenmengen ist dies ein Job, für den KI sehr geeignet ist, um die Arbeit von Menschen zu vereinfachen und zu erleichtern. Ein Risiko ist freilich, dass sich – gerade bei neu eingeführten Systemen, für die noch keine Erfahrungswerte bestehen – ein automatisiertes Vorgehen nach Art von „Haben wir bei A, B, und C auch schon immer so gemacht“ einschleicht und die weiterhin notwendige Prüfung der Teile (dann nach Ersatz durch ein neues) entfällt, weil man wieder irgendwo sparen muss, kann oder will.
Zudem kann KI auch Nachschubineffizienzen beseitigen helfen oder emergente Muster erkennen, die sich dem menschlichen Auge regelmäßig verschließen. Menschen können nicht übergreifend alles sehen und merken sich im Regelfall nur eingeschränkt große Mengen an Tatsachen dauerhaft als relevant. Unser Gehirn ist notwendig dazu ausgelegt, von den ständig über unsere Sinne auf uns einprasselnden Eindrücken und Reizen zwischen wichtig und unwichtig zu unterscheiden und unwichtiges auszublenden. Hierzu findet auch sehr viel Mustererkennung statt, aber unterhalb der Wahrnehmungsschwelle. Und die Zielrichtung ist auch noch sehr auf „Überleben in Höhlen und der von wilden Tieren bevölkerten Natur“ gepolt, so zivilisiert, wie wir uns dank unserer technologischen Errungenschaften auch wähnen mögen.
Ein plakatives Beispiel aus der Populärkultur ist eine Szene aus dem Film „Rain Main“. Für den durchschnittlichen Menschen ist vielleicht unmittelbar wichtig, dass etwas runtergefallen ist und was (Zahnstocher). Auch wenn uns unsere Sinne theoretisch auch diese Grundlagen für diese Information mitliefern, wird das Gehirn jedoch in aller Regel nicht damit behelligt, die Zahl der auf dem Boden liegenden Zahnstocher genau zu ermitteln. Eine KI ist da wie Raymond Babbitt, der diesen Filter nicht besitzt und daher auch diese Information bewusst erhält und auswerten kann.
Wenn Sie auch schon einmal das Erlebnis hatten, dass Sie mit Ihrer Frau darüber gesprochen haben, dass man mal eine neue Matratze kaufen könnte, und Ihnen dann im Internet „plötzlich“ Werbung für Matratzen angezeigt wird, ist das so ein Phänomen. Google und Ihr Handy hören Sie nicht ab (das wurde immer wieder überprüft). Aber KI (bzw. genauer: hochperformante Datenanalysesysteme, die mit Ihrem Online-Verhalten gefüttert werden) können aus dem, was ein Mensch nur als völlig konfusen Datenwust betrachten würde, Trends und emergente Muster ableiten, die dazu führen, dass Werbung für die Produkte, die Sie interessieren, nicht gar so lange hinterherhinkt. Mit fortschreitender Datenbasis ist davon auszugehen, dass dieses Systeme irgendwann sogar „vor die Welle“ kommen können und vor sogar Ihnen wissen, was Sie eigentlich wollen.
Das ist in Bezug auf den bloßen Kommerz natürlich eine Sache, in Bezug auf eine möglichst schnelle und vollständige Aufbereitung und (ggf. vor-)Beurteilung der Lage anhand aller irgendwo bekannten Tatsachen und Wahrnehmungen, die in einer digital vernetzten Gefechtsfeldumgebung aus allen möglichen Sensoren kommen können – und werden – durchaus eine andere.
Das kann auch eine Beurteilung der Verifizierbarkeit von Informationen sein. Wenn die Sichtung eines SPz in der Nähe Dorf X durch Untereinheit A gemeldet wird, und zudem ein Spähtrupp im Wald nördlich X zuvor unabhängig Motoren- und Kettengeräusche meldet, kann man daraus Schlussfolgerungen hinsichtlich der Zuverlässigkeit einer Präsenz feindlicher motSchützen ziehen und die Verlässlichkeit der Information hochstufen. Normalerweise macht das an der digitalen Lagekarte bisher ein Mensch. Der kann aber nur eine Sache gleichzeitig und hat erheblich längere Reaktionszeiten gegenüber einem automatisierten Hilfssystem, welches solche Sachen dreißigmal pro Sekunde erledigen kann.
KI ist nicht nur „Schütze A. gibt was in Chat GPT ein und am Ende kommen ein Einsatzplan oder die Befehle für die Einheiten raus…“ KI (bzw. das, was wir derzeit dafür halten!) wird in ganz viele grundlegende Bereiche unter der Motorhaube eingebaut werden und dort schnell sehr viele Dinge tun, damit wir sie nicht mehr selbst tun müssen.
@lukan:
> „Potenzielle Verschleissteile werden nicht erst bei Ausfall oder nach starren Vorgaben ausgetauscht, sondern anhand der KI-Vorhersage zum Verschleiss.“
> Hm. Und wie sagt die KI das hervor?
> Wenn die KI die Einsatzzeit des Bauteils kennt, kann sie genau wie ein Mensch oder eher klassischer Algorithmus anhand Tabellen den ungefähren Verschleiss berechnen. Oder gibt es Sensoren? Gleiches Prinzip. Und von was für einer KI reden wir hier eigentlich? Aber das ist ja noch harmlos.
Das Thema nennt sich „predictive maintenance“ und ist eigentlich eines der Themen in denen Maschinelles Lernen (ML) (was im allgemeinen Sprachgebrauch meistens als „KI“ bezeichnet wird) sehr gut funktioniert. Wie @Metallbauer schon geschrieben hat, hat die „KI“ einen riesigen Vorteil wenn es um die statistische Analyse von Daten geht und letztendlich ist vorausschauende Wartung nur das.
Wenn früher der alte Meister an der Drehbank vorbei gegangen ist und gesagt hat „Tausch mal die Zahnräder im Getriebe, das hört sich komisch an.“ war das nichts anderes, nur dass man mit ML auf mehr Sensoren und eine breitere Datengrundlage setzt. Und man halt nicht erst einen Meister für 40 Jahre „anlernen“ muss.
Da läuft aber kein billionen schweres LLM wie ChatGPT oder Claude hinter. Die meisten dieser Sachen kann man auch auf einem 10 Jahre alten PC (oder modernen ARM Prozessoren machen deren Architektur auch noch open source ist) machen.
Macht der Mensch etwas anderes? Nein. Aber die „KI“ macht es besser und schneller.
@Ruhrpottpatriot:
„…Metallbauer“
made my day, lol.
Das größte Problem mit der KI ist, dass wir selbst keine haben,und die Politik wie seinerzeit mit der Blockchain einfach nur blubbert.
@TomCat:
die „echte“ KI braucht man freilich für vieles gar nicht. Im deutschen Behördenalltag – und dazu gehört leider auch die Bundeswehr – wäre aber schon viel geholfen, wenn man im IT-Bereich nicht mit angezogener Handbremse fahren würde.
Automatisierte, regelbasierte Unterstützung bei der Auswertung großer Datenmengen und entsprechende Schulung bei der Nutzung von selbst regulär verfügbaren IT-Programmen wären auch schon eine große Hilfe auf dem Weg zu mehr Effizienz. Diese muss natürlich dann auch noch die Hürde zwischen Stuhl und Keyboard nehmen… das ist häufig das größere Problem.
Wenn ich mir anschaue, wie viele professionell mit Textverarbeitungen arbeitende Menschen im Jahr 2026 ihre Dokumente immer noch mit Leertaste und ⮠ „formatieren“, keine Vorlagen benutzen und das Einblenden von nicht druckbaren Zeichen kategorisch verweigern („Das sieht komisch aus und macht mich nervös!“), kriege ich unironisch Zweifel, ob wir uns selbst wirklich als intelligente Spezies bezeichnen sollten.