Lessons Learned aus der Ukraine: KI-Waffen für alle
Empfohlener Lesestoff auf den Abend: Dass der russische Angriffskrieg gegen die Ukraine Drohnen aller Größen zur allgegenwärtigen Waffe gemacht hat, ist inzwischen ein Allgemeinplatz. Der nächste Schritt: Drohnen, die KI-gesteuert agieren – und quasi in Garagen zusammengebaut werden.
Aus dem Bericht der New York Times:
One Ukrainian drone maker, Saker, built an autonomous targeting system with A.I. processes originally designed for sorting and classifying fruit. During the winter, the company began sending its technology to the front lines, testing different systems with drone pilots.
Die ganze Geschichte zum Nachlesen:
Kommt drauf an was man unter A.I. versteht.
Die grossen Modelle die wirklich autonom Krieg führen könnten sind auf enorme Rechenleistung angewiesen die nicht in kleine Drohnen passen, sprich Navigation in Echtzeit geht nicht…
Sorgen machen müsste allerdings die Proliferation kleiner Sprengstoffdrohnen auch aus Kriegsgebieten heraus.
Der terroristische Einsatz wird dadurch immer wahrscheinlicher. Man denke nur an Freifuftkonzerte, Festivals oder Fussballspiele…
Erstaunlicherweise gibt es dazu (noch) keine Berichte…
Es ist halt auch nur ein kleiner Schritt vom Assistenzsystem, dass auf den finalen Befehl des Nutzers wartet um ein selbst erkanntes Ziel anzugreifen bis zum System dass diesen Schritt autonom trifft, sollte die Verbindung zum Nutzer unterbrochen werden. Und von da an gibt es keine Grenzen mehr.
Ein Haken/Software-Update ist der letzte Unterschied, und dieser Haken ist schnell gesetzt, dieses Update ist klein und schnell verfügbar…
diese Katze ist doch schon seit einigen Jahren aus dem Sack.
einzige „Chance“ für eine international halbwegs bindende Regulierung ist m.e Mittler, dass der Einsatz autonomer Waffensysteme in mehreren Fällen für den Einsetzenden richtig Schief geht, i.e. ein autonomes system mal eben 10 Mann der eigenen Truppe liquidiert (wegen Programmierfehler oder ähnlichem). Alternativ der „erfolgreiche“ Einsatz solcher Systeme durch nichtstaatliche Terrorgruppen.
Man fragt sich schon ob über freiluft Auftritten deutscher Regierungsmitglieder eigentlich Jammer eingesetzt werden. falls nicht wäre das me. mindestens grob fahrlässig….
@Apollo 11
Das gab es schon, und zwar bereits 2013:
https://www.spiegel.de/politik/deutschland/piratenpartei-hat-in-dresden-eine-drohne-zu-angela-merkel-geschickt-a-922415.html
Mittlerweile lassen sich ja unterschiedlichste Wirkmittel einrüsten, z.B. auch Flammenwerfer (kein Witz).
@Wacaffe
Das Trainieren einer KI (OK, das wäre jetzt nicht unbedingt KI) auf das Profil einer oder einer geringen Zahl von Zielpersonen (Gesichtserkennung) ist nun nicht das große Problem. Dann braucht es auch keinen Drohnenpiloten i.e.S. mehr, es genügt, das UAV in der Nähe aufsteigen und suchen zu lassen, quasi „start and forget“.
Naja, was da so auf die Kleinstdrohnen passt ist auch nicht wirklich viel mehr, als 2000er und 2010er „Fire and Forget“-Waffen am ende auch können, allenfalls etwas kleiner und deutlich billiger.
Wirklich von KI sprechen kann man da erst bei großen Drohnen, wo man auch entsprechend Rechenleistung rein kriegt.
Viel stärker unterschätzt und kaum besprochen wird da finde ich eher der Einsatz von KI auf der Führungsebene und der strategischen- und Operationsebene:
Der große Vorteil von KI ist ja, dass sie gigantische Mengen an Daten zusammenführen und in kurzer Zeit verarbeiten kann. Damit kann dann im Kommandostand ein komplettes Echtzeitlagebild des gesamten Gefechtsfeldes inklusive virtueller Informationen rekonstruiert oder ein vollkommen autonom und optimal operierendes und in wenigen Millisekunden reagierendes IADS realisiert werden. Oder es kann KI benutzt werden, um sämtliche feindlichen Truppenbewegungen auch weit hinter der Front mithilfe von Datenfusion quasi in Echtzeit zu überwachen und strategische Luftkampagnen zu planen und managen.
Generell erleichtert und beschleunigt KI wahrscheinlich sämtliche komplexen Planungsprozesse enorm.
Mit Systemen wie Smartshooter endet die Schlachtfelddrohnenära so schnell wie sie kam. Heute kann Cobra Art.Granaten entdecken! Und dann ein autonomen Smartshooter System… gefährliche Zeiten für Storche…..
Siehe auch hier:
https://www.moscowtimes.ru/2024/07/02/ukraina-nachala-primenyat-na-fronte-avtonomnie-droni-a135634
Die automatische Übersetzung ins Deutsche klappt Recht gut.
@ Apollo11: Das ist eine müßige Diskussion, Sowas wie ChatGPT ist ja auch nicht wirklich eine KI, sondern fällt unter die Large Language Models (LLMs). Ecxeltabellen auf Steroiden, die, analog zu den Telefonistinnen zu Beginn der Ferngespräche, zunehmend treffsicher Verbindungen herstellen. Die „humane“ Formulierung der Ergebnisse, ob diese jetzt faktisch richtig sind oder nicht, ist dann nur noch die Kirsche auf dem Törtchen.
Jedenfalls reicht es den Ukrainern völlig, wenn nach der erfolgreichen Signalstörung der Russen eine automatisierte Mustererkennung dennoch die Drohne ins Ziel führt … Da leistet sich wahrscheinlicher keiner jahrelange ethische Diskussionen, ob dann in 1:100.000 Fällen ein zufällig auftauchender Junge, mit Papprohr in der Hand, als Panzerfaustschütze identifiziert und bekämpft wird.
Pandoras Büchse ist auf. Jeder kann sich einen Raspi, eine Drohne und mutmaßlich auch bald die nötige Software aus dem Netz beschaffen. Die Frage ist eher wie verteidigt man sich dagegen und wie sehr kann man sich selbst von entsprechenden Technologien profitieren. Einige deutschen Firmen beteiligen sich ja bereits am ukrainischen Drohnenkrieg. Die Zeit für eine nochmalige jahrelange Drohendebatte gibt es diesmal aber nicht.
@Pham Nuwen:
Nach jeder gängigen Definition von „KI/AI“ ist ChatGPT „KI“. Es ist keine „AGI“ (Artificial General Intelligence), aber definitiv KI.
Ich würde sogar weiter gehen und behaupten, dass etwas wie die SMArt 155 Projektive „KI“ enthalten, denn sie können autonom Ziele erkennen und bekämpfen (in eng gesteckten Grenzen). Dafür ist es meiner Meinung nach irrelevant, was für eine Technologie verwendet wird (es liegen natürlich Welten zwischen den Technologien, die in SMArt 155 und den im Artikel beschriebene Drohnen verwendet werden). Von da sind es dann nur noch quantitative technologische Fortschritte zu vollautonomen Drohnen.
Smartshooter ist auch ein „KI System“, allerdings nur mit einer den Schützen unterstützenden KI. In dem Fall bin ich aber bei der Überschrift, diese Art von KI-Waffen sollten „alle“ haben. Es gibt noch andere ähnliche Systeme aber Smartshooter ist das erste wirklich „reife“.
Einen westlichen Soldaten mit einer Langwaffe ohne Smartshooter oder ähnlichem System auszurüsten bzw. die Planung hierfür nicht sofort konsequent anzugehen überschreitet meiner Ansicht nach die Grenze zur Wehrkraftzersetzung und ist völlig verantwortungslos. Der einzige akzeptable Grund warum Langwaffen ohne solche Systeme noch ausgegeben werden ist Lieferkapazität.
@Othinus
Grundsätzlich kann eine KI auch Möglichkeiten des eigenen Handelns vorschlagen und bewerten.
Der Führer muß dann ggf. im Falle einer anderen Entscheidung und Mißlingen des Einsatzes dies begründen.
Die KI könnte vielleicht auch gleich die Befehlserstellung übernehmen so daß man Stäbe deutlich ausdünnen könnte.
Ich befürchte dem finalen menschlichen Votum wird eine nicht sachgemäße Bedeutung zugemessen.
Ob die KI nun eine Entscheidung selbst trifft oder eine Empfehlung gegenüber einem Menschen ausspricht, der das dann in aller Regel bestätigen wird, macht keinen großen Unterschied. Der Grund dafür ist, dass sich die KI nur dann vorteilhaft nutzen lässt, wenn man sie *anstelle* von Menschen Daten auswerten lässt, um Entscheidungen/Empfehlungen/Prognosen zu erstellen. Wenn man das wirklich überprüfen oder verstehen will, ob die KI „richtig“ liegt und warum Entscheidungen/Empfehlungen/Prognosen „richtig“ sind, muss man die Daten selbst auswerten und dann kann man auf die KI verzichten. Das gilt im großen wie im kleinen, auf operativer wie taktischer Ebene.
Siehe dazu auch diesen Artikel, der das Problem anhand von konkreten Waffensystemen beschreibt: https://warontherocks.com/2022/06/whats-wrong-with-wanting-a-human-in-the-loop/
Nicht falsch verstehen, ich finde das ist ziemlich furchteinflößend und gefährlich, was uns da droht bzw. schon Realität geworden ist. Noch gefährlicher sind aber die „bösen Jungs“, die jeden Vorteil ausnutzen werden und sich nicht um Ethik scheren. Können wir uns den „Human-in the-Loop-to-feel-Good“ wirklich leisten?
Ein alter Freund, ehm. Fallschirmjäger (wie ich auch), lehrt jetzt an einer Hochschule und beschäftigt sich dabei auch mit Drohnen, AI und deren Auswirkungen. Seine Literaturempfehlung, die ich nur zu gerne weitergebe:
Stanislaw Lem: „Waffensysteme des 21. Jahrhunderts“ sowie der auf der Tube zu findende Kurzfilm „Slaughterbots“ und die Fortsetzung „Slaughterbots – if human: kill()“.
Wobei das Abseitigste bei „Slaughterbots“ die Vorstellung ist, die UN sei das Allheilmittel gegen diese Waffen.
@Othinus:
Wenn man einer Drohne für 5.000 Eur die Erkennung für einen Waffentyp hinterlegt und die solange fliegt bis sie ein Exemplar dieses Typs zu 95% sicher erkennt und dann bekämpft, reduziert sich die Rechenleistung der Drohne extrem.
Und dann schicht man für 30 Fahrzeuge: 60 Drohnen und weitere 40 für Ansammlung von Soldaten und schon hat man mit 500.000 Eur 10 Panzer und 20 Schützenpanzen im wert von 50 Mio erledigt.
„Noch gefährlicher sind aber die „bösen Jungs“, die jeden Vorteil ausnutzen werden und sich nicht um Ethik scheren.“
Mit den „bösen Jungs“ meinen Sie sicher auch ukrainische und russische Drohnen Piloten? Das Wort Ethik hat zumindest auch in diesem Konflikt vollkommen nix zu suchen. Sie kennen sicher die zahlreichen Drohnen Videos.
Krieg wird gerade gänzlich neu geschrieben. Und es ist an unmoralischer Perversion nicht zu überbieten.
Solange die BUNDESWEHR nicht adäquate Systeme bis auf Infanterie Ebene auf den Plan bringt würde ich mich für den Verein nicht mehr melden.
Aber wir denken und üben eher immernoch 1985…
@aussenstehender
Jo, genau, aber dass machen bestehende F&F-Waffen halt im Prinzip auch. Ich meine mich zu erinnern, dass z.B. die moderneren Javelinversionen so eine Datenbank integriert haben (IRIS-T hat sie auch). Der Unterschied ist hier dann eher die Plattform (also Drohnen/Loitering munitions mit relativ signifikanter loiter time anstelle von Raketen, die praktisch keine haben) und nicht die Zielerkennungsfähigkeit.
Man nennt ja auch Luft-Luft-Raketen mit aktivem Radarsuchkopf nicht KI-gesteuert, obwohl die sich ihre Ziele durchaus autonom aussuchen können wenn die Trägerplattform den Radarlock verliert.
@Thomas Melber
Natürlich kann man auch direktes Management des Gefechtsfeldes durch eine KI übernehmen lassen, den wirklichen Vorteil von KI kann man in diesem Fall aber nur ausspielen, wenn man sie dass gesamte Gefechtsfeld kontrollieren lässt, da ihr Vorteil gegenüber dem menschlichen Kommandanten ja gerade im besseren Gesamtüberblick besteht.
Bis es dazu kommt sehe ich KI in der direkten Führung neben den von mir vorher genannten Punkten aber primär eher in der Evaluation und Simulation feindlicher Reaktionen auf etwaige Befehle der Führer, denn in der direkt kontrollierenden Rolle; sozusagen ein live Kriegsspiel.
@zKf
Ich habe gehört, Drohnenpiloten und Sniper genössen bei der Kampftruppe auf beiden Seiten das gleiche schlechte Ansehen, Drohnenpiloten vielleicht noch schlechter.
Die Katze ist aus dem Sack. Und ja, KI unterstützt im Führungsprozeß vor allem im Ansprechen, Beurteilen und Folgern. Deshalb wird aber der milFü oder das Schießtraining mitnichten obsolet. Im Gegenteil. Eine Armee, in der alle nur doof rumstehen und gucken, wie die Kuh, wenn’s donnert, sobald die Technik ausgefallen ist, weil sie nix mehr selbst können, braucht auch niemand.
Wer mit Kimme und Korn treffen kann, trifft auch mit ZF und Unterstützungssystemen. Wer nur mit letzteren effektiv kämpfen kann, wird bei Ausfall sehr schnell zum Opfer – oder legt eine sehr steile Lernkurve hin.
@zkf
Thema meines Kommentars war die menschliche vs. KI-autonome finale Entscheidung. Das hat eine ethische Komponente, die z.B. auch der Papst erkannt hat. Gegen die Waffe an sich hat er sich nicht gewendet. Der verlinkte Artikel gibt Aufschluss.
Selbstverständlich gehören die ukrainischen FPV-Piloten zu den guten Jungs, die russischen Soldaten ebenso selbstverständlich nicht.
Die sind im Gegensatz zu den tapferen Ukrainern dort freiwillig. Jedes Leid auf russischer Seite ist selbstverschuldet und der Verteidigungskampf der Ukrainer ist angesichts der mdnschenverachtenden Taten und Befehle russischer Streitkräfte genau in der geführten Form erforderlich (es ist tatsächlich das mildeste Mittel das denen zur Verfügung steht) und damit ethisch völlig legitim. Die Bilder sehen schlimm aus, klar. Das mus man aushalten können. Kaum aushaltbar sind (z.B.) die Folterkammern oder Angriffe mit ballistischen Raketen gegen Kindergärten und Supermärkte, wie sie russischer Kriegstaktik entsprechen.
Putins Idee vom Sieg ist es unbegrenzt lange unter Inkaufnahme hoher Verluste Schritt für Schritt, Meter um Meter, die Front weiter in ukrainisches Territorium zu verschieben. Seine latent dauerdepressiven und dadurch opferbereiten Völker, zahlenmäßig dem ukrainischen weit überlegen, folgen ihm bei diesem Ansinnen. Ist es nicht geradezu moralische Pflicht angesichts dessen jede geeignete Möglichkeit zu nutzen, eigene Verluste zu minimieren und gegnerische Verluste zu maximieren? Ich finde ja.
„Die grossen Modelle die wirklich autonom Krieg führen könnten sind auf enorme Rechenleistung angewiesen die nicht in kleine Drohnen passen, sprich Navigation in Echtzeit geht nicht…“
Bei den Preisen, die für Waffensysteme gezahlt werden, kann man auch auf FPGAs und spezielle DSPs setzen. Da sehe ich jetzt nicht so ein Problem mit mangelnder Rechenleistung. Einen Strom-Generator sollte man auch in jede größere Drohne unterbringen können.
Der Verlust der Kontrolle über das Humanitäre Völkerrecht und notwendige Regeln im Kriegsvölkerrecht werden m.M. zu recht von VN und IKRK angemahnt:
UN and Red Cross call for restrictions on autonomous weapon systems to protect humanity.
https://news.un.org/en/story/2023/10/1141922
@2BJK2107 Das kommt darauf an, wie du „zivilisiert“, „humanity“ definierst. Zitat: „Dass die Russen viele Verluste haben aufgrund ihrer offensiven Vorgehensweise, die sie sich bei Zapp Brannigan abgeschaut haben, ist davon unbenommen.“ Aber das ist noch nicht das schlimmste „Fleischangriff“…
Wir müssen uns verteidigen können sie „Fleischangriffe“ Ich denke, das ist es: https://www.twz.com/land/shipping-container-launcher-packing-126-kamikaze-drones-hits-the-market Regards.
Passend zum Thema:
Telepolis Artikel:
„Chinesische Rüstungshersteller drängen auf den Weltmarkt für Drohnen“ (30. Juni 2024 von Bernd Müller)
Ohne Link.
An der Verbindung von Drohnen und KI Steuerung arbeiten die Chinesen natürlich auch.
In dem Bericht der New York Times, wird auf Drohnen verwiesen die, von eine KI gesteuert werden.
Bei genauer Betrachtung muss das Ziel bei der Vyriy Drohne erst durch den Menschen erfasst werden, die Drohne verfolgt dann in einen zweiten Schritt automatisch das Ziel.
Ich bin in Besitz von zwei Kamers (Alpha 99II & 1) die das besagte Tracking seit Jahren können, ohne das eine KI genutzt wird.
Es anzunehmen das eine billig Video Kamera mit Tracking-System eingesetzt wird und es irgendwie ein Algorithmus zur Flug Steuerung in das Gerät geschafft hat.
Die teuerste Killerdrohne ohne Wirkmittel kostet ca. 800 US-Dollar und nicht wie gemutmaßt wurde mehrere tausend Euro.
https://www.vyriy.com/
Die weltweit erste Adaptive Loitering Munition Plattform konnte auf der ILA 2024, auf der Rückseite des Messestand der Ukraine bestaunt werden.
Dabei handelte es sich um Drohnen von Donaustahl mit den Namen Maus.
https://donaustahl.com/maus/
Der Grund Rahmen und der Greifer für die unterschiedlichsten Wirkmittel kommen aus den 3 D Drucker. Die Anbauteile wie Kamera, Motoren, Propeller und Steuerung entstammten den Ersatzteil Mark der Modell und Spielzeug Industrie.
Also lässt sich festhalten, die Ukraine ist kein Silicon Valley für Drohnen.