Merkposten: Fast Krieg wg. falschem Bericht mit Künstlicher Intelligenz
Als Merkposten fürs Wochenende: Die US-Streitkräfte hätten beinahe, so berichtet der US-Sender CNN, ein chinesisches Schiff angegriffen – weil ein Bericht mit fehlerhafter Künstlicher Intelligenz nahelegte, dass verbotenes Nuklearmaterial an Bord wäre. Die Informationen stellten sich gerade noch rechtzeitig als falsch heraus, ehe es zu einer Auseinandersetzung zwischen den Supermächten kam. Vermutlich völlig unabhängig von der Meldung hat US-Präsident Donald Trump dem Sender den Zugang zum Weißen Haus gesperrt.
Aus dem CNN-Bericht vom (heutigen) Freitagabend:
US military had close call after using AI for false intelligence report, sources say
The intelligence report, circulated across the US military this spring in the midst of the war with Iran, immediately set off alarm bells: A Chinese ship in the Middle East was transporting components of a nuclear weapons program. The US military swung into action with plans to intercept the vessel, according to four sources familiar with the episode. (…)
It was only just before the planned operation that officials dug deeper into the report put together by a special operations command analyst and found it had been generated with the help of artificial intelligence (AI) — and that a chatbot the analyst had used inaccurately identified the material the ship was carrying. (…)
The report, according to one of the sources, was “entirely false.” But it also “almost started a war,” the source said.
Möglicherweise nicht der einzige Fall dieser Art – warten wir mal ab, ob als Folge dieses Berichts noch mehr solcher Vorfälle bekannt werden.
Nach dem Bericht sperrte der US-Präsident mehreren Medien, darunter CNN, den Zugang zum Weißen Haus. Ob der aktuelle Bericht dabei eine Rolle spielte, ist unklar.
Aus der Meldung von Reuters:
President Donald Trump said on Friday he was banning three major news outlets — CNN, MS NOW and Politico — from the White House, in his latest move to crack down on the independent press.
He wrote that he was banning the outlets for allegedly „reporting FAKE NEWS“ in a move that is likely to be challenged as conflicting with the US Constitution’s First Amendment guarantees of free speech and a free press.
Ok… das ist übel 🙈
und beweist dass „Human in the Loop“ sehr wichtig ist!!
Hoffen wir mal dass man daraus gelernt hat… auf beiden Seiten
„und beweist dass „Human in the Loop“ sehr wichtig ist!!“
Da war aber ein „human in the loop“ und der hat einfach nur blind kopiert, was ihm sein KI Tool präsentiert hat – und andere haben dann wiederum diesem Bericht blind geglaubt und militärische Vorbereitungen getroffen, bevor mal jemand nachgeprüft hat, wieso da Nukleares Material sein soll.
Wir lernen: Einfach nur ein Mensch, der blind auf Knöpfe drückt reicht nicht aus. Wussten wir eigentlich auch schon vorher, aber jetzt weiß es die KI Gefahren blinde US Regierung vielleicht auch besser (Trump meinte ja letztens KI Gefahren sind egal, es geht darum China zu schlagen).
@lukan
Absolut richtig. Der human in the loop soll von einer Sekunde auf die andere übernehmen und um Zweifel massenhaft Daten, die vorher Großrechner verarbeitet haben, überblicken und korrekt interpretieren?
Im Wettrennen um Millisekunden ist die traurige Realität wahrscheinlich eher on the loop oder Zuschauer
Wie man einer KI überhaupt eine Bewertung/ Beurteilung überlassen kann – insbesondere final – erschließt sich mir nicht. Immerhin gilt für die Bewertung einer Information ja das Schema bzgl. der Einordnung:
– Zuverlässigkeit der Quelle: A bis F
– Glaubwürdigkeit: 1 bis 6
Die Glaubwürdigkeit kann der Analyst noch einschätzen, allerdings auch nur, wenn er außer der KI noch andere Quellen benutzt, denn es ist jetzt bekannt, daß KI auch Quellen einfach erfindet.
Da hat sich der Analyst wohl einen schlanken Fuß gemacht.
https://de.wikipedia.org/wiki/Nuklear-Fehlalarm_von_1983
Da gibt es einen Präzedenzfall…
Erinnert mich an den berühmten Zwischenfall der beinahe einen Nuklearkrieg zw. Der UDSSR und der USA ausgelöst hat.
@Skeptiker man kann der KI sagen: „Nenne mir die Quelle dieser und jener Deiner Aussagen!“ und die checkt man dann. Bei brisanten oder unglaublichen KI Aussagen eigentlich Standard in der normalen Wirtschaft.
Ich bin jedenfalls froh, dass wir derzeit gewaltig aufrüsten.
Denn in wenigen Jahren werden wir diese KI-Rechenzentren in Schutt und Asche bombardieren müssen, wenn wir als Menschheit noch überleben wollen.
KI hat im Einsatz des US-Militärs sehr wahrscheinlich bereits für hohe Kollateralschäden gesorgt. Der fatale Angriff auf eine iranische Schule (über 150 Tote, weitgehend Kinder) soll auf Basis der Zielauswahl durch KI stattgefunden haben. Diese schrumpfte die Zeit zur Zielauswahl drastisch ein, was wohl eine sorgfältige Prüfung ausschloß – ein Militärgelände lag nebenan, auf Satellitenbildern waren im Bereich der Schule aber auch bemalte Wände und Spielfelder auf dem Boden zu erkennen …
Der Fehler des Analysten scheint ja in etwa im gleichen Zeitraum geschehen zu sein. Ob mittlerweile daraus gelernt wurde …?
Wobei „intercept“ viel bedeuten kann. Kann ja auch Entern und Festsetzen per Hubschrauber bedeuten. Hätte sicherlich die Beziehungen zw. USA und China weiter belastet, aber wäre nicht das Ende der Welt gewesen.
@someone, ja einen sofortigen Angriff mit Nuklearwaffen hätte es sicher nicht als Antwort der Chinesen gegeben.
Aber etwas Zurückhaltung der Chinesen beim Kauf von US Staatsanleihen, dazu ein paar Beschränkungen beim Export von bestimmten Gütern und die Weltwirtschaft hätte es ordentlich durchgeschüttelt.
@someone
Ja, es wurde das gewaltsame entern vorbereitet, nicht das versenken. Chinesische Schiffe sind aber auch oft bewaffnet und wenn sie die Anweisung gehabt hätten sich nicht widerstandslos emtern zu lassen, dann hätte das schon einer größere Eskalation nach sich ziehen können. Sicher keinen Atomkrieg, aber ein weiterer Schritt dahin. Und wenn die Lage in Zukunft noch angespannter ist, dann reicht vlt schon so ein falscher KI Bericht, dass es wirklich knallt.
@Pham Nuwen 19.09.2026 um 21:54 Uhr:
Wobei auch da der „man in the loop“ Warnungen übersteuert hat. Einem Bericht der CNN zufolge haben hochrangige US-Kommandeure Warnungen vor veralteten Geheimdienstinformationen ignoriert.
Quelle: z.B. merkur „Bericht: USA ignorierten Warnungen vor veralteten Geheimdienstinformationen“
Wenn es nicht wieder eine Lügengeschichte ist,wie seinerzeit die Massenvernichtungswaffen im Irak. Da gab es noch keine KI, aber sehr wohl ganz massive Interessen bestimmter ganz menschlicher Gruppen.