Lesestoff: Ein Programm sie zu knechten, sie alle zu finden…
Während wir im Hinblick auf Konflikte nach wie vor viel zu viel auf die schimmernde Wehr, also die Hardware, starren, zeichnet sich die wichtigste Front ganz woanders ab. Die US-Firma Anthropic hat eine Künstliche Intelligenz entwickelt, die vor allem eines können soll: Schwachstellen in anderer Software finden. Und die Kontrolle über diese KI hat (fast) niemand außerhalb der USA. Lesestoff von der New York Times:
Within two weeks, the model, called Mythos, had set off a global scramble unlike anything yet seen in the A.I. era. Mythos, which Anthropic has said is uncannily capable of finding and exploiting hidden flaws in the software that runs the world’s banks, power grids and governments, had become a geopolitical chip — and a U.S. company held it.
World leaders have struggled to figure out the scale of the security risks and how to fix them, with Anthropic sharing Mythos with only Britain outside the United States. … Canada’s finance minister compared the threat to the closure of the Strait of Hormuz.
Die komplette Geschichte (als Gift Article) zum Nachlesen hier:
Der Satz „Und die Kontrolle über diese KI hat (fast) niemand außerhalb der USA.“ sollte mit Vorsicht genossen werden. Die ersten Meldungen das Dritte außerhalb des offiziellen Kreises Zugriff haben wollen gibt es schon. Frage wäre wie gut Anthropic wirklich unter Kontrolle hat wer da rankommt.
Und die nächste Frage wäre, nur weil Anthropic jetzt mit seinem KI-Modell entsprechend auf die Pauke hat, ist das ja keine Garantie das nicht andere über ähnlich leistungsfähige Modelle verfügen. Nur eben schweigen.
Zumal man nicht vergessen darf, Anthropic wollte seine anderen Modelle nicht uneingeschränkt der Regierung zur Verfügung stellen und wurde dafür zum Risiko für die nationale Lieferkette erklärt. Womit keiner der Regierungsaufträge haben will Anthropic zu seinen Lieferanten zählen darf.
Praktisch wenn man dann über so ein Alleinstellungsmerkmal verfügt m
Wird im Pentesting schon angeboten, z. B. hier: https://de.aikido.dev/blog/ai-penetration-testing
So schnell wird da kein Codeknacker Angst um seinen Arbeitsplatz haben müssen. Der KI-Zirkus läuft seit vier Jahren ohne profitables Geschäftsmodell und hat soviel Geld verbrannt, ohne jede realistische Chance auf Amortisation, dass nun irgendwie die Rettungsaktion kommen muss. Da der Zirkus und die Clown-KI wie erwähnt volkswirtschaftlich nutzlos ist und bleibt, funktioniert das nicht wie gewohnt via „too big to fail“-Rettungsargumentation, sondern muss durch die Hintertür der Verteidigungshaushalte erfolgen. Isael und ide USA liefern da aktuell das Bombenmarketing ab, mit fantastisch großen Zahlen (Drölftausend Ziele erwischt, hört her!), natürlich ohne jede qualitative Bewertung (GEHEIM!!11!). Wirtschaftlichkeit spielt im Verteidigungshaushalt ja bekanntlich keine Rolle, genauso wenig wie messbarer Nutzen, denn der ist geheim und wird nach need-to-know-Prinzip nur denen mitgeteilt, die garantiert nichts davon verstehen. Die KI-Buden sind, obwohl sie hunderte Milliarden pro Monat verbrennen, so pleite, dass die sich nicht mal eine Werbeagentur leisten können. Sonst kämen die mit was einfallsreicherem um die Ecke als „der Name ist Programm“: Claude klaut deinen und fremden Code, ChatGPT macht den Faulen zum geschwätzigen Blender, und Mythos…naja. Mittlerweile sind die postdemokratischen Techbros so dreist, dass sie die Schrottigkeit ihres Schrotts als Mehrwert des nächsten Schrotts verkaufen.
„finding and exploiting hidden flaws in the software that runs the world’s banks, power grids and governments“ Windows ist Mist und wenn mal einer auf den Quellcode guckt fällt das direkt auf? Nein! Doch! Oohh!
(－‸ლ)
Ich bin in dieser Hinsicht tatsächlich nicht besonders besorgt. Die PRGeschichte zu dem Release war extremst gedoctort und gestellt. Die KI hat einen einzelnen nicht-exploitable Bug gefunden, wow. Wir hatten vor 16 Jahren schon Stuxnet, also dass es extrem kompetente Cyberwarfaregruppen gibt war längst etabliert. Bisher scheint mir das nach allen Informationen die ich gesehen habe mehr aktuell klassischer KIHype als tatsächliche Substanz zu sein.
Die Mythos sourcen sind geleaked und die Angriffe haben bereits begonnen: https://www.techradar.com/pro/security/mythos-accessed-by-unauthorized-users-as-anthropic-says-were-investigating-cracks-may-be-showing-in-project-glasswing-as-unknown-users-access-model-via-third-parties
Durch den leak können nun weitere Parteien das multilayer der Modells kopieren/imitieren/refactorn. Bedeutet ein nukleares KI – Wettrennen hat begonnen. Natürlich sammelt man erstmal Schwachstellen. Je mehr Chips und Rechenzentren jemand hat, desto schneller kann man sammeln.
Wir können nur hoffen dass das kleinere Übel eintritt und die Sammlung an Schwachstellen, auf Basis derer sich Mythos weiterentwickelt, geleaked wird. Ja böse aber dann kann man die KRITIS Software zu härten beginnen.
Alternative, man zahlt viel Geld sich von Mythos analysieren zu lassen.
Wer hat das nochmal geleaked? Ein Schelm wer Böses denkt…
Es wird Schaden geben, aber wieviel?
„die vor allem eines können soll: Schwachstellen in anderer Software finden“
Eigentlich wurde das Modell laut Antrophic fürs Coding optimiert. Dass so ein Modell dann auch gut ist, um Schwachstellen zu finden, ist ein Nebeneffekt. Antrophic wird ja dieses Jahr so 20+ Milliarden Umsatz machen. Schwerpunkt der Kundschaft dürften Softwareentwickler sein und Leute, die Agenten (OpenClaw usw.) bauen.
„Die Mythos sourcen sind geleaked “
Da liegt ein Missverständnis vor. Ein LLM ist ein neuronales Netz. Das besteht im Kern nicht aus Programmiercode sondern aus Modellgewichten. Deswegen hat der erwähnte Zugriff von Dritten
wenig Bedeutung. Das Modellgewichte von Mythos dürfte einen Umfang einer zweistelligen Zahl vor Terrabyte haben.
„Durch den leak können nun weitere Parteien das multilayer der Modells kopieren/imitieren/refactorn“
Auch bei Open-Weight-Modelle (oft als OpenSource bezeichnet), bei denen ja die Modellgewichte „frei“ verfügbar sind (z.b. Gemma 4 oder Qwen 3.6), kann man nicht einfach das Know-How „kopieren/imitieren/refactorn“.
@JOH: Leak und Zugriff waren jeweils verschiedene Vorfälle.
Aber zum Punkt, da Sie meinen Verweis auf die Kappa/Compute interessierter Stellen gefflissentlcih ignorieren. Sie stellen also die These auf, ein LLM/“KI“ sei quasi als gesitiges Eigentum unteilbar und damit vor „“Diebstahl“ oder „Spionage“ inherrent geschützt?
„Leak und Zugriff waren jeweils verschiedene Vorfälle. “
Ah, jetzt verstehe ich. Sie meinen den Claude Code Leak vor ein paar Wochen. Das ist aber schon wieder eine andere Baustellen und da ging „nur “ um“ Frontendcode in einem npm-Archiv. Vielleicht dumm gelaufen, aber nicht wirklich tragisch.
„Kappa“
Was meinen Sie Damit? Ich kenn jetzt Cohen’s Kappa im Zusammenhang mit LLM. Aber das meinen sie vermutlich nicht.
„sei quasi als gesitiges Eigentum unteilbar und damit vor „“Diebstahl“ oder „Spionage“ inherrent geschützt?“
Man braucht schon das komplette Modell. Dann kann man es ausführen, feintunen oder einen LORA-Adapter dran basteln usw. Die Frameworks wie Tensorflow sind ja offen und werden von allen benutzt. Selbst wenn man die ungefähre Architektur von Mythos kennen würde, könnte man es nicht einfach nachbauen.
Davon abgesehen sind Chinesen ja selber sehr forschungsstark in dem Bereich und inzwischen hat man sich an die wissenschahtlichen Paper mit den vielen Chinesischen Namen gewöhnt. Die Chinesen werden ihren eigenes Ding durchziehen. Heute ist ja die neue Deepseek Version erschienen und wird als CUDA-frei (= ohne Abhängigkeit zu Nvidia) beworben. Huawai liefert ja bereits seinen eigenen „KI-Chip“ in China aus.
@Flo
„Zumal man nicht vergessen darf, Anthropic wollte seine anderen Modelle nicht uneingeschränkt der Regierung zur Verfügung stellen und wurde dafür zum Risiko für die nationale Lieferkette erklärt. “
Ich würde mal behaupten, dass steht klar in einem Zusammenhang zu Mythic, denn es ist vom Prinzip nichts Neues (und @12345ABCDE es ist gewiss mehr als nur heiße Luft), aber das Prinzip ihr leistungsstärkstes Modell, uneingeschränkt auf Codebases loszulassen, um Lücken zu finden, dass konnten sie auch vorher schon und haben sie zu Testzwecken auch gemacht. Dass sie es jetzt gezielt gemacht haben (und dabei übrigens SEHR VIEL Rechenleistung eingesetzt haben) wirkt schon sehr strategisch.
Mit diesem Stunt jetzt haben sie Trump und co. klar gemacht, dass es sehr Unklug wäre, Antrophic aus dem Sicherheitsbereich und allen Regierungsjobs (und vor allem aus allen Firmen, die für die Verwaltung arbeiten) verbannen zu wollen oder weiter zu belästigen.
Und nun, ist auch Dumm.
Generell würde ich auch jedem empfehlen, der behauptet das ist alles nur heiße Luft, mal die 22€ für einen Monat Claude Pro zu bezahlen und auf eine unbekannte oder bekannte Codebasis anzusetzen.
Ich finde die Ergebnisse jedenfalls sehr beeindruckend und ich kann mir ohne jeden Zweifel vorstellen, dass man damit wunderbar Schwachstellen finden und ausnutzen kann, nur eben dass wird tatsächlich bewusst sehr eingeschränkt. (Es geht aber trotzdem)
@AoR
Dass der Sourcecode von Claude Code geleakt wurde, hat tatsächlich wenig Bedeutung.
Die eigentliche Magie, passiert auf deren Server.
Und da scheint Antrophic gerade die Nase vorn zu haben, aber der Abstand ist gar nicht so gross. In 2 Jahren können das alles auch die offenen Modelle. Kurz gesagt, man sollte die Entwicklung nicht als Hype belächeln. Es mag Investitionsblasen geben, aber die neue Technologie ist eine echte Revolution. Und ich sag das als jemand, der sehr KI Skeptisch war.
Gibt es einen Nachweis, dass dieses Modell einen einzigen Zero-Day-Exploit entworfen hat? Wenn es das nicht kann, und nach allem was ich lese, kann es das nicht, dann ist es heiße Luft. Sehr, sehr teure heiße Luft, für die der Zirkus neue Zahlmeister braucht.
@12345ABCDE
Reicht ihnen das Statement von den Ingenieuren von Firefox?
https://blog.mozilla.org/en/privacy-security/ai-security-zero-day-vulnerabilities/
Wenn nicht, vielleicht mal selber googeln.
@lukan
Nein, das reicht nicht. Dort wird nirgends auf einen Zero-Day eingegangen, außer in der Überschrift. Ich denke die Debatte ist ab diesem Punkt nicht mehr zielführend. Schönes Wochenende.
@12345ABCDE
Ja, zielführend ist das wirklich nicht, wenn sie erwarten dass ihnen die Entwickler von Firefox erklären, wie sie aktuell Sicherheitslücken in Firefox ausnutzen können.
Die schreiben Schwarz auf Weiß, dass sie seit Wochen alle Hände voll zu tun haben, kritische Lücken zu schließen, die ihnen unter anderem Mythic gefunden hat. Klarer geht es nicht.
Es steht jedem frei, ein Modell zu trainieren. Das muss man halt wollen und die Computing Power dafür bereitstellen. Das KnowHow dafür ist frei, das haben wir in Europa auch. Aber keine Anreize, hier etwas Neues zu wagen. In USA wird erst entwickelt, dann vorsichtig reguliert. Hier wird erst mal hart reguliert, dann hat keiner mehr Lust auf Entwicklung. Klar hat der EU Ansatz kurzfristig Vorteile für den Bürger, abet langfristig eben auch den Nachteil ausbleibender Innovation. Man kann eben nicht alles haben.
Man sollte nicht Funktion und Nutzen einer Technologie danach bewerten, ob die Entwicklung von einem profitablen Geschäftsmodell getragen wird. Da wird zukünftig gewiß einige Marktkorrekturen geben, vielleicht wie bei der Dotcom Bubble. Aber Deutschland muß in drei wichtigen Bereichen wieder Anschluss an die Weltspitze finden: Rüstung, IT, Energie. Es sollte deshalb ein staatseigener Konzern geschaffen werden, eine Holding ähnlich Brookfield Corp aus Kanada oder Black Rock , insbesondere, was die Marktkapitalisierung betrifft. Diese Holding bündelt Assetmanagement, operatives Geschäft in eigenen Rüstungs-, IT- und Energieunternehmen sowie weitere Unternehmensbeteiligungen. Letztlich ein Technologiekonzern in Staatsbesitz und von Anfang an ein internationaler Big Player. Es sind ja nicht nur die USA, die uns meilenweit voraus sind.
@Der Uhrm
Ganz so schlimm ist es auch nicht. Es passiert schon was, auch in Europa. Insbesondere haben wir gute Universitäten und KI ist weit mehr als frontier Modelle trainieren. Die Ganze Pipeline muss beherrscht werden – und man muss etwas mit dem Ergebnis anfangen können. Aber ja, der Fokus darauf erstmal alles zu reglementieren, der hilft nicht. (Und es formiert sich auch gerade so etwas wie eine Anti KI Bewegung)
Ob ein Staatskonzern aber etwas verbessern kann, da wäre ich eher Skeptisch. Meine erste Assoziation wäre hier auch eher, wie als die Privaten Fernsehsender geklagt hatten, dass das Angebot der öffentlich Rechtlichen unfair ist und nach dem Urteil als Folge die mit öffentlichem Geld produzierten Serien und Filme nur 1 Woche in der Mediathek angeschaut werden können. Sowas würde ich auch bei einem Staatskonzern erwarten, der den Platzhirschen im Energie, IT und Rüstungssektor Konkurrenz machen würde. Die würden ganz schnell Lobbyarbeit machen, um es zu verhindern/pervertieren und allsbald klagen. Und auch wenn das alles weitgehend Störungsfrei durchgeht, wäre es immer noch ein Staatskonzern in Deutschland. Der kann keine dynamische Startup Kultur haben.
Es wäre praktisch wohl vor allem ein sehr tiefes Loch wo erstmal sehr viel Geld hineingeschüttet werden müsste.
Für Kontext: die Spitzengehälter für Forscher bei Antrophic, Meta, Google, OpenAI und co. liegen übrigens bei über 1 mio Dollar Jahresgehalt.
Wenn man das nicht zahlen kann oder will, muss man einiges anderes bieten können.
Laufen Sie weiter, es gibt nichts zu sehen! Kein LLM das im Auftrag dem Entspricht was man im militärischen als „Spionage- und Aufklärung“ bezeichnet wird. Die Tatsache, dass sich irgendwelche Parteien (unbekannt) über dessen Innenleben hermachen. Hauptsache Buzzword- und das andere BBIngo. Man sieht sich an dem Tag an welchem gesammelt die CSO der für KRITIS verantwortlichen Organisationen in trauter Einigkeit den Kopf in die Arme absenken: „Ich hab doch n riesen Budget in Pentests gesteckt!“
P.S: Spätestens seit „Cyber- und InformationsRAUM“ sollte deutlcih sein, es geht um Kontrolle in einem Raum unter anwendeung der strategischen Menthalität…
KI, oder besser: Algorithmen werden auch im Bereich Cybersicherheit sicherlich kommen. Denn eine KI ist immer wach, schläft nicht und kann Muster jedenfalls dann gut aus riesigen Datenmengen filtern und erkennen, wenn sie ordentlich programmiert wurde, leistungsstark ist und den Durchsatz nicht nennenswert verlangsamt.
Zugleich könnte auch eine offensiv eingesetzte KI relativ autonom Eindringmöglichkeiten in Systeme austesten, teilweise auch über Rechner von unschuldigen und nichtsahnenden Dritten. Selbst social engineering von menschlichen Nutzern dürfte schon im Bereich des Möglichen sein.
Derzeit kann natürlich von KI noch keine Rede sein, es sind de facto hoch entwickelte Algorithmen und ggf. neuronale Netzwerke, die noch sämtlich von Menschen beaufsichtigt und eingesetzt werden. Aber die Entwicklung geht weiter.
Hier gilt noch viel stärker als bei Robotern auf dem Schlachtfeld: Wehe, wenn eine KI in der Lage sein sollte, den Aus-Knopf zu entfernen und systemunabhängig zu werden. Dann wird eine Art von Butlers Dschihad draus.
Wie es um IT in deutscher Politik und Nachrichtendiensten bestellt ist, sieht man ja daran, daß Spitzenpolitiker und der ehemalige Chef des BND (!) einfach mal auf primitivstes Phishing reinfallen.
Aber wie schon bei dem abgehörten Gespräch der Luftwaffenoffiziere in Singapur haben Führungskräfte in diesem Land die Einstellung, daß IT-Sicherheit etwas ist, womit man Untergebene und Geringverdiener piesacken kann, aber sie selbst sind viel zu wichtig dafür
Um etwas Substanz hier hinzuzufügen.
https://www.mozilla.org/en-US/security/advisories/mfsa2026-30/
Anzahl der CVE die auf Anthropic’s Mythos als Reporter verweisen: 0 (Null)
Anzahl der CVE die auf Anthropic’s Claude (und 7!!! weitere Personen) als Reporter verweisen : 3 (Drei)
Confirmed Vulnerability Rate: 1,1%
Das heißt nicht dass die Clown-KI gar keine Resultate bringt oder sich nicht in den letzten Jahren weiterentwickelt hätte (siehe dazu hier https://daniel.haxx.se/blog/2026/04/22/high-quality-chaos/). Es zeigt bloß, wie übertrieben die Leistungsmerkmale durch die KI-Buden und klickhungrige Medien dargestellt werden.
Die Diskrepanz zwischen Behauptung und Wirkung, die man am Beispiel Firefox 150 sieht, bestätigt die Bewertung von Davi Ottenheimer (https://www.flyingpenguin.com/the-boy-that-cried-mythos-verification-is-collapsing-trust-in-anthropic/) vom 13.04.2026.
Zitat Anfang:
„The press keeps saying this like we are supposed to act surprised: “Thousands of zero-day vulnerabilities in every major operating system and every major web browser.”
Yeah, that sounds like a Tuesday to me. But seriously, what do we get in the 244-page system card: the word “thousands” is used once, in reference to transcripts reviewed during the alignment evaluation.
Once in 244 pages. Think about that.
It is never used to describe vulnerabilities. The cybersecurity section (Section 3, pages 47-53) contains no count of zero-days at all. With no CVE list, no CVSS distribution, no severity bucket, no disclosure timeline, no vendor-confirmed-novel table, no false-positive rate, why are you teasing us with the claims about vulnerabilities at all?
Zitat Ende.
Hinsichtlich der Nutzung zu militärischen Zwecken bleibt festzustellen, dass es immer noch gar keine Hinweise gibt oder ich kenne sie jedenfalls nicht, dass irgendein Modell dazu in der Lage wäre komplexe Exploits zu entwerfen. D.h. ohne fähige Codeknacker wird daraus keine Fähigkeit.
Vor diesem Hintergrund ist eine wirtschaftliche Betrachtung des Nutzens dieser (sehr wahrscheinlich lizenzplichtigen) Technologie zwingend. Ob es klug ist, die Sicherheit kritischer und militärischer Systeme noch stärker von der Zuverlässigkeit US-amerikanischer Softwareunternehmen abhängig zu machen, sollte ebenfalls hinterfragt werden.
@ 12345ABCDE 28.04.2026 um 11:41 Uhr
> Es zeigt bloß, wie übertrieben die Leistungsmerkmale durch die KI-Buden und klickhungrige Medien dargestellt werden.
Na ja, die „KI-Buden“ lassen ja auch ihre Pressemitteilungen von einer KI schreiben. Das nennt man dann AI-slope.
AIs sind großartig. Man muss nur die AI fragen. :)
Das Memo zum DoD-Geld verbrennen für den KI-Zirkus hat direkt mein Bullshitmeter durchgebrannt. Was für eine Orgie!
https://www.war.gov/News/Releases/Release/Article/4475177/classified-networks-ai-agreements/
Ich wollte da zuerst die größten Brüller von zitieren aber das geht Satz für Satz so weiter. Deswegen nur der letzte Satz.
„As mandated by President Trump and Secretary Hegseth, the Department will continue to envelop our warfighters with advanced AI to meet the unprecedented emerging threats of tomorrow and to strengthen our Arsenal of Freedom.“
Eine andere KI-Bude, die irgendein Modell nutzt aber bestimmt kein eigenes entworfen hat (dafür reichen die 100 Mio. nicht, soll nun auch irgendwas mit Seeminen machen.
https://www.reuters.com/world/middle-east/us-navy-turns-ai-firm-domino-options-counter-iranian-mines-2026-05-01/
„“Mine-hunting used to be a job for ships,“ Thomas Robinson, Domino’s chief operating officer, said in an interview with Reuters. „It’s becoming a job for AI. The Navy is paying for the platform that lets it train, govern, and field that AI at a speed required for contested waters that block global trade and imperil sailors.““
Was auch immer das heißen soll. Vielleicht eine Art Minen-Captcha oder so? Jedenfalls soll es alles ganz schnell gehen.