Claude Fable 5 nach 3 Tagen verboten — wegen der Bitte, Code zu reparieren
Die leistungsfähigste KI der Welt hielt drei Tage#
Am 9. Juni veröffentlichte Anthropic Claude Fable 5 und Mythos 5 — die leistungsfähigsten Modelle, die das Unternehmen je ausgeliefert hat, wobei die Frontier-Version geprüften Regierungspartnern vorbehalten war. Wir schrieben damals, dass das Einzige, was die beiden trennte, war, wer Sie sind.
Drei Tage später hörte diese Unterscheidung auf, eine Rolle zu spielen. Am 12. Juni erließ die US-Regierung eine Exportkontroll-Direktive, berief sich auf Befugnisse der nationalen Sicherheit und wies Anthropic an, jeglichen Zugang zu Fable 5 und Mythos 5 für alle ausländischen Staatsangehörigen zu sperren — innerhalb wie außerhalb des Landes, einschließlich Anthropics eigener Mitarbeiter mit ausländischer Staatsangehörigkeit. Die praktische Wirkung war total: Um der Direktive nachzukommen, musste Anthropic beide Modelle für jeden Kunden abschalten. Letzte Woche war die Frage, welche Version Sie bekommen würden. Diese Woche lautet die Antwort: keine.
Der Zugang zu allen anderen Anthropic-Modellen ist nicht betroffen. Nur die beiden leistungsfähigsten sind weg, ohne dass ein Enddatum genannt wurde.
Wogegen die Regierung tatsächlich Einspruch erhob#
Hier wird es seltsam. Laut Anthropics Stellungnahme traf die Direktive um 17:21 Uhr ET ein und enthielt keine konkreten Details zum nationalen Sicherheitsbedenken. Das Verständnis des Unternehmens, im Nachhinein zusammengesetzt, ist, dass die Regierung glaubt, jemand habe einen Weg gefunden, Fable 5 zu „jailbreaken" — die Sicherheits-Klassifikatoren zu umgehen, die normalerweise sensible Cyber- und Bio-Anfragen an das schwächere Modell Opus 4.8 umleiten.
Worin bestand also der Jailbreak? Laut Anthropic war der einzige vorgelegte Beleg mündlich, und er beschrieb eine Technik, die „im Wesentlichen darin besteht, das Modell zu bitten, eine bestimmte Codebasis zu lesen und etwaige Softwarefehler zu beheben."
Lesen Sie das noch einmal. Die Fähigkeit, die einen Rückruf aus Gründen der nationalen Sicherheit für ein Modell auslöste, das von Hunderte Millionen Menschen genutzt wird, ist die Bitte an eine KI, Fehler im Code zu finden und zu beheben. Das ist kein exotischer Exploit. Es ist das mit Abstand häufigste, wofür Entwickler Coding-Modelle nutzen, in jeder Stunde jedes Tages.
Anthropic prüfte eine Demonstration der Technik und stellte fest, dass sie „eine kleine Zahl zuvor bekannter, geringfügiger Schwachstellen" zutage förderte — Fehler, die bereits öffentlich waren und die laut dem Unternehmen auch andere frei verfügbare Modelle, darunter OpenAIs GPT-5.5, ganz ohne Jailbreak entdecken können. Mit anderen Worten: Das, was die Regierung als einzigartige Gefahr von Fable 5 behandelte, ist eine grundlegende Fähigkeit der gesamten Branche — und ein Werkzeug, auf das sich die Verteidiger verlassen, die reale Systeme täglich absichern.
Anthropics Schutzmechanismen waren nie die Schwachstelle#
Das ist der Teil, der den Rückruf inhaltlich schwer zu rechtfertigen macht. Nach allem, was bekannt ist, waren Fable 5s Schutzmechanismen die stärksten der Branche, nicht die schwächsten. Aus Anthropics Stellungnahme:
- Vor dem Launch wurden die Schutzmechanismen tausende Stunden lang red-teamt — von der US-Regierung selbst, dem UK AISI, mehreren Drittorganisationen und internen Teams.
- Diese Tests zeigten, dass die Schutzmechanismen „erheblich wirksamer waren als die jedes zuvor eingesetzten Modells."
- Kein Tester hat einen universellen Jailbreak gefunden — eine Methode, die die eingeschränkten Fähigkeiten des Modells umfassend freischaltet.
- Die Schutzmechanismen waren so konservativ eingestellt, dass Nutzer sich beklagt hatten, sie seien zu weit gefasst und fingen harmlose Anfragen ab.
Anthropic war zudem von Tag eins an offen darüber, dass perfekte Jailbreak-Resistenz für niemanden möglich ist. Jeder Schutzmechanismus der Branche ist anfällig für enge, nicht-universelle Jailbreaks, die unter bestimmten Umständen einige Informationen preisgeben. Das ist kein Fable-spezifischer Mangel; es ist der aktuelle Stand der Technik bei jedem Anbieter von Frontier-Modellen. Die erklärte Strategie des Unternehmens war Verteidigung in der Tiefe: Jailbreaks entweder eng oder kostspielig in der Herstellung zu machen und dies mit intensiver Überwachung zu kombinieren, um echte Angriffe schnell zu erkennen und zu unterbinden. Die verpflichtende 30-tägige Datenaufbewahrungsrichtlinie — die wir beim Launch der Modelle als Compliance-Kopfschmerz markiert hatten — existiert genau deshalb, damit Anthropic Jailbreaks erforschen und abwehren kann, sobald sie auftauchen.
Entscheidend ist: Anthropic sagt, es habe keine einzige Meldung über einen nicht-universellen Jailbreak erhalten, der ein wirklich schädliches Ergebnis erzeugt hätte. Alles, was bisher zutage trat, war entweder gutartige Ausgabe oder geringfügige Funde ohne jeglichen „Mythos-spezifischen Vorsprung" — nichts, was das Modell preisgab, das man nicht anderswo bekommen könnte.
Warum Sie das beunruhigen sollte, selbst wenn Sie Fable 5 nie angefasst haben#
Es ist verlockend, das als Geschichte über ein Unternehmen und zwei Modelle abzulegen. Ist es aber nicht. Der Präzedenzfall ist die Geschichte.
Wenn der Maßstab für den Rückruf eines kommerziell eingesetzten Frontier-Modells lautet „jemand hat eine enge Technik demonstriert, die bereits öffentliche Fehler zutage fördert", dann würde dieser Maßstab, gleichmäßig angewendet, das Zurückziehen jedes größeren Modells auf dem Markt rechtfertigen — einschließlich derer, die genau jetzt noch laufen. Anthropic bringt genau diesen Punkt vor: Eine solche Regel „würde im Grunde alle neuen Modell-Bereitstellungen für alle Anbieter von Frontier-Modellen zum Stillstand bringen."
Anthropic bekämpft nicht die Befugnis der Regierung, unsichere Bereitstellungen zu blockieren. Es unterstützt diese ausdrücklich — als Teil eines gesetzlichen Verfahrens, das „transparent, fair, klar und in technischen Fakten verankert" ist. Sein Einspruch lautet, dass eine mündliche, detaillose Direktive auf Basis einer Bug-Fixing-Demo keinen dieser Maßstäbe erfüllt. Wenn der Notausschalter für die leistungsfähigsten Modelle des Landes ohne eine schriftliche technische Begründung gezogen werden kann, geht es nicht mehr um Anthropic, sondern darum, wer entscheidet, was läuft — und auf welcher Beweisgrundlage.
Für alle, die auf Frontier-APIs aufbauen, steckt hier auch eine konkrete Lektion: Modellverfügbarkeit ist jetzt eine geopolitische Variable. Ein Modell, von dem Ihr Produkt abhängt, kann an einem Nachmittag verschwinden, aus Gründen, die man Ihnen nie nennen wird, und Nutzer je nach ihrer Staatsangehörigkeit betreffen. Wenn Ihre Roadmap davon ausgeht, dass ein bestimmtes Frontier-Modell einfach weiter existieren wird, ist diese Woche die Erinnerung daran, für den Tag zu planen, an dem es das nicht mehr tut — was genau das Kalkül hinter dem Betrieb von Modellen ist, die Sie tatsächlich kontrollieren.
Wie es von hier aus weitergeht#
Anthropic sagt, es komme der Direktive nach, während es ihr widerspricht, bezeichnet die ganze Sache als „Missverständnis" und arbeitet daran, den Zugang so schnell wie möglich wiederherzustellen. Es versprach weitere technische Details innerhalb von 24 Stunden. Ob die Regierung dies zurücknimmt, formalisiert oder eskaliert, wird uns viel darüber verraten, wie KI-Regulierung tatsächlich funktioniert, wenn die Kameras laufen — nicht in einem Anhörungssaal, sondern in einem Schreiben um 17:21 Uhr ohne jede Konkretion.
Im Moment waren die leistungsfähigsten Modelle der Welt 72 Stunden lang live, und der offizielle Grund, warum sie weg sind, ist, dass jemand eines von ihnen gebeten hat, etwas Code zu reparieren.
Was das für Ihren KI-Stack bedeutet#
Wenn eine einzige Direktive ein Frontier-Modell über Nacht abschalten kann — für alle, ohne Vorwarnung — dann ist „welches Modell ist diese Woche das beste" die falsche Frage, um darauf ein Geschäft aufzubauen. Die richtige lautet: Was passiert mit unserem Produkt, wenn unser Modell verschwindet, gedrosselt oder nach Staatsangehörigkeit eingeschränkt wird?
Diese Resilienz ist Ingenieursarbeit, und genau das tun wir bei Silverthread Labs. Wir bauen maßgeschneiderte KI-Lösungen und agentische Systeme, die so konzipiert sind, dass sie modellportabel sind, statt an die Verfügbarkeit eines einzigen Anbieters gebunden zu sein — und wir helfen Teams, selbst gehostete Optionen für die Workloads abzuwägen, die sie sich nicht leisten können zu verlieren. Wenn Ihr Stack einen Single Point of Failure hat, der nach dem Modell eines anderen benannt ist, lassen Sie uns sprechen, bevor die nächste Direktive eintrifft.
Die vollständige Stellungnahme finden Sie auf Anthropics Website.
