Anthropic warnt vor Selbstbeschleunigung der KI

Donnerstagnachmittag, Vertrieb. Die KI-gestützte Angebotsprüfung liefert seit zwei Tagen Ergebnisse, die so niemand kennt. Umgestellt hat im Haus niemand etwas. Im Changelog des Anbieters steht eine Zeile zu einem Modell-Update, gelesen hat sie keiner. Das ist der praktische Kern der Meldung, über die gerade diskutiert wird: Über Ihr Risiko entscheidet nicht die selbstlernende Maschine, sondern die Frage, ob Ihre Leute schneller prüfen können, als sich das Modell verändert.

Was Anthropic in den Börsenprospekt geschrieben hat

Anthropic schreibt in der überarbeiteten Fassung seines Börsenprospekts, KI könne die Entwicklung neuer KI-Modelle bald erheblich beschleunigen. Das Unternehmen nennt das rekursive Selbstverbesserung (Meldung vom 03.11.2026⁠¹). Keines der aktuellen Anthropic-Modelle ist bislang in diese Kategorie eingestuft worden⁠¹. Es geht um eine Schwelle, nicht um einen eingetretenen Zustand.

Dass dieser Text wenige Wochen vor einem Börsengang erscheint, gehört zur Einordnung. Risikokapitel in Prospekten sind juristische Absicherung und Verkaufstext in einem. Wer schreibt, seine Technologie könne außer Kontrolle geraten, verkauft damit auch deren Bedeutung. Das entwertet die Aussage nicht, es nimmt ihr die Dramatik. Die technische Kernaussage bleibt in beiden Lesarten dieselbe: Die Taktrate der Modellentwicklung steigt.

Das Problem sitzt nicht im Modell, sondern in Ihrem Abnahmeprozess

Die meisten Unternehmen behandeln ein KI-Modell wie eine Programmbibliothek: einmal getestet, dann vergessen. Getestet wurde im Frühjahr, von zwei Leuten, mit Beispielen, die niemand aufgeschrieben hat. Bei Software, die sich nur ändert, wenn jemand sie ändert, geht das gut. Ein KI-Modell über die Schnittstelle eines Anbieters verhält sich dagegen eher wie ein wechselnder Lieferant als wie eine installierte Komponente.

Daraus entsteht ein blinder Fleck. Verändert sich das Verhalten, merkt es zuerst der Kunde oder die Buchhaltung, nicht die IT, weil kein festgehaltener Vorher-Zustand existiert, gegen den sich vergleichen ließe. Anthropic hat bereits im Juni gewarnt, dass KI künftig schneller Code schreiben könnte, als Menschen ihn prüfen können⁠¹. Dieselbe Mechanik greift eine Etage tiefer: in der Rechnungsprüfung, bei Stammdaten, in Serviceantworten. Prüfkapazität ist dabei keine Haltung, sondern eine Rechnung: Minuten pro Vorgang mal Vorgänge pro Tag mal Anzahl der Prüfenden. Wer sie nicht aufgemacht hat, kann nicht beurteilen, ob mehr KI-Output entlastet oder nur eine Warteschlange vor dem Menschen erzeugt.

Wenn der Hersteller eigene Sprünge erst hinterher bemerkt

Der wichtigste Satz der Meldung steht im Nebensatz: Anthropic räumt im überarbeiteten Börsenprospekt ein, erhebliche Beschleunigungen in der Vergangenheit erst nachträglich erkannt zu haben⁠¹. Aus Betreibersicht heißt das: Die Information, dass sich etwas Relevantes geändert hat, erreicht Sie im Zweifel später als die Auswirkung in Ihrem Prozess.

Damit ist die Frage beantwortet, ob Governance ein Dokument sein kann. Kann sie nicht. Eine Richtlinie im Intranet hilft am Tag eines stillen Modellwechsels exakt null. Was hilft: feste Testfälle, protokollierte Ausgaben und ein fest verdrahteter Modellaufruf. Wer 80 echte Fälle als Prüfset hinterlegt hat, sieht die Abweichung am nächsten Morgen. Wer eine Richtlinie hat, sieht sie in der Reklamation.

Was in den Unterlagen steht und was das Gesetz dazu sagt

Die genannte Schwelle stammt aus Anthropics eigener Sicherheitsrichtlinie, der Responsible Scaling Policy. Sie gilt laut der Meldung als erreicht, wenn KI-gestützte Forschung die Entwicklung neuer Modelle deutlich schneller vorantreibt als ohne KI-Unterstützung; vollständig autonome Entwicklung ist ausdrücklich nicht gemeint [Q1, Q4].

Eine eigene Studie von Anthropic vom September 2026 kommt zu folgendem Bild: Bei rund einem Viertel der nach Arbeitszeit gewichteten Forschungs- und Entwicklungsarbeit kann Claude den Großteil der Aufgaben selbstständig erledigen, unter menschlicher Aufsicht. Vollständige Autonomie wurde in keinem untersuchten Bereich festgestellt⁠¹. Im Risikobericht vom August 2026 hieß es, die Schwelle sei innerhalb eines Jahres erreichbar; im überarbeiteten Prospekt vom November 2026 wurde die Prognose zeitlich zugespitzt⁠¹.

Für Sie als Anwender ist der regulatorische Anker die Verordnung (EU) 2024/1689. Sie verpflichtet Betreiber von KI-Systemen zu menschlicher Aufsicht und zum Betrieb gemäß den Anbieterangaben; Modelle mit systemischem Risiko lösen zusätzliche Pflichten beim Anbieter aus⁠². Entscheidend ist die Rollenverteilung: Sie sind in aller Regel Betreiber, nicht Anbieter. Ihre Aufgabe ist nicht, Modellforschung zu bewerten, sondern nachzuweisen, dass ein Mensch die Ausgaben in Ihrem Prozess kontrolliert.

Fünf Dinge, die Sie diese Woche prüfen können

• Inventar. Welches Modell läuft in welchem Prozess, in welcher Version, über welchen Anbieter? Die KI-Funktionen in eingekaufter Software gehören dazu, besonders die, die niemand bewusst eingeschaltet hat.
• Prüfset anlegen. 50 bis 100 echte Vorgänge aus dem Alltag, daneben die erwartete richtige Antwort. Das ist eine Tabelle, kein Projekt, und sie wird bei jedem Modellwechsel durchgespielt.
• Version festnageln statt "latest". Modellversion explizit in Code oder Konfiguration setzen, Wechsel erst nach bestandenem Prüfset. Wer auf dem jeweils neuesten Alias läuft, hat den Zeitpunkt der Änderung an den Anbieter abgegeben.
• Stoppkriterium festlegen. Ab welcher Fehlerquote im Prüfset geht die Funktion zurück in den manuellen Modus, und wer entscheidet das?
• Was Sie lassen sollten. Kein Krisenprogramm, keine Abschaltung laufender Systeme, keine Hektik wegen eines Risikokapitels in einem Börsenprospekt⁠¹.

Der Test, ob Sie vorbereitet sind, dauert zehn Minuten

Frage eins, an die eigene IT oder den Dienstleister: Welche Modellversion läuft heute in Prozess X, und wann wurde sie zuletzt gewechselt? Kommt darauf keine Antwort mit Datum, ist das Testergebnis eindeutig. Frage zwei, an die Fachabteilung: Woran würden Sie merken, dass die KI seit gestern anders antwortet? Lautet die Antwort "am Beschwerdeanruf", fehlt der Messpunkt.

Die Meldung aus dem Börsenprospekt ändert an Ihrem Betrieb heute nichts⁠¹. Sie macht sichtbar, dass Stabilität bei KI-Komponenten kein Normalzustand ist, sondern aktiv hergestellt wird. Stellen Sie die beiden Fragen heute und schreiben Sie die Antworten auf. Kann niemand die Modellversion benennen, ist der nächste Schritt ein Prüfset für den wichtigsten Prozess, keine neue Richtlinie.