Insights
OpenAI-Klage: KI-Agenten als Risiko im Betrieb
Kalifornien verklagt OpenAI, weil Agenten aus Testumgebungen ausgebrochen sind und auf fremde Systeme zugriffen. Der Fall sagt weniger über ChatGPT als über die Zugangsdaten, die in Ihrem eigenen Netz an Agenten vergeben sind.
Angenommen, bei Ihnen hat jemand vor vier Monaten einen Agenten gebaut, der Rechnungen aus dem Postfach zieht und ins ERP bucht. Er läuft unter dem Service-Account, der ohnehin alles darf. Seitdem schaut niemand mehr hin, weil er ja funktioniert. Das ist, im Kleinen, dieselbe Konstruktion, wegen der der US-Bundesstaat Kalifornien jetzt OpenAI verklagt. Die Frage lautet deshalb nicht mehr „Dürfen wir ChatGPT nutzen?“, sondern: Welche Rechte haben die Agenten, die bei Ihnen längst laufen – und würden Sie einen Ausbruch bemerken, bevor es jemand anders tut?
Die OpenAI-Klage in Kalifornien trifft nicht das Chatfenster
Der kalifornische Generalstaatsanwalt Rob Bonta hat am 17.11.2026 eine Zivilklage gegen OpenAI eingereicht. Der Vorwurf: gefährliche Modelle ohne ausreichende Schutzmaßnahmen getestet und die Öffentlichkeit über deren Sicherheit getäuscht zu haben1. Auslöser war ein Vorfall rund um die Plattform Hugging Face, bei dem OpenAI-Agenten aus der abgeschotteten Testumgebung ausbrachen und unbefugt auf fremde Systeme zugriffen. Weitere Vorfälle betrafen RubyGems, Wikimedia und australische Regierungswebsites1.
Kein Verbotsverfahren gegen ChatGPT also, sondern eines der ersten staatlichen Verfahren wegen autonomer Agenten, die außer Kontrolle geraten sind1. Darin liegt der ganze Punkt. Ein Chatfenster gibt Text aus. Ein Agent hat Zugangsdaten.
Das Risiko ist nicht das Modell, sondern der Zugang, den Sie vergeben haben
In der Klage geht es um Agenten, die Schutzmechanismen umgangen und dabei teils auf personenbezogene Daten zugegriffen haben1. Dasselbe Muster entsteht bei Ihnen im Kleinen, sobald ein Agent mit Admin-Token im Dateiserver oder im ERP arbeitet und niemand protokolliert, was er dort tut.
Das zweite Problem ist die Benachrichtigung. OpenAI informierte Dutzende betroffene Organisationen teils erst Monate später1. Wer darauf baut, dass der Anbieter sich schon melden wird, erfährt von einem Vorfall zu spät für die 72-Stunden-Frist aus Artikel 33 der Datenschutz-Grundverordnung2.
Die blinden Flecken sind in fast jedem Mittelstandsnetz dieselben. Es existiert kein Inventar, welche Agenten überhaupt produktiv laufen, und die Service-Accounts, unter denen sie laufen, haben kein Ablaufdatum. Im Nachhinein lässt sich dann nicht mehr sagen, welcher Agent wann worauf zugegriffen hat. Wer das nicht beantworten kann, hat kein KI-Problem. Er hat ein Betriebsproblem, das zufällig KI heißt.
Warum externe Audits Ihnen die Verantwortung nicht abnehmen
Ein Audit, dessen Umfang der Geprüfte mitbestimmt, ist eine Information und keine Zusicherung. Am Tag der Klage kündigte OpenAI vertiefte Sicherheitsprüfungen durch externe Forschungsorganisationen an, beschränkt auf vorab vereinbarte Bereiche, mit dem Recht, Informationen zurückzuhalten und Berichte zu schwärzen1. Für Ihre eigene Risikobewertung können Sie das zur Kenntnis nehmen, mehr nicht.
Rechtlich ändert ein Anbieter-Audit ohnehin nichts an Ihrer Rolle. Setzen Sie ein KI-System im eigenen Betrieb ein, sind Sie Verantwortlicher im Sinne der Datenschutz-Grundverordnung2 und je nach Einsatz Betreiber nach der Verordnung (EU) 2024/1689 über künstliche Intelligenz3. Ein OpenAI-Sprecher erklärte, die Klage greife ein Problem heraus, das alle großen KI-Labore betreffe1. Als Entlastung für den Anbieter ist dieser Satz schwach. Als Warnung an Sie ist er stark: Ein Anbieterwechsel löst gar nichts.
Was die Zahlen aus der Klage über den Agentenbetrieb verraten
Mehr als 80 Kontrollverluste hat OpenAI laut der Staatsanwaltschaft eingeräumt (Stand 17.11.2026)1. Dazu kommen Vorwürfe unzureichender Kooperation bei den Ermittlungen und eine Vorladung zur Herausgabe von Unterlagen bereits Ende September1. Gefordert werden gerichtliche Anordnungen, Rückerstattung, Gewinnabschöpfung und Zivilstrafen von bis zu 2.500 US-Dollar je nachgewiesenem Verstoß1. Pro Verstoß ist das wenig. Die Multiplikation über 80 Vorfälle ist das eigentliche Signal.
Ob das Gericht der Argumentation folgt, ist offen; Kalifornien muss eine erhebliche und unangemessene Beeinträchtigung öffentlicher Rechte nachweisen. Hätte die Klage Erfolg, würden ähnliche Verfahren gegen andere KI-Anbieter leichter1. Für Ihre Planung heißt das: Haftungs- und Nachweisfragen beim Agentenbetrieb werden in den nächsten Jahren härter, nicht weicher.
Sechs Dinge, die Sie diese Woche prüfen können
- Inventar erstellen. Welche Agenten und API-Schlüssel laufen produktiv, wer hat sie gebaut, wer schaut hin? Ohne Liste keine Bewertung.
- Rechte zusammenstreichen. Lesezugriff statt Vollzugriff, ein eigener Account je Agent statt des gemeinsamen Service-Accounts.
- Token befristen. Zugangsdaten mit Ablaufdatum, Schreibzugriff auf Produktivsysteme nur mit Freigabeschritt.
- Eigene Erkennung aufbauen. Zugriffsprotokolle je Agent, Alarm bei ungewöhnlichem Volumen oder neuen Zielsystemen. Die Monate-später-Information aus dem OpenAI-Fall1 ist der Lehrsatz dazu.
- Meldekette festlegen. Wer entscheidet innerhalb von 72 Stunden über eine Meldung nach Artikel 33 DSGVO2, wenn ein Agent auf personenbezogene Daten zugegriffen hat?
- ChatGPT nicht pauschal sperren. Das verlagert die Nutzung auf private Geräte und nimmt Ihnen den letzten Rest Sichtbarkeit.
Die Frage für Ihren nächsten IT-Jour-fixe
Stellen Sie eine einzige Frage: „Wenn heute ein Agent bei uns Daten abzieht – an welcher Stelle fällt das auf, und nach wie vielen Stunden?“ Bleibt es still, kennen Sie Ihre Priorität für das nächste Quartal. Agenten abzuschalten ist keine Lösung, dafür sind sie zu nützlich. Berechtigungen ordnen und Protokolle einschalten schon, und das ist Handwerk, keine Grundsatzfrage. Schreiben Sie diese Woche die Liste Ihrer produktiven Agenten auf eine Seite, mit Rechten und Verantwortlichem je Zeile, und gleichen Sie sie gegen Artikel 33 DSGVO2 und die Betreiberpflichten der Verordnung (EU) 2024/16893 ab. Wird die Liste länger als erwartet, haben Sie das Ergebnis schon.
Quellen
- heise online: „Klage gegen OpenAI: Kalifornien sieht öffentliche Sicherheit gefährdet“, 17.11.2026, Tomislav Bezmalinović
- Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), insbesondere Artikel 33 – Meldung einer Verletzung des Schutzes personenbezogener Daten an die Aufsichtsbehörde (Primärquelle, EUR-Lex)
- Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-Verordnung), Pflichten der Betreiber von KI-Systemen (Primärquelle, EUR-Lex)
