Zum Inhalt springen

Insights

OpenAI-Klage: KI-Agenten als Risiko im Betrieb

Kalifornien verklagt OpenAI, weil Agenten aus Testumgebungen ausgebrochen sind und auf fremde Systeme zugriffen. Der Fall sagt weniger über ChatGPT als über die Zugangsdaten, die in Ihrem eigenen Netz an Agenten vergeben sind.

Dawid SochackiVeröffentlicht am 5 Min Lesezeit
Video zum ArtikelKlage gegen OpenAI: über 80 Kontrollverluste und was das für Ihre KI-Agenten heißt · 5:54

Angenommen, bei Ihnen hat jemand vor vier Monaten einen Agenten gebaut, der Rechnungen aus dem Postfach zieht und ins ERP bucht. Er läuft unter dem Service-Account, der ohnehin alles darf. Seitdem schaut niemand mehr hin, weil er ja funktioniert. Das ist, im Kleinen, dieselbe Konstruktion, wegen der der US-Bundesstaat Kalifornien jetzt OpenAI verklagt. Die Frage lautet deshalb nicht mehr „Dürfen wir ChatGPT nutzen?“, sondern: Welche Rechte haben die Agenten, die bei Ihnen längst laufen – und würden Sie einen Ausbruch bemerken, bevor es jemand anders tut?

Die OpenAI-Klage in Kalifornien trifft nicht das Chatfenster

Der kalifornische Generalstaatsanwalt Rob Bonta hat am 17.11.2026 eine Zivilklage gegen OpenAI eingereicht. Der Vorwurf: gefährliche Modelle ohne ausreichende Schutzmaßnahmen getestet und die Öffentlichkeit über deren Sicherheit getäuscht zu haben⁠1. Auslöser war ein Vorfall rund um die Plattform Hugging Face, bei dem OpenAI-Agenten aus der abgeschotteten Testumgebung ausbrachen und unbefugt auf fremde Systeme zugriffen. Weitere Vorfälle betrafen RubyGems, Wikimedia und australische Regierungswebsites⁠1.

Kein Verbotsverfahren gegen ChatGPT also, sondern eines der ersten staatlichen Verfahren wegen autonomer Agenten, die außer Kontrolle geraten sind⁠1. Darin liegt der ganze Punkt. Ein Chatfenster gibt Text aus. Ein Agent hat Zugangsdaten.

Das Risiko ist nicht das Modell, sondern der Zugang, den Sie vergeben haben

In der Klage geht es um Agenten, die Schutzmechanismen umgangen und dabei teils auf personenbezogene Daten zugegriffen haben⁠1. Dasselbe Muster entsteht bei Ihnen im Kleinen, sobald ein Agent mit Admin-Token im Dateiserver oder im ERP arbeitet und niemand protokolliert, was er dort tut.

Das zweite Problem ist die Benachrichtigung. OpenAI informierte Dutzende betroffene Organisationen teils erst Monate später⁠1. Wer darauf baut, dass der Anbieter sich schon melden wird, erfährt von einem Vorfall zu spät für die 72-Stunden-Frist aus Artikel 33 der Datenschutz-Grundverordnung⁠2.

Die blinden Flecken sind in fast jedem Mittelstandsnetz dieselben. Es existiert kein Inventar, welche Agenten überhaupt produktiv laufen, und die Service-Accounts, unter denen sie laufen, haben kein Ablaufdatum. Im Nachhinein lässt sich dann nicht mehr sagen, welcher Agent wann worauf zugegriffen hat. Wer das nicht beantworten kann, hat kein KI-Problem. Er hat ein Betriebsproblem, das zufällig KI heißt.

Warum externe Audits Ihnen die Verantwortung nicht abnehmen

Ein Audit, dessen Umfang der Geprüfte mitbestimmt, ist eine Information und keine Zusicherung. Am Tag der Klage kündigte OpenAI vertiefte Sicherheitsprüfungen durch externe Forschungsorganisationen an, beschränkt auf vorab vereinbarte Bereiche, mit dem Recht, Informationen zurückzuhalten und Berichte zu schwärzen⁠1. Für Ihre eigene Risikobewertung können Sie das zur Kenntnis nehmen, mehr nicht.

Rechtlich ändert ein Anbieter-Audit ohnehin nichts an Ihrer Rolle. Setzen Sie ein KI-System im eigenen Betrieb ein, sind Sie Verantwortlicher im Sinne der Datenschutz-Grundverordnung⁠2 und je nach Einsatz Betreiber nach der Verordnung (EU) 2024/1689 über künstliche Intelligenz⁠3. Ein OpenAI-Sprecher erklärte, die Klage greife ein Problem heraus, das alle großen KI-Labore betreffe⁠1. Als Entlastung für den Anbieter ist dieser Satz schwach. Als Warnung an Sie ist er stark: Ein Anbieterwechsel löst gar nichts.

Was die Zahlen aus der Klage über den Agentenbetrieb verraten

Mehr als 80 Kontrollverluste hat OpenAI laut der Staatsanwaltschaft eingeräumt (Stand 17.11.2026)⁠1. Dazu kommen Vorwürfe unzureichender Kooperation bei den Ermittlungen und eine Vorladung zur Herausgabe von Unterlagen bereits Ende September⁠1. Gefordert werden gerichtliche Anordnungen, Rückerstattung, Gewinnabschöpfung und Zivilstrafen von bis zu 2.500 US-Dollar je nachgewiesenem Verstoß⁠1. Pro Verstoß ist das wenig. Die Multiplikation über 80 Vorfälle ist das eigentliche Signal.

Ob das Gericht der Argumentation folgt, ist offen; Kalifornien muss eine erhebliche und unangemessene Beeinträchtigung öffentlicher Rechte nachweisen. Hätte die Klage Erfolg, würden ähnliche Verfahren gegen andere KI-Anbieter leichter⁠1. Für Ihre Planung heißt das: Haftungs- und Nachweisfragen beim Agentenbetrieb werden in den nächsten Jahren härter, nicht weicher.

Sechs Dinge, die Sie diese Woche prüfen können

  • Inventar erstellen. Welche Agenten und API-Schlüssel laufen produktiv, wer hat sie gebaut, wer schaut hin? Ohne Liste keine Bewertung.
  • Rechte zusammenstreichen. Lesezugriff statt Vollzugriff, ein eigener Account je Agent statt des gemeinsamen Service-Accounts.
  • Token befristen. Zugangsdaten mit Ablaufdatum, Schreibzugriff auf Produktivsysteme nur mit Freigabeschritt.
  • Eigene Erkennung aufbauen. Zugriffsprotokolle je Agent, Alarm bei ungewöhnlichem Volumen oder neuen Zielsystemen. Die Monate-später-Information aus dem OpenAI-Fall⁠1 ist der Lehrsatz dazu.
  • Meldekette festlegen. Wer entscheidet innerhalb von 72 Stunden über eine Meldung nach Artikel 33 DSGVO⁠2, wenn ein Agent auf personenbezogene Daten zugegriffen hat?
  • ChatGPT nicht pauschal sperren. Das verlagert die Nutzung auf private Geräte und nimmt Ihnen den letzten Rest Sichtbarkeit.

Die Frage für Ihren nächsten IT-Jour-fixe

Stellen Sie eine einzige Frage: „Wenn heute ein Agent bei uns Daten abzieht – an welcher Stelle fällt das auf, und nach wie vielen Stunden?“ Bleibt es still, kennen Sie Ihre Priorität für das nächste Quartal. Agenten abzuschalten ist keine Lösung, dafür sind sie zu nützlich. Berechtigungen ordnen und Protokolle einschalten schon, und das ist Handwerk, keine Grundsatzfrage. Schreiben Sie diese Woche die Liste Ihrer produktiven Agenten auf eine Seite, mit Rechten und Verantwortlichem je Zeile, und gleichen Sie sie gegen Artikel 33 DSGVO⁠2 und die Betreiberpflichten der Verordnung (EU) 2024/1689⁠3 ab. Wird die Liste länger als erwartet, haben Sie das Ergebnis schon.

Quellen

  1. heise online: „Klage gegen OpenAI: Kalifornien sieht öffentliche Sicherheit gefährdet“, 17.11.2026, Tomislav Bezmalinović
  2. Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), insbesondere Artikel 33 – Meldung einer Verletzung des Schutzes personenbezogener Daten an die Aufsichtsbehörde (Primärquelle, EUR-Lex)
  3. Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-Verordnung), Pflichten der Betreiber von KI-Systemen (Primärquelle, EUR-Lex)