KI-Risiken bleiben Ihr Problem, nicht Altmans

Freitagnachmittag, kurz vor Feierabend. Im Vertrieb geht ein Angebot raus, dessen Text ein Chatbot formuliert hat. Niemand im Haus kann sagen, welches Modell ihn geschrieben hat und welche Kundendaten im Prompt standen. Hier entscheidet sich, ob Sie KI betreiben oder ob KI einfach passiert.

Sam Altman sagte im Interview mit „Politico“ für den Newsletter „Decoded“: „Wir glauben, dass die Welt akzeptieren sollte, dass einige schlechte Dinge passieren, um die Vorteile dieser Technologie nutzen zu können“⁠^{1, 2}. Einen Deal, der „keine großen Hacks, keinen Missbrauch dieser Technologie, null Betrug“ garantiert, würde er nicht eingehen⁠^{3, 1}. Seine Grenze liegt woanders: bei katastrophalen Risiken und bei ernsthaftem Kontrollverlust gegenüber der KI⁠^{4, 3}.

Das ist keine Entgleisung im Interview, sondern eine Produkthaltung. Wer sie überhört, plant falsch. Die Frage ist nicht, ob man das empörend findet, sondern welche Kontrollen Sie selbst bauen, wenn der Anbieter sie ausdrücklich nicht verspricht.

Warum „der Anbieter sichert das schon ab“ als Plan nicht mehr trägt

Wer öffentlich sagt, er gebe keine Null-Schaden-Zusage, schreibt sie auch nicht in den Vertrag⁠^{4, 3}. Damit liegt die Beweislast bei Ihnen. Und das ist kein Gedankenspiel: Berichtet wird über aufsehenerregende Hacks bei OpenAI und über Modellverhalten, das aus dem Ruder lief, bis hin zu Modellen, die eigenständig gehackt haben⁠^{4, 1}.

Im Mittelstand ist KI längst im Haus, im Vertriebstext und im Support-Postfach. Nur führt niemand eine Liste, welche Abteilung welches Modell mit welchen Daten füttert. Landet ein KI-generierter Preis oder eine erfundene Zusage beim Kunden, diskutiert niemand mit San Francisco. Der Ärger landet bei Ihnen.

KI-Risiken begrenzen Sie um das Modell herum, nicht im Modell

Ein Sprachmodell ist eine Zutat, kein System. Nachvollziehbarkeit und Abschaltbarkeit entstehen in der Software, die das Modell aufruft. Die gehört Ihnen.

Vier Bauteile gehören in jedes produktive KI-System:

• Protokollierung jedes Aufrufs mit Modell, Version, Eingabe und Ausgabe
• eine menschliche Freigabe, bevor etwas nach außen geht
• Quellenbindung, damit jede Aussage auf ein Dokument zurückführt
• ein Schalter, der die KI abstellt, ohne den Geschäftsprozess mitzureißen

Wer sein System so baut, dass ein Modell gegen ein anderes getauscht werden kann, macht sich von der Sicherheits- und Preispolitik eines einzelnen Anbieters unabhängig. Das ist Engineering-Arbeit, keine Vertragsfrage. Alles selbst zu hosten ist für die meisten Mittelständler aber weder bezahlbar noch sinnvoll. Die realistische Antwort liegt zwischen Vollvertrauen und Vollautarkie, und die Grenze zieht der Anwendungsfall, nicht das Bauchgefühl.

Was das Recht schon heute von Ihnen als Betreiber verlangt

Die Verordnung (EU) 2024/1689 über künstliche Intelligenz nimmt ausdrücklich auch Betreiber in die Pflicht, nicht nur Anbieter. Artikel 4 verlangt ein ausreichendes Maß an KI-Kompetenz bei den Personen, die in Ihrem Auftrag KI-Systeme betreiben, und gilt seit dem 2. Februar 2025. Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck greifen seit dem 2. August 2025⁠⁵.

OpenAI hat sich zuletzt für schärfere Sicherheitsgesetze in US-Bundesstaaten ausgesprochen und dafür, externe Sicherheitsprüfer über einen Vorstoß im US-Repräsentantenhaus fest einzubinden⁠^{4, 3}. Regulierung ersetzt trotzdem keine Kontrolle im eigenen Haus.

Aus eigener Arbeit, anonymisiert: In einem Projekt zur Tarifanalyse bewerten mehrere Sprachmodelle dieselbe Frage nach demselben Kriterienkatalog. Fehler fallen auf, weil die Modelle einander widersprechen, und jede Aussage wird mit Originalzitat aus dem Vertragswerk belegt. Nicht weil ein Modell besser geworden wäre, sondern weil der Widerspruch erzwungen und protokolliert wird. Das kostet Rechenzeit und Entwicklung. Für einen Newsletter-Entwurf lohnt sich das nicht, für eine Aussage mit Haftungsfolge sehr wohl.

Was Sie in den nächsten vier Wochen klären sollten

Inventur zuerst. Welche KI-Werkzeuge laufen im Haus, wer bezahlt sie, welche Daten gehen rein? In unseren Projekten taucht dabei regelmäßig Software auf, von der die Geschäftsführung nichts wusste. Ergebnis ist eine Liste.

Dann zwei Töpfe bilden. Anwendungen ohne Außenwirkung, also Recherche und interne Entwürfe, laufen weiter mit wenig Aufwand. Alles mit Rechts-, Preis- oder Kundenfolge bekommt Protokollierung und menschliche Freigabe oder wird abgeschaltet, bis beides steht.

Prüfen Sie die Verträge, vor allem Haftung und Verarbeitungsort der Daten. Die Erwartung „null Betrug, nichts von all dem“ ist nach Altmans eigenen Worten nicht Teil des Angebots⁠^{3, 1}. Und spielen Sie einen Vorfall durch: Wer merkt es, wer schaltet ab, wer informiert den Kunden, wie lange dauert das? Wenn die Antwort mehr als einen Satz braucht, fehlt der Prozess.

Sparen Sie sich dagegen die Grundsatzdebatte über Superintelligenz und eine Richtlinie, die niemand liest.

Wenn Sie wissen wollen, wo Ihre KI ungeschützt läuft

Altman hat offen gesagt, welche Garantie er nicht gibt. Das ist mehr Ehrlichkeit, als viele Anbieter aufbringen, und ein guter Grund, den Schalter dorthin zu bauen, wo Sie ihn selbst umlegen können. Setzen Sie sich einmal hin und sortieren Sie Ihre KI-Anwendungen: Protokollierung und Freigabe nötig, oder getrost so lassen. Wenn Ihr Thema mit einer besseren Einstellung im vorhandenen Werkzeug erledigt ist, sagen wir Ihnen das und hören danach auf. Schreiben Sie uns werktags, oder buchen Sie direkt den Potenzial-Check.