DSGVO-konforme KI-Nutzung im Unternehmen: 4 Nachweise

Der Datenschutzbeauftragte fragt in der Freitagsrunde, welche Prompts der Vertrieb letzte Woche an das Sprachmodell geschickt hat. Niemand weiß es. Es gibt kein Protokoll, nur einen Auftragsverarbeitungsvertrag im Ordner und die Hoffnung, dass schon nichts Personenbezogenes dabei war. Genau hier entscheidet sich, ob Ihr KI-Einsatz eine Prüfung übersteht: Sie brauchen vier dokumentierte Nachweise statt einer Unterschrift.

DSGVO-konforme KI-Nutzung im Unternehmen beginnt mit vier Nachweisen

Die Datenschutzkonferenz, das Gremium der unabhängigen deutschen Datenschutzaufsichtsbehörden⁠¹, hat im Mai 2024 eine Orientierungshilfe zu Künstlicher Intelligenz und Datenschutz veröffentlicht. Sie gliedert den Einsatz in die Prüfbereiche Auswahl und Zweck, Implementierung und Nutzung⁠². In den Datenschutzakten, die uns auf den Tisch kommen, ist regelmäßig nur der mittlere Teil dokumentiert.

Vier Nachweise müssen Sie intern vorhalten: einen schriftlich festgelegten Zweck je Anwendungsfall, eine Rechtsgrundlage für jede einzelne Verarbeitung, eine Datenschutz-Folgenabschätzung nach Art. 35 Verordnung (EU) 2016/679⁠³ sowie einen belegbaren Weg, wie Betroffenenrechte und die menschliche Letztentscheidung im laufenden System tatsächlich greifen⁠². Dass die Datenschutzaufsichtsbehörden zugleich erklärt haben, die nationale Marktüberwachung für KI-Systeme übernehmen zu wollen⁠², ist die eigentliche Nachricht. Wer prüft, kennt seine eigene Checkliste.

AVV reicht nicht für Prompts: Was in den Akten fehlt

Ein Auftragsverarbeitungsvertrag regelt die Beziehung zum Anbieter. Er sagt nichts darüber, was Ihre Mitarbeitenden ins Eingabefeld tippen, ob die Eingaben ins Training fließen und was das Modell ausgibt. Die Datenschutzkonferenz geht davon aus, dass zahlreiche Beschäftigte KI-Anwendungen eigenmächtig nutzen und dabei gegen den Datenschutz verstoßen; interne Nutzungsregeln sind deshalb Pflicht⁠².

Ein Beispiel, das die Lücke zeigt: Bei Slack flossen Kundendaten bis Mai 2024 standardmäßig in das Training nicht-generativer Machine-Learning-Funktionen, ein Opt-out war nur auf aktive Anfrage möglich⁠⁴. Die Vertragslage war formal in Ordnung. Die Voreinstellung nicht. Dazu kommt die Tarifabhängigkeit: Datenresidenz in Frankfurt gibt es erst ab Business+, Enterprise Key Management erst ab Enterprise Grid⁠⁴. Über Ihr Schutzniveau entscheidet also auch, welches Paket der Einkauf gebucht hat.

Bei der Löschung wird es unbequem. Aus einem trainierten Sprachmodell lässt sich einmal eingeflossene Information praktisch nicht mehr entfernen. Nachträgliche Filterregeln sind ein Behelf, kein Erfüllen des Löschanspruchs⁠².

Nachvollziehbarkeit entsteht in der Architektur, nicht im Dokument

Jeder Nachweis, den die Datenschutzkonferenz verlangt, lässt sich als technische Eigenschaft bauen, statt ihn einmal im Jahr per Hand zu rekonstruieren. Die Orientierungshilfe hält technisch geschlossene Systeme gegenüber offenen Cloud-Systemen für vorzugswürdig⁠². Konkret: eigener Mandant, eigene Datenhaltung, kein Zweckwechsel durch eine geänderte Voreinstellung des Anbieters.

Ein Audit-Trail gehört ins Produkt, nicht in die Richtlinie. Welcher Prompt, welches Modell, welcher Kontext aus welcher Quelle, welche Ausgabe, wer hat freigegeben. Greift das Modell zur Laufzeit nur auf freigegebene Dokumente zu (Retrieval statt Training), bleibt die Löschung im Quellsystem wirksam. Die menschliche Letztentscheidung ist dabei eine Rechtsanforderung und kein Bedienkomfort: Zeitdruck und fehlende Transparenz dürfen nicht dazu führen, dass KI-Ergebnisse ungeprüft übernommen werden⁠².

Wie das in produktiven Systemen aussieht, die wir betreiben

Bei asseko.ai bewerten fünf KI-Modelle im Konsens Tarife der privaten Krankenversicherung nach rund 375 Kriterien; die Fehlerquote sank von rund 5 Prozent auf unter 0,1 Prozent, und jede Aussage trägt ein Originalzitat aus den Allgemeinen Versicherungsbedingungen⁠⁵. Das Zitat ist der Punkt. Eine Antwort mit Quelle ist prüfbar. Eine Antwort ohne Quelle ist eine Behauptung, die Sie im Zweifel vor der Aufsicht verteidigen.

In eSYS-Go steckt die Vier-Augen-Freigabe als Pflichtschritt im Workflow, nicht als Hinweis in einem Merkblatt⁠⁶. Infrastrukturseitig arbeiten wir mit STACKIT (Schwarz-Gruppe), damit Daten und Modellaufrufe standardmäßig in der EU bleiben⁠⁷; eigene KI-Produkte betreiben wir unter realer Last⁠⁸.

Die Grenze gehört dazu: Ein Audit-Trail beweist, was passiert ist. Er ersetzt weder die Datenschutz-Folgenabschätzung noch die juristische Bewertung durch Ihren Datenschutzbeauftragten. Dieser Artikel ist technische Übersetzung, keine Rechtsberatung.

Ihre nächsten Schritte vor dem breiten Rollout

Legen Sie den Zweck je Anwendungsfall schriftlich fest und prüfen Sie, ob personenbezogene Daten überhaupt nötig sind. Die Datenschutzkonferenz nennt als Gegenbeispiel die Auswertung einer Rohstoffkartierung ohne Personenbezug⁠². Danach machen Sie Schatten-KI sichtbar: erst erheben, welche Werkzeuge im Haus benutzt werden, dann Regeln schreiben, die man einhalten kann.

Drei Fragen, denen ein Anbieter nicht ausweichen kann:

• Wird mit unseren Eingaben trainiert, und in welcher Voreinstellung?
• Wo liegen die Daten, auch bei Fallback-Modellen?
• Gibt es ein maschinell exportierbares Protokoll aller Anfragen?

Die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO gehört vor den Rollout⁠³, die Dokumentationspflichten der Verordnung (EU) 2024/1689 denken Sie gleich mit⁠⁹. Besondere Kategorien wie Gesundheit oder Religion und das Risiko mittelbarer Identifizierbarkeit behandeln Sie getrennt⁠².

Wenn Sie das an Ihrem konkretesten Anwendungsfall durchgehen wollen: 30 Minuten direkt mit dem Gründer, Potenzial-Check buchen, Antwort werktags innerhalb von 24 Stunden, telefonisch 06257 / 9179 400 von 9 bis 17 Uhr⁠¹⁰. Deckt ein sauber konfiguriertes Standardwerkzeug Ihren Fall ab, sagen wir Ihnen das⁠¹¹.