Darf ich Kundendaten in ChatGPT eingeben? Was die DSGVO wirklich sagt

Kundendaten in die kostenlose oder private Version von ChatGPT einzugeben ist in den allermeisten Fällen ein Datenschutzverstoß, weil personenbezogene Daten ohne Rechtsgrundlage und ohne Auftragsverarbeitungsvertrag an einen Anbieter außerhalb Ihrer Kontrolle gehen. Die gute Nachricht: Es gibt Wege, KI mit Kundendaten zulässig zu nutzen. Sie beginnen alle damit, dass Sie den Browser-Tab durch ein System ersetzen, das Sie steuern.

Warum die Eingabe von Kundendaten in ChatGPT problematisch ist

Die Datenschutz-Grundverordnung (DSGVO) erlaubt die Verarbeitung personenbezogener Daten nur mit Rechtsgrundlage, etwa zur Erfüllung eines Vertrags oder mit Einwilligung. Wer eine Kundenanfrage mit Name, Adresse und Vertragsdetails in einen öffentlichen KI-Dienst kopiert, verarbeitet diese Daten zu einem neuen Zweck bei einem neuen Empfänger. In der privaten Version geschieht das ohne Auftragsverarbeitungsvertrag, und die Eingaben können je nach Einstellung zum Training des Modells verwendet werden. Der Kunde hat dem nie zugestimmt, und Sie können ihm nicht sagen, was mit seinen Daten passiert ist.

Ein alltägliches Beispiel: Ein Mitarbeiter im Kundendienst lässt sich Antworten auf E-Mail-Anfragen formulieren und fügt die Originalmail ein. Damit liegen Name, Kundennummer und Beschwerdeinhalt beim Anbieter. Das ist kein Grenzfall, sondern ein Verstoß, den die Aufsicht mit Bußgeld, Löschanordnung und Untersagung der Verarbeitung ahnden kann. Dazu kommt der Schaden, den ein Kunde anrichtet, der davon erfährt. Diese Einordnung ist keine Rechtsberatung; Ihr Datenschutzbeauftragter wird sie aber bestätigen.

Ein AVV reicht nicht für Prompts, die Kundendaten enthalten

Die Geschäftsvarianten der großen Anbieter bieten einen Auftragsverarbeitungsvertrag (AVV) und schließen das Training mit Ihren Daten aus. Das ist besser als die private Version, aber nicht die Lösung. Ein AVV regelt das Verhältnis zum Anbieter. Er regelt nicht, ob Ihr Mitarbeiter diese Daten überhaupt in einen Prompt schreiben durfte, ob die Übermittlung in ein Drittland gedeckt ist und ob Sie im Nachhinein nachweisen können, welche Daten wann wohin gingen. Ohne Protokoll und ohne Regeln, welche Datenarten das Haus verlassen dürfen, haben Sie einen Vertrag und weiterhin keine Kontrolle.

Drei Wege, KI mit Kundendaten zulässig zu nutzen

Datensparsam arbeiten. Für viele Aufgaben braucht das Modell den Personenbezug nicht. Eine Zwischenschicht ersetzt Namen, Nummern und Adressen durch Platzhalter, bevor die Anfrage nach außen geht, und setzt sie in der Antwort wieder ein. Der Anbieter sieht die Struktur der Anfrage, nicht den Kunden.

In Europa verarbeiten. Für Aufgaben, bei denen der Personenbezug bleiben muss, lassen sich Modelle auf eigener Infrastruktur oder in einer souveränen Cloud in der EU betreiben. Die Daten verlassen den Rechtsraum nicht, der Speicherort steht im Vertrag, und Sie bestimmen, wer Zugriff hat. Das ist mehr Aufwand als ein Abo, aber der einzige Weg, bei dem die Frage nach dem Drittland gar nicht erst entsteht.

Über ein eigenes Gateway gehen. Unabhängig vom Modell laufen alle Anfragen über einen Kontrollpunkt in Ihrem Haus, der Regeln durchsetzt und jede Anfrage protokolliert. So können Mitarbeiter KI weiter nutzen, aber nur über den Weg, den Sie freigegeben haben. Wie ein solcher Kontrollpunkt in den Alltag passt, beschreibt der Artikel zur KI-Governance im Mittelstand.

Was Sie Ihren Mitarbeitern sagen sollten

Ein Verbot allein funktioniert nicht, weil die Werkzeuge zu nützlich sind. Wirksam ist eine kurze, konkrete Regel: Welche Datenarten dürfen in welchen Dienst, welche nie. Namen, Adressen, E-Mail-Adressen, Kundennummern und Vertragsdaten gehören in keinen öffentlichen Dienst. Fachliche Inhalte ohne Personenbezug sind unkritisch. Dazu gehört ein freigegebener Weg, der die verbotenen Fälle abdeckt, sonst wandert die Nutzung nur in den Schatten. Die Schulung dauert eine Stunde; das Bereitstellen des sicheren Weges ist der eigentliche Aufwand.

Häufige Fragen

Ist die Nutzung von ChatGPT für Texte generell unzulässig? Nein. Ohne personenbezogene Daten ist die Nutzung datenschutzrechtlich unproblematisch. Achten Sie darauf, dass auch aus dem Kontext keine Rückschlüsse auf Personen möglich sind, und klären Sie getrennt davon, welche Geschäftsgeheimnisse Sie einem Anbieter anvertrauen wollen.

Welche Daten darf ich eingeben? Anonymisierte oder aggregierte Daten, öffentlich zugängliche Informationen und rein fachliche Inhalte. Im Zweifel gilt: Was einen Menschen erkennbar macht, bleibt draußen.

Reicht die Geschäftsversion mit AVV? Sie ist Voraussetzung, nicht Lösung. Ohne Regeln und Protokoll bleibt die Kontrolle beim Mitarbeiter, nicht bei Ihnen.

Fragen Sie in Ihrem Kundendienst und Vertrieb offen, welche KI-Dienste heute genutzt werden und was hineinkopiert wird. Mit dieser Liste buchen Sie den Potenzial-Check: eine halbe Stunde, kostenlos, und wir sagen Ihnen, welcher der drei Wege für Ihre Fälle reicht und was er im Betrieb bedeutet.