KI-Agenten im Unternehmen: So vermeiden Sie Datenlecks und Kontrollverlust

KI-Agenten, die Kundenanfragen beantworten, Abläufe auslösen oder Entscheidungen vorbereiten, greifen auf Unternehmensdaten zu und schicken Teile davon an Sprachmodelle. Ohne eine Architektur, die diesen Datenfluss begrenzt und protokolliert, ist ein Datenabfluss an einen Drittanbieter keine Frage des Ob, sondern des Wann.

Warum KI-Agenten ein neues Risiko für Datenschutz und Kontrolle sind

Ein KI-Agent ist Software, die selbstständig handelt: Er liest Daten, verarbeitet sie mit einem Sprachmodell und löst Aktionen aus. Anders als eine klassische Anwendung folgt er keinem festen Programmpfad, sondern entscheidet je nach Eingabe, welche Daten er heranzieht und welches Werkzeug er aufruft. Das macht ihn nützlich und schwer zu kontrollieren. Ein Agent, der Kundenanfragen beantwortet, zieht zur Beantwortung womöglich die komplette Kundenhistorie heran und schickt sie an ein externes Modell, obwohl für die Antwort ein einziges Feld genügt hätte. Aus Sicht der DSGVO ist das eine Übermittlung personenbezogener Daten ohne Erforderlichkeit, und zwar bei jeder einzelnen Anfrage.

Die häufigsten Sicherheitslücken bei KI-Agenten

Die erste Lücke ist die unkontrollierte Weitergabe an externe Dienste. Viele Agenten nutzen Sprachmodelle großer US-Anbieter, und wenn niemand festlegt, welche Datenklassen das Unternehmen verlassen dürfen, entscheidet das der Agent im Einzelfall selbst. Die zweite Lücke sind fehlende Berechtigungen: Agenten bekommen zur Einrichtung oft weitreichende Zugriffe, weil das schneller geht, und behalten sie. Die dritte Lücke ist fehlende Nachvollziehbarkeit. Wenn nicht protokolliert wird, welche Daten der Agent wann an welches Modell geschickt und welche Aktion er ausgelöst hat, lässt sich weder ein Vorfall aufklären noch eine Auskunft nach der DSGVO erteilen.

DSGVO-konforme KI-Nutzung: Unternehmen müssen Datenminimierung technisch erzwingen

Datenminimierung und Zweckbindung gelten für Agenten wie für jede andere Verarbeitung, nur muss man sie hier technisch erzwingen. Der Agent bekommt Zugriff ausschließlich auf die Felder, die seine Aufgabe braucht, und eine vorgeschaltete Prüfung entfernt oder pseudonymisiert personenbezogene Angaben, bevor eine Anfrage das Haus verlässt.

Der Speicherort entscheidet über die Rechtslage. Ein Modell in einem deutschen oder europäischen Rechenzentrum, betrieben von einem Anbieter unter europäischem Recht, oder ein offenes Modell auf eigener Hardware nimmt der Frage nach der Drittlandübermittlung die Grundlage. Für die verbleibenden Datenflüsse gelten Verschlüsselung und ein Berechtigungsmanagement, das für den Agenten dieselben Regeln durchsetzt wie für einen Mitarbeiter.

Bleibt die Protokollierung. Jede Anfrage, jede Modellantwort, jede ausgelöste Aktion wird mit Zeitstempel und Modellversion gespeichert, und ein Monitoring schlägt an, wenn der Agent ungewöhnlich viele oder ungewöhnliche Daten bewegt. So bauen wir Multi-LLM-Systeme für regulierte Kunden: Ohne Nachvollziehbarkeit geht kein Agent in Betrieb.

Wie eine sichere Agenten-Architektur aussieht: Beispiel Kreditvorprüfung

Ein Finanzdienstleister will die Vorprüfung von Kreditanträgen durch einen Agenten unterstützen lassen. In einer sauberen Architektur läuft das so: Die Antragsdaten bleiben im eigenen Rechenzentrum. Der Agent erhält pseudonymisierte Merkmale, nie den Namen, nie die Kontonummer. Das Modell läuft in einer europäischen Umgebung. Jeder Vorschlag des Agenten wird mit den herangezogenen Merkmalen protokolliert und von einem Sachbearbeiter freigegeben, bevor er wirkt. Die Entscheidung bleibt beim Menschen, die Dokumentation für eine Prüfung entsteht im Betrieb von selbst.

Häufige Fragen zu KI-Agenten und Datenschutz

Welche Daten dürfen KI-Agenten verarbeiten?

Nur die, die für die Aufgabe erforderlich sind und für die eine Rechtsgrundlage besteht. Personenbezogene Daten gehören pseudonymisiert, bevor ein Agent sie sieht.

Wie verhindern Sie die Weitergabe an Dritte?

Durch ein Modell in eigener oder europäischer Umgebung, Netzwerkregeln, die andere ausgehende Verbindungen blockieren, und eine vorgeschaltete Prüfung, die sensible Inhalte erkennt und zurückhält.

Sind KI-Agenten DSGVO-konform einsetzbar?

Ja, wenn die Architektur Datenminimierung, Zweckbindung, Transparenz und die Betroffenenrechte technisch absichert. Eine Datenschutz-Folgenabschätzung vor dem Start ist meist angezeigt.

Notieren Sie für jeden KI-Agenten, der in Ihrem Unternehmen läuft oder geplant ist, welche Daten er sieht, welches Modell sie verarbeitet und wo dieses Modell läuft. Mit dieser Liste buchen Sie den kostenlosen Potenzial-Check, eine halbe Stunde, in der wir gemeinsam einschätzen, wo Ihre Agenten heute Daten verlieren und wie sich das architektonisch schließen lässt.