Zum Inhalt springen

Insights

DeepSeek V4 und lokale Sprachmodelle: Was IT-Verantwortliche jetzt prüfen sollten

Ein Prompt geht immer dorthin, wo das Modell läuft. Offene Gewichte machen es möglich, ein leistungsfähiges Modell im eigenen Haus oder bei einem deutschen Anbieter zu betreiben, und das verändert die Datenschutzfrage.

Dawid SochackiVeröffentlicht am Aktualisiert am 4 Min Lesezeit
DeepSeek V4: Warum lokale LLMs jetzt zur strategischen Notwendigkeit für IT-Entscheider werden

DeepSeek V4 ist ein Sprachmodell mit offenen Gewichten, das Unternehmen auf eigener Hardware oder bei einem Anbieter ihrer Wahl betreiben können. Für Datenschutz- und IT-Verantwortliche ist das die eigentliche Nachricht: Ein leistungsfähiges Modell muss nicht mehr über die Schnittstelle eines US-amerikanischen oder chinesischen Anbieters laufen.

Offene Gewichte: was das bedeutet und was nicht

Offene Gewichte heißt, dass die Modelldatei heruntergeladen und auf beliebiger Infrastruktur ausgeführt werden darf; die Lizenz erlaubt bei DeepSeek auch den kommerziellen Einsatz, den Lizenztext prüfen Sie trotzdem selbst. Es heißt nicht, dass das Modell quelloffen im vollen Sinn ist. Trainingsdaten und Trainingsprozess sind nicht veröffentlicht. Sie können also nicht prüfen, was das Modell gelernt hat. Sie können aber vollständig kontrollieren, wo es läuft und welche Daten es sieht. Für die Frage nach Datensouveränität ist das der Teil, der zählt.

KI-Daten in der EU verarbeiten: was ein lokal betriebenes Modell ändert

Ein Prompt geht immer dorthin, wo das Modell läuft. Wer ein Modell über die Schnittstelle des Herstellers nutzt, schickt Vertragstexte, Kundendaten und interne Zahlen in dessen Rechenzentrum; bei DeepSeek wäre das China mit den dortigen Zugriffsrechten staatlicher Stellen, bei den großen US-Anbietern die USA mit dem CLOUD Act. Ein Auftragsverarbeitungsvertrag regelt die Verantwortung, ändert an diesem Datenfluss aber nichts.

Läuft dasselbe Modell auf Ihrer Hardware oder bei einem deutschen Anbieter, verlässt kein Prompt die EU. Protokollierung, Speicherdauer und Löschung liegen bei Ihnen. Das ist der Unterschied, den ein Prüfer sehen will, und er lässt sich in einem Satz belegen statt in einem Gutachten.

Wo das Modell laufen kann: eigene Hardware oder souveräne Cloud in Deutschland

Es gibt drei realistische Betriebsformen, und keine ist für alle richtig. Eigene GPU-Server geben maximale Kontrolle, lohnen sich aber nur bei gleichmäßiger Auslastung, weil die Hardware teuer ist und Betrieb, Kühlung und Updates an Ihrem Team hängen. Gemietete GPU-Kapazität bei einem deutschen oder europäischen Anbieter hält die Daten im Land und erspart die Investition; das Modell läuft in dessen Rechenzentrum, unter Ihrer Konfiguration. Verwaltete Modellzugänge europäischer Anbieter sind am einfachsten, dafür prüfen Sie hier genau, was der Anbieter protokolliert.

Kleinere Modellvarianten laufen mit weniger Hardware und reichen für viele Aufgaben wie Zusammenfassen, Klassifizieren oder Antworten aus eigenen Dokumenten. Testen Sie mit Ihren Dokumenten, bevor Sie Hardware kaufen.

Was ein Modell aus China für Ihre Risikoabwägung heißt

Beim lokalen Betrieb fließen keine Daten nach China. Das Modell selbst bleibt trotzdem ein Produkt, das unter chinesischer Regulierung trainiert wurde: Bei bestimmten politischen Themen antwortet es ausweichend oder gar nicht. Für Auftragsdokumente und Fachtexte ist das belanglos, für Anwendungen mit Kundenkommunikation prüfen Sie es. Die Modelldatei beziehen Sie aus der offiziellen Quelle und prüfen die Prüfsumme. Und die Pflichten aus dem EU AI Act treffen Sie als Betreiber unabhängig davon, woher das Modell stammt.

Reproduzierbarkeit als Nebeneffekt

Ein Modell, das Sie selbst betreiben, ändert sich nicht über Nacht. Sie frieren die Version ein, legen die Parameter fest und erhalten bei gleicher Eingabe dieselbe Antwort, solange Sie es wollen. Bei Modellen über fremde Schnittstellen wechselt die Version, wann der Anbieter es entscheidet, und eine Antwort von letztem Monat lässt sich nicht mehr nachstellen. Für jede Anwendung, die dokumentiert oder geprüft wird, ist das ein handfester Vorteil.

Was lokale Modelle nicht lösen

Ein lokal betriebenes Modell ohne Zugangsregeln ist derselbe Wildwuchs wie ein Browser-Tab, nur im eigenen Haus. Wer darf was hineingeben, was wird protokolliert, welche Daten werden vorher maskiert? Diese Fragen beantwortet ein Gateway vor dem Modell, nicht das Modell. In der Praxis laufen bei vielen Unternehmen mehrere Modelle nebeneinander: ein lokales für vertrauliche Daten, ein externes für unkritische Aufgaben, und das Gateway entscheidet nach Datenklasse, welches Modell die Anfrage bekommt.

Häufige Fragen zu DeepSeek und lokalen Modellen

Ist DeepSeek DSGVO-konform? Ein Modell ist nicht konform, ein Einsatz ist es. Der lokale Betrieb löst den Datenabfluss. Rechtsgrundlage, Betroffenenrechte und Löschung bleiben Ihre Aufgabe.

Welche Hardware brauchen Sie? Das hängt von der Modellvariante ab. Kleine Varianten laufen auf einer einzelnen Grafikkarte, große brauchen mehrere. Messen Sie Ihre erwartete Auslastung, bevor Sie kaufen; oft ist Mieten die klügere Reihenfolge.

Ist das Modell so gut wie die kommerziellen? Die Vergleichstabellen stammen vom Hersteller. Ein Test mit Ihren eigenen Dokumenten und Aufgaben sagt mehr als jede Tabelle.

Der nächste Schritt: Ihren Datenfluss nachzeichnen

Nehmen Sie den einen KI-Anwendungsfall, der in Ihrem Haus bereits läuft oder gerade geplant wird, und zeichnen Sie nach, wohin der Prompt geht. Wenn die Antwort „zum Anbieter, und danach weiß ich es nicht“ lautet, klären wir in einer halben Stunde gemeinsam, ob ein lokal betriebenes Modell für diesen Fall trägt und was es im Betrieb bedeutet: Potenzial-Check buchen.

  • Compliance & KI-Governance

Mehr zum Thema