LLM-Wiki: Firmenwissen DSGVO-sicher aufbauen, statt es bei jeder Frage neu zu durchsuchen

Ein LLM-Wiki ist ein Wissensspeicher, den ein Sprachmodell selbst aufbaut und pflegt: Es liest neue Quellen, schreibt sie in strukturierte Wiki-Seiten und hält Querverweise aktuell. Für Compliance- und Datenschutzverantwortliche ist das Konzept interessant, weil das Wissen als Textdateien im eigenen Besitz liegt und das Modell austauschbar bleibt.

Wo Retrieval-Augmented Generation an ihre Grenze kommt

Retrieval-Augmented Generation (RAG) ist heute der übliche Weg, Fragen aus Firmendokumenten zu beantworten: Bei jeder Anfrage sucht das System passende Textstellen und formuliert daraus eine Antwort. Das funktioniert für Einzelfragen gut. Es sammelt aber kein Wissen an. Zusammenhänge zwischen Dokumenten werden nicht festgehalten, und was das Modell in einem Gespräch herausgearbeitet hat, ist beim nächsten weg. Wer aus Richtlinien, Projekterfahrungen und Prüfberichten über Jahre lernen will, sucht mit RAG jedes Mal von vorn.

Das LLM-Wiki: Das Modell als Bibliothekar

Das Konzept, das Andrej Karpathy beschrieben hat, dreht die Rolle um: Das Sprachmodell ist nicht die Suchmaschine, sondern der Bibliothekar. Es liest eine neue Quelle, arbeitet die Informationen in bestehende Wiki-Seiten ein, legt neue Seiten an, setzt Querverweise und aktualisiert Zusammenfassungen. Das Wissen wird einmal verdichtet und danach nur noch gepflegt. Mit jeder Quelle wird das Netz dichter.

Die Architektur hat drei Ebenen, die sauber getrennt bleiben: die unveränderten Originalquellen, das vom Modell geschriebene Wiki aus Markdown-Dateien und ein Schema, das dem Modell die Regeln vorgibt, etwa dass jede genannte Person oder jedes Produkt eine eigene Seite bekommt. Die Rohdaten bleiben also erhalten, und jede Aussage im Wiki lässt sich auf ihre Quelle zurückführen. Für Prüfungen ist das der entscheidende Punkt.

Der Arbeitsablauf: Aufnehmen, Abfragen, Pflegen

Beim Aufnehmen liest das Modell eine neue Quelle und aktualisiert alle betroffenen Seiten, Zusammenfassungen und Verweise. Bei einer Abfrage liest es den Index des Wikis, findet die passenden Seiten und antwortet auf Basis bereits verdichteten Wissens. Der dritte Schritt ist die Pflege: Das Modell prüft das Wiki in festen Abständen auf Widersprüche, veraltete Angaben und fehlende Verweise. Diese Arbeit vernachlässigen Menschen in fast jedem Firmenwiki. Modelle machen sie zuverlässig und ohne zu murren.

KI-Daten in der EU verarbeiten: Speicherort und Modellbetrieb trennen

Der Datenschutzvorteil des Konzepts liegt in der Trennung von Wissen und Modell. Das Wiki besteht aus Textdateien, die Ihrem Unternehmen gehören und sich jederzeit exportieren lassen. Das Modell, das sie pflegt, ist austauschbar. Es kann lokal laufen, mit einem offenen Modell auf eigener Hardware, oder auf souveräner Infrastruktur in Deutschland, ohne dass Firmendaten einen Anbieter außerhalb der EU erreichen. Für regulierte Bereiche wie Finanzen oder Versicherungen ist das keine Kür. Ein Auftragsverarbeitungsvertrag regelt die Verantwortung, aber nicht, wo die Prompts samt Inhalt tatsächlich landen. Wir bauen und betreiben solche Systeme auf deutscher Infrastruktur, mit Audit-Trail dazu, welche Quelle wann welche Seite verändert hat. Wie eine hybride Architektur mit europäischer Cloud aussieht, beschreibt der Beitrag Hybride KI-Architektur in der souveränen Cloud.

Beispiel: Regulatorik in einem Finanzunternehmen

Stellen Sie sich ein Finanzunternehmen vor, das jedes Jahr viele hundert Seiten an Vorgaben, internen Richtlinien und Projektberichten produziert. Mit RAG muss ein Mitarbeiter bei jeder neuen Verordnung alle Dokumente erneut durchsuchen lassen und die Zusammenhänge im Kopf herstellen. Mit dem LLM-Wiki wird die Verordnung einmal eingelesen. Das Modell aktualisiert die Seiten zu den betroffenen Anforderungen, etwa zum Risikomanagement, und verknüpft sie mit bestehenden Inhalten. Fragt später jemand nach der Umsetzung, bekommt er eine Antwort, die alle relevanten Quellen berücksichtigt, mit Verweis darauf, woher jede Aussage stammt.

Warum das Konzept trägt

Menschen sind schlecht darin, Wikis aktuell zu halten. Sprachmodelle sind gut darin, Texte zu strukturieren, Querverweise zu setzen und Formate einzuhalten. Karpathy vergleicht das mit Softwareentwicklung: Der Editor ist die Entwicklungsumgebung, das Modell ist der Programmierer, das Wiki ist der Quellcode. Das Ergebnis ist ein Wissenssystem, das über Jahre wächst und weder von einem Modell noch von einem Anbieter abhängt. Unsere Einschätzung: Für Unternehmen mit wenigen, ständig wechselnden Dokumenten reicht RAG. Für Unternehmen mit Wissen, das sich über Jahre aufbaut, ist das Wiki die bessere Investition.

Häufige Fragen

Was ist der Unterschied zwischen RAG und LLM-Wiki?

RAG sucht bei jeder Frage neu in den Rohdokumenten. Das LLM-Wiki baut ein dauerhaftes, verdichtetes Wissensnetz auf, das einmal geschrieben und dann aktualisiert wird. Das ergibt tiefere Zusammenhänge und nachvollziehbare Quellen.

Ist ein LLM-Wiki DSGVO-konform?

Ja, wenn die Dateien lokal oder auf Infrastruktur in der EU liegen und das Modell entweder lokal läuft oder über eine datenschutzkonforme Schnittstelle angebunden ist. Die Markdown-Dateien gehören Ihrem Unternehmen und lassen sich jederzeit exportieren.

Welche Modelle eignen sich?

Modelle, die lange Kontexte verarbeiten und Anweisungen zuverlässig einhalten. Ob ein kommerzielles Modell oder ein offenes Modell auf eigener Hardware, entscheiden Ihre Sicherheitsanforderungen und die verfügbare Rechenleistung.

Lässt sich das Wiki in bestehende Systeme einbinden?

Ja, über Schnittstellen. Das Wiki kann in vorhandene Wissensplattformen eingebunden werden oder als eigenständiges System mit einem Markdown-Editor laufen.

Suchen Sie den Dokumentenbestand heraus, aus dem Ihr Team am häufigsten Fragen beantworten muss: Richtlinien, Prüfberichte, Projektdokumentation. Mit einem Dutzend typischer Fragen daraus zeigen wir Ihnen im Potenzial-Check, eine halbe Stunde, kostenlos, ob RAG reicht oder ob sich ein LLM-Wiki lohnt, und wo die Daten dabei bleiben. Potenzial-Check buchen