Zum Inhalt springen

Insights

KI-Integrationskosten: Warum KI-Agenten mehr kosten als der Token-Preis

Datenpipeline, Harness, Qualitätskontrolle und Exit: Die Rechnung eines KI-Agenten hat mehr Posten als die Modellnutzung. So budgetieren Sie, bevor der Pilot zum Dauerprojekt wird.

Dawid SochackiVeröffentlicht am Aktualisiert am 7 Min Lesezeit
KI-Integrationskosten: Warum KI-Agenten mehr kosten als der Token-Preis

KI-Integrationskosten entstehen nicht in erster Linie durch den Preis eines Sprachmodells, sondern durch Betrieb, Absicherung und Einbindung in Ihre IT-Landschaft. Wer für einen KI-Agenten nur Token kalkuliert, setzt sein Budget zu niedrig an und erlebt die Überraschung nach dem Pilotprojekt.

Der Token-Preis ist nur die sichtbare Spitze der KI-Integrationskosten

Ein niedriger Token-Preis sagt wenig über die Kosten eines fertigen Arbeitsergebnisses. Ein KI-Agent, der ein Angebot vorbereitet, arbeitet nicht wie eine Suchmaske. Er liest Dokumente, durchsucht Datenquellen, ruft Schnittstellen auf, bewertet Zwischenergebnisse und startet einzelne Schritte erneut, wenn das Resultat nicht plausibel genug ist.

Nehmen wir eine Vertriebsanfrage mit mehrseitiger Leistungsbeschreibung. Der Agent zieht Kundendaten aus dem Customer-Relationship-Management-System (CRM), sucht ähnliche Projekte im Dokumentenarchiv und gleicht Positionen mit dem Enterprise-Resource-Planning-System (ERP) ab. Für den Anwender dauert das ein paar Minuten. Im Hintergrund fallen dabei ein Vielfaches der Tokens einer einfachen Chat-Frage, mehrere Suchabfragen und eine ganze Reihe API-Aufrufe an. Der sichtbare Modellpreis ist dann oft der kleinste Teil der Rechnung.

Sinkende Token-Preise verleiten zu einer falschen Planung. Sobald ein Prozess produktiv läuft, steigen die Vorgangszahlen. Ein Vertriebsteam nutzt den Assistenten nicht einmal am Tag, sondern bei jeder Anfrage. Der Einkauf lässt Lieferantenunterlagen prüfen, der Kundenservice fasst Fälle zusammen. Günstigere Einheiten führen nicht zu kleineren Budgets, sondern zu deutlich mehr Nutzung.

Retrieval und Datenhaltung verursachen laufende Kosten außerhalb der Modellrechnung

Die Nebenkosten einer KI-Pipeline sind in vielen Projekten ein erheblicher Aufschlag auf die sichtbaren Modellkosten. Dazu zählen Embeddings, also numerische Repräsentationen Ihrer Dokumente für die semantische Suche, eine Vektordatenbank, Suchinfrastruktur, Zwischenspeicher und die Übertragung von Daten zwischen Systemen.

Dieser Kostenblock wird unterschätzt, weil er nicht mit der Zahl der Nutzer wächst, sondern mit Datenmenge und Aktualität. Ein Maschinenbauer mit einem großen Bestand technischer Dokumente zahlt für die erste Indexierung, und danach geht es weiter: Jede neue Revision einer Montageanleitung, jedes geänderte Datenblatt und jede neu abgelegte Serviceakte muss verarbeitet werden, wenn der KI-Agent verlässliche Antworten liefern soll.

Besonders teuer wird es, wenn niemand Datenquellen begrenzt. Ein Agent für den Service braucht nicht das gesamte Firmenlaufwerk. Er braucht freigegebene Handbücher, aktuelle Ersatzteillisten und dokumentierte Servicefälle. Wer stattdessen SharePoint, E-Mail-Archive und Netzlaufwerke ohne fachliche Auswahl anschließt, erhöht Kosten und Fehlerrisiko zugleich. Mehr Kontext macht einen KI-Agenten nicht automatisch besser. Oft macht unkuratiertes Material die Antworten schlicht ungenauer.

Was kostet Individualsoftware Mittelstand-Unternehmen? Das Harness ist klassische Softwareentwicklung

Der teuerste einmalige Teil eines KI-Projekts ist meist das Harness: die Kontroll- und Ausführungslogik rund um das Modell. Das Sprachmodell formuliert einen Vorschlag. Das Harness legt fest, welche Daten das Modell sehen darf, welche Werkzeuge es nutzen kann, wann ein Mensch freigibt und wie jeder Schritt protokolliert wird.

Ein Beispiel aus der Logistik: Ein KI-Agent soll bei verspäteten Lieferungen eine Kundenantwort vorbereiten. Ohne Harness könnte er aus einer unvollständigen Sendungsinformation eine verbindliche Lieferzusage machen. In einem sauber gebauten System darf der Agent den Status abfragen und einen Textentwurf erstellen, aber keine Zusage versenden, wenn die Datenlage widersprüchlich ist. Der Fall landet dann bei einem Disponenten. Das kostet Entwicklungszeit. Es verhindert aber, dass eine falsch versprochene Lieferung zum wirtschaftlichen Schaden wird.

Hier sparen manche Unternehmen am falschen Ende. Sie bauen in wenigen Wochen einen Chatbot-Demonstrator und nennen ihn später produktionsreif. Für einen belastbaren Einsatz brauchen Sie API-Anbindungen, Rechtekonzepte, Fehlerbehandlung, Tests, Lastverhalten und einen Audit-Trail, also eine nachvollziehbare Aufzeichnung der Entscheidungen und Datenzugriffe. In Finanzunternehmen oder regulierten Logistikprozessen ist das keine Komfortfunktion. Ohne diese Architektur kann der Betrieb bei einer Prüfung kaum erklären, was der KI-Agent getan hat.

Planen Sie den Bau des Harness als Softwareprojekt, nicht als Konfiguration eines Mietprodukts. Die Kosten fallen einmalig stärker ins Gewicht, doch genau dort entsteht der Wert, der auch nach einem Modellwechsel bleibt. Was Individualsoftware hier kostet, bemisst sich an Schnittstellen, Rechtekonzept und Tests, nicht am Modell.

Betriebskosten entstehen durch Qualitätskontrolle, Monitoring und Änderungen

Ein KI-Agent ist nach dem Start nicht fertig. Er muss beobachtet werden, weil sich Datenbestände, Prozesse und Modelle ändern. Das ist der Posten, der in Pilotbudgets am häufigsten fehlt.

Eine technische Verfügbarkeitsmeldung reicht nicht. Jemand muss regelmäßig Stichproben prüfen: Sind die Antworten fachlich richtig? Wurden vertrauliche Informationen ausgeblendet? Hat ein Update des Modellanbieters Stil oder Genauigkeit verändert? Bei einem Agenten, der jede Woche Hunderte Kundenanfragen vorbereitet, erzeugt schon eine kleine Fehlerquote eine Handvoll problematischer Vorgänge. Diese Fälle müssen erkannt werden, bevor sie beim Kunden landen.

Kalkulieren Sie deshalb feste Fachstunden ein. Zu Beginn braucht ein Prozessverantwortlicher jede Woche Zeit für Qualitätsprüfungen, bei kritischen Abläufen mehr. Dazu kommt technischer Betrieb für Monitoring, Sicherheitsupdates und die Pflege von Schnittstellen. Wenn das führende ERP-System ein Feld umbenennt, versteht der Agent die Welt nicht mehr automatisch. Eine API-Integration braucht Wartung, auch wenn das Modell selbst als Cloud-Dienst bezogen wird.

Wer diesen Aufwand kleinrechnet, vergleicht einen KI-Agenten mit installierter Standardsoftware. Das ist die falsche Kategorie. Ein KI-Agent ist eher ein neuer digitaler Mitarbeiter: schnell, skalierbar, aber abhängig von klaren Arbeitsanweisungen und Kontrolle.

Anbieterabhängigkeit wird zur späteren Rechnung, wenn Architektur fehlt

Exit-Kosten stehen in keiner monatlichen Anbieterrechnung, gehören aber zu den KI-Integrationskosten. Sie entstehen, wenn ein Anbieter Preise erhöht, ein Modell abkündigt, die Datenverarbeitung ändert oder Ihre Compliance-Vorgaben nicht mehr erfüllt.

Die entscheidende Frage lautet: Können Sie das Modell austauschen, ohne Ihren Prozess neu zu bauen? Stecken Prompts, Rechteprüfung, Dokumentensuche und Geschäftslogik tief in einer proprietären Plattform, wird aus einem Anbieterwechsel ein neues Projekt. Hat Ihre Architektur das Modell sauber vom Harness getrennt und nutzt offene Schnittstellen, bleibt der Wechsel überschaubar.

Das ist keine theoretische Vorsichtsmaßnahme. Ein Unternehmen mit sensiblen Konstruktionsdaten kann heute einen Cloud-Anbieter nutzen und morgen aus Datenschutz- oder Kundenvertragsgründen auf eine souveräne europäische Cloud-Architektur wechseln müssen. Daten, Quellcode und Zugriffsregeln müssen dann dem Unternehmen gehören. Bei dataso ist diese Trennung kein Luxus für Konzerne, sondern Grundsatz für mittelständische Kerngeschäftsprozesse. Bequemlichkeit am Projektanfang ist selten kostenlos. Sie wird nur später abgerechnet.

So planen Sie KI-Integrationskosten vor dem ersten Pilotprojekt

Eine belastbare Kalkulation beginnt pro Vorgang. Ermitteln Sie zuerst, wie viele Fälle monatlich anfallen, wie viel Bearbeitungszeit heute pro Fall entsteht und welchen Arbeitsschritt der KI-Agent nachweisbar übernehmen darf. Rechnen Sie dann mit dem tatsächlichen Daten- und Werkzeugverbrauch, nicht mit einem idealisierten Chatfenster.

Für einen ersten Business Case reichen diese Kostenblöcke: Modellnutzung, Datenpipeline, Bau des Harness, laufender Betrieb und Exit-Kosten. Die Modellnutzung schätzen Sie pro Vorgang und messen sie nach wenigen Wochen echter Nutzung nach. Für die Datenpipeline ist ein separater Puffer sinnvoll, weil die erste Datenbereinigung fast immer mehr Aufwand verursacht als erwartet. Beim Betrieb gehören Fachbereichsstunden in die Rechnung, nicht allein die Rechnung des Cloud-Anbieters.

Das Rechenbeispiel ist einfach. Ein Sachbearbeiter braucht für eine standardisierte Lieferantenauskunft eine messbare Zeit, und der Vorgang fällt viele Male im Monat an. Spart der KI-Agent verlässlich einen Großteil dieser Zeit, ergibt sich ein monatliches Stundenvolumen. Davon ziehen Sie Kosten für Nutzung, Betrieb und Qualitätsprüfung ab. Bleibt ein klarer Vorteil, ist der Prozess geeignet. Bleibt nur ein knappes Plus, würde ich nicht bauen. Ein einziger Fehler bei Preis, Liefertermin oder Vertrag kann den Rechenvorteil auffressen.

Starten Sie deshalb mit Prozessen, deren Ergebnis leicht zu prüfen ist. Antwortentwürfe, Dokumentklassifikation oder die Suche nach bestehenden Informationen eignen sich besser als autonome Vertragsfreigaben. Ein KI-Agent lohnt sich nicht, wenn ein Vorgang selten auftritt, fachlich schwer prüfbar ist oder kaum Zeit spart. Bei chaotischen Quelldaten ist zuerst die Daten- und Prozessarbeit fällig. Die Fehler eines schlecht überwachten KI-Agenten sind die teuersten versteckten Kosten, weil sie in keiner IT-Rechnung erscheinen.

Rechnen Sie vor dem ersten Rollout einen konkreten Prozess mit Fallzahlen, Prüfaufwand und Exit-Szenario durch. Wenn Sie diese Rechnung gegenprüfen lassen wollen, buchen Sie einen Potenzial-Check: eine halbe Stunde, kostenlos, und Sie wissen danach, ob der Prozess einen KI-Agenten trägt oder ob zuerst die Daten dran sind.

  • Geschäftsführung im Mittelstand

Mehr zum Thema