KI-Gesamtkostenrechnung: Was ein KI-Agent wirklich kostet

Ein KI-Projekt kostet fast nie das, was der Token-Preisrechner verspricht. Für eine belastbare KI-Gesamtkostenrechnung müssen Finanzverantwortliche den Verbrauch pro Geschäftsvorgang, die technische Betriebsplattform, den Entwicklungsaufwand und die menschliche Qualitätskontrolle zusammenführen.

Token-Preise sind 2026 deutlich gefallen. Das ist gut, aber für die Budgetplanung nur ein kleiner Teil der Wahrheit. Ein KI-Agent für Angebotsvorbereitung, Rechnungsprüfung oder Kundenservice verarbeitet nicht einfach eine Frage und liefert eine Antwort. Er durchsucht Dokumente, ruft Schnittstellen auf, prüft Regeln, erstellt Zwischenergebnisse und startet bei unklaren Fällen erneut. Aus einem scheinbar günstigen Modellaufruf wird ein technischer Prozess mit vielen Kostenstellen.

Der Token-Preis ist keine Projektkalkulation

Die sichtbare Modellrechnung unterschätzt den tatsächlichen Verbrauch, weil KI-Agenten in Schleifen arbeiten. Ein einzelner Vorgang kann je nach Komplexität zwischen 50.000 und 500.000 Tokens benötigen. Das betrifft etwa einen Agenten, der aus E-Mails, Preislisten, technischen Datenblättern und Daten aus dem ERP-System einen Angebotsentwurf erstellt.

Nehmen wir einen mittelständischen Maschinenbauer mit 1.200 Angebotsanfragen im Monat. Ein einfacher Test mit einer einzelnen Eingabe kommt vielleicht auf 8.000 Tokens pro Anfrage. Im produktiven Ablauf liest der KI-Agent aber Anhänge, sucht ähnliche Projekte, prüft Lieferzeiten über eine API und formuliert Rückfragen. Dann sind 90.000 Tokens pro Anfrage kein exotischer Ausreißer mehr. Die Token-Kosten bleiben relevant, doch die entscheidende Zahl lautet: Was kostet eine korrekt bearbeitete Anfrage?

Rechnen Sie deshalb immer pro Vorgang. Monatsbudgets ohne Vorgangsmenge kaschieren Skalierungseffekte. Bei 100 Testvorgängen wirkt fast jede Architektur günstig. Bei 30.000 Vorgängen im Quartal zeigt sich, ob Caching, Modellwahl und Abbruchregeln sauber gebaut wurden.

Schritt 1: Den Geschäftsvorgang sauber abgrenzen

Eine KI-Gesamtkostenrechnung beginnt mit einem einzigen, messbaren Geschäftsvorgang. „KI im Kundenservice“ ist kein Vorgang. „Eine eingehende Reklamation klassifizieren, relevante Bestelldaten abrufen und eine Antwort zur Freigabe vorbereiten“ schon.

Beschreiben Sie den Ablauf so, dass Controlling und Fachabteilung dieselbe Arbeit meinen. Halten Sie fest, welches Ergebnis der KI-Agent liefern soll, welche Systeme er lesen oder beschreiben darf und an welcher Stelle ein Mensch entscheidet. Gerade die letzte Frage trennt vernünftige Automatisierung von riskantem Aktionismus.

Ein Beispiel aus der Logistik: Ein KI-Agent soll Abweichungen zwischen Frachtrechnung und vereinbarten Konditionen erkennen. Der Vorgang endet nicht bei „Abweichung gefunden“. Er endet erst, wenn die Rechnung entweder freigegeben, zur Korrektur zurückgestellt oder an einen Sachbearbeiter eskaliert wurde. Nur diese vollständige Kette lässt sich wirtschaftlich bewerten.

Schritt 2: Die Modellkosten pro Vorgang messen

Die Modellkosten ergeben sich aus Eingabe-Tokens, Ausgabe-Tokens und zusätzlichen Modellaufrufen. Nutzen Sie Messwerte aus einem Prototypen oder einer repräsentativen Stichprobe von mindestens 50 realen Vorgängen. Demo-Prompts aus dem Workshop sind keine Datengrundlage.

Erfassen Sie dabei getrennt:

• Tokens für Dokumente, Chatverlauf und Systemanweisungen
• Tokens für die Antwort des KI-Agenten
• Wiederholungen, etwa nach ungültigen Tool-Aufrufen oder unklaren Ergebnissen
• Kosten für stärkere Modelle bei Eskalationsfällen

Ein praktischer Fehler passiert häufig bei langen Dokumenten. Ein KI-Agent bekommt beispielsweise eine 80-seitige Vertragsanlage bei jedem einzelnen Schritt erneut in den Kontext gelegt. Technisch funktioniert das. Wirtschaftlich ist es schlampig. Dokumente müssen segmentiert, relevante Abschnitte gezielt abgerufen und Zwischenergebnisse wiederverwendet werden. Das senkt Kosten und verbessert meist die Antwortqualität.

Schritt 3: Die versteckten Pipeline-Kosten ergänzen

Zusätzlich zu den Modellkosten entstehen Kosten für Retrieval Augmented Generation, kurz RAG: Der KI-Agent sucht dabei passende Unternehmensinformationen, statt sein Ergebnis ausschließlich aus dem Sprachmodell zu erzeugen. Dafür brauchen Sie Embeddings, also numerische Repräsentationen von Texten, eine Vektordatenbank, Speicher, Suchabfragen und oft einen Zwischenspeicher.

In produktiven KI-Agenten liegen diese Pipeline-Kosten oft 40 bis 60 Prozent über der sichtbaren Modellrechnung. Der genaue Anteil hängt von Datenmenge, Aktualisierungsrate und Architektur ab. Bei einem Vertriebsagenten mit 20.000 aktuellen Produktdokumenten fällt die laufende Suche stärker ins Gewicht als bei einem kleinen internen FAQ-Bot. Werden Preislisten täglich aktualisiert, verursacht auch die erneute Aufbereitung der Daten messbare Kosten.

Setzen Sie für die erste Planung daher einen Zuschlag von 50 Prozent auf die Modellkosten an, bis reale Betriebsdaten vorliegen. Wer diesen Posten mit null kalkuliert, baut kein Budget, sondern eine Wunschvorstellung.

Schritt 4: Den Bau des Harness als Softwareprojekt kalkulieren

Der Harness ist die Kontroll- und Ausführungslogik um das Sprachmodell. Er legt fest, welche Werkzeuge der KI-Agent verwenden darf, wann Freigaben erforderlich sind, wie Fehler behandelt werden und welche Nachweise im Audit-Trail, also im nachvollziehbaren Änderungsprotokoll, gespeichert werden. Der Harness entscheidet über die Verlässlichkeit des Systems, nicht der Modellname auf der Anbieterfolie.

Dieser Aufwand ist klassische Softwareentwicklung. Ein KI-Agent, der Daten aus Microsoft Dynamics, einem Dokumentenarchiv und einer E-Mail-Inbox nutzt, braucht sichere API-Anbindungen, Berechtigungsprüfungen, Testfälle und eine klare Fehlerbehandlung. Wenn der Abruf aus dem ERP-System fehlschlägt, darf der KI-Agent keine Lieferzusage erfinden. Er muss den Vorgang abbrechen oder an einen Menschen übergeben.

Kalkulieren Sie den Bau getrennt nach Architektur, Integration, Entwicklung, Qualitätssicherung und Sicherheitsprüfung. Ein schneller Prototyp kann in wenigen Tagen stehen. Ein produktiver Agent für einen regulierten Prozess ist etwas anderes. Dort entstehen die Kosten nicht durch das Eingabefeld, sondern durch Rechtekonzept, Protokollierung, Freigabe-Gates und belastbare Tests mit echten Sonderfällen.

Schritt 5: Betrieb, Qualität und Personalstunden einpreisen

Ein KI-Agent ist keine Standardsoftware, die nach dem Go-live unbeaufsichtigt läuft. Modelle ändern sich, Schnittstellen verändern Antwortformate, Datenquellen werden umstrukturiert. Auch die Qualität verschiebt sich: Ein Prompt, der im Januar gut funktioniert hat, kann nach einem Modellupdate plötzlich mehr Eskalationen erzeugen.

Planen Sie feste Betriebsstunden ein. Dazu gehören die Auswertung von Fehlfällen, die Pflege der Wissensbasis, das Überwachen von Kostenlimits und regelmäßige Tests. Bei einem Agenten, der täglich 200 Vorgänge bearbeitet, reicht es oft nicht, wenn ein Fachbereich einmal im Quartal zehn Antworten überfliegt. Die Qualitätssicherung braucht einen verantwortlichen Owner und eine definierte Prüfquote.

Ein brauchbarer Startwert für einen klar abgegrenzten Prozess sind zwei bis sechs Stunden pro Woche für Betrieb und Fachprüfung. Bei sensiblen Entscheidungen, etwa im Finanzbereich oder bei Vertragsinhalten, liegt der Aufwand höher. Das ist kein Makel der Technologie. Es ist der Preis dafür, dass ein System nachvollziehbar und kontrollierbar arbeitet.

Schritt 6: Exit-Kosten und Anbieterabhängigkeit bewerten

Exit-Kosten entstehen, wenn Sie das Sprachmodell, die Cloud-Plattform oder die Vektordatenbank wechseln müssen. Der Anlass kann eine Preiserhöhung sein, eine geänderte Datenverarbeitung oder die Abkündigung eines Modells. Wer den KI-Agenten eng an einen einzelnen Anbieter bindet, bezahlt diese Entscheidung später mit Umbauaufwand.

Bewerten Sie konkret, welche Teile austauschbar sind. Liegen Prompts, Datenzugriffe und Geschäftsregeln im eigenen Code? Können Sie Modelle über eine einheitliche Schnittstelle wechseln? Gehören Daten und Protokolle Ihrem Unternehmen? Offene Standards sind kein Selbstzweck. Sie senken das Risiko, dass eine Beschaffungsentscheidung aus dem Jahr 2026 ein teures Zwangsprojekt im Jahr 2028 auslöst.

dataso plant KI-Agenten deshalb architecture first: Die Geschäftslogik bleibt vom Modell entkoppelt, sensible Daten folgen einem klaren Berechtigungskonzept, und der Audit-Trail bleibt beim Kunden. Das kostet am Anfang etwas mehr Disziplin. In der Praxis ist es günstiger als ein späterer Komplettumbau.

Die Formel für Ihre KI-Gesamtkostenrechnung

Die vollständige KI-Gesamtkostenrechnung lässt sich für einen Zeitraum von zwölf Monaten so aufbauen:

Gesamtkosten = Modellkosten + Pipeline-Kosten + einmalige Entwicklungskosten + Betriebskosten + Exit-Rückstellung.

Teilen Sie diese Summe durch die erwartete Zahl korrekt bearbeiteter Vorgänge. Dann erhalten Sie den Preis pro Vorgang. Stellen Sie diesem Preis die heutige Bearbeitungszeit, den internen Vollkostensatz und die Fehlerkosten gegenüber.

Bearbeitet ein Sachbearbeiter eine Reklamation heute in 18 Minuten bei einem Vollkostensatz von 55 Euro pro Stunde, kostet der Vorgang 16,50 Euro, bevor Fehler oder Wartezeiten eingerechnet sind. Übernimmt ein KI-Agent verlässlich die Vorprüfung und reduziert die menschliche Bearbeitung auf sechs Minuten, spart das 11 Euro pro Vorgang. Kostet der KI-Agent inklusive aller Kosten 3,20 Euro pro Vorgang, bleibt ein belastbarer wirtschaftlicher Vorteil. Kostet er 10,80 Euro, lohnt sich das Projekt nur, wenn Geschwindigkeit, Servicequalität oder Risikoreduktion den Rest rechtfertigen.

FAQ

Wie hoch sind die versteckten Kosten eines KI-Agenten?

Für Retrieval, Embeddings, Datenaufbereitung, Suchinfrastruktur und Wiederholungen sollten Sie zunächst 40 bis 60 Prozent zusätzlich zu den reinen Modellkosten ansetzen. Der tatsächliche Wert lässt sich nach einem Pilotbetrieb messen. Bei großen oder häufig aktualisierten Dokumentenbeständen kann der Anteil höher liegen.

Reicht ein Token-Preisvergleich zwischen Anbietern für die Budgetfreigabe?

Nein. Ein günstigeres Modell kann mehr Wiederholungen benötigen, längere Antworten erzeugen oder zusätzliche Kontrolllogik verlangen. Vergleichen Sie Anbieter anhand der Kosten pro korrekt abgeschlossenem Geschäftsvorgang, nicht anhand eines Preises pro Million Tokens.

Welche Kosten werden bei KI-Projekten am häufigsten vergessen?

Am häufigsten fehlen Entwicklungsaufwand für Integration und Sicherheitslogik, laufende Qualitätssicherung sowie Exit-Kosten. Besonders teuer wird es, wenn ein KI-Agent ohne Audit-Trail arbeitet und Fehler später nicht nachvollziehbar sind.

Wann lohnt sich ein KI-Agent wirtschaftlich?

Ein KI-Agent lohnt sich bei häufigen, klar strukturierten Vorgängen mit prüfbaren Ergebnissen. Gute Kandidaten sind etwa Angebotsvorbereitung, Dokumentenklassifikation oder Rechnungsabgleich. Prozesse mit seltenen Sonderfällen, unklarer Verantwortung und schwer erkennbaren Fehlern sind ein schlechter Startpunkt.

Fazit

Erstellen Sie vor der Budgetfreigabe für jeden KI-Agenten eine KI-Gesamtkostenrechnung pro Geschäftsvorgang und rechnen Sie Pipeline, Betrieb sowie Exit-Risiko offen ein. Für B2B-Unternehmen im Rhein-Main-Gebiet, etwa in Darmstadt oder Frankfurt, ist der nächste sinnvolle Schritt ein 90-minütiger Workshop mit Fachbereich, IT und Controlling: Wählen Sie einen prüfbaren Prozess, erfassen Sie reale Fallzahlen und besprechen Sie anschließend die KI-Potenziale für Ihr Unternehmen in einem Termin.