Wer die KI-Kosten pro Aufgabe nicht berechnen kann, hat nicht kalkuliert
Unternehmen budgetieren KI wie eine Software mit Sitzplatzlizenz. Tatsächlich handelt es sich um einen nach Verbrauch abgerechneten Versorgungsdienst, dessen Zähler auf der Einkaufsseite kaum jemand modelliert.
Die meisten Unternehmen, die KI im großen Stil einsetzen, können ihre KI-Kosten pro Aufgabe bis heute nicht beziffern. Sie kennen den Preis pro Nutzer für jedes andere Tool im Portfolio, und sie kennen die Listenpreise auf der Preisseite des Anbieters. Was dazwischen liegt, die Kosten für ein fertiges Arbeitsergebnis, ist meist ein Achselzucken und eine monatliche Rechnung, die niemand aufschlüsseln kann.
Diese Lücke ist kein Detail der Finanzabteilung, sie ist ein Kategorienfehler. Business-Software wird seit dreißig Jahren pro Sitzplatz verkauft, also modelliert der Einkauf reflexhaft auch KI pro Sitzplatz: eine Zeile im Forecast, skaliert mit der Kopfzahl. Tatsächlich gekauft wurde ein nach Verbrauch abgerechneter Versorgungsdienst. Der Zähler misst Token, und wie viele Token eine Aufgabe verbraucht, hat mit der Zahl der angemeldeten Nutzer fast nichts zu tun.
Der Zähler misst, was der Anbieter definiert
Ein Token ist kein Wort, keine Silbe, keine linguistische Einheit, die ein Mensch wiedererkennen würde. Es ist ein Fragment, das ein Kompressionsalgorithmus erzeugt, der zum Vokabular umfunktioniert wurde. Das Verfahren, das heute die Abrechnung der Branche trägt, wurde von Rico Sennrich, Barry Haddow und Alexandra Birch an der University of Edinburgh aus einer Byte-Pair-Encoding-Kompressionsmethode adaptiert, aufbauend auf Philip Gages Kompressionsarbeit von 1994. Gewählt wurde es, weil es seltene Wörter elegant handhabt, nicht weil es als Abrechnungseinheit taugen sollte. Genau dazu wurde es trotzdem.
Der Kunde unterschreibt einen Vertrag, der in einer Größe denominiert ist, die ein Nebenprodukt eines Trainingslaufs ist, während der Anbieter den Preis pro Million Token auf einer öffentlichen Preisseite veröffentlicht, die sich jederzeit ändern kann. Die Rate ist sichtbar, wie das Volumen es nie ist. Sie kontrollieren weder, wie viele Token Ihr Prompt wird, noch wie viele das System als Antwort erzeugt, und die Rechnung ist das Produkt aus beidem.
Wie berechnet man KI-Kosten pro Aufgabe?
Der Ausgangspunkt ist der Mechanismus: Das Modell hat kein Gedächtnis zwischen Anfragen. Kontinuität ist eine Illusion, erzeugt dadurch, dass bei jeder Runde die komplette Konversation erneut mitgeschickt wird, dazu versteckte Systemanweisungen und Tool-Definitionen. Die Dokumentation der Anbieter ist da eindeutig: Ausgaben aus vorherigen Runden werden in späteren Runden zu Eingaben.
Die Rechnung folgt ohne Benchmark. Fügt jede Runde etwa k Token hinzu und wird jede bisherige Runde erneut verarbeitet, ergibt sich über n Runden ein verarbeiteter Gesamtkontext von k(1+2+…+n), also kn(n+1)/2, quadratisch zur Rundenzahl. Läuft eine Sitzung beispielsweise über zehn Runden mit je rund tausend Token, werden Sie für etwa 55.000 Eingabetoken belastet statt der 10.000, die ein lineares Modell erwarten lässt, weil die zehnte Runde die vorherigen neun gleich mit bezahlt. Ein Chat-Assistent antwortet einmal und ist fertig, ein Agent iteriert, und die Iteration ist die Kostenkurve.
Dazu kommt der Fixkostenanteil. Systemanweisungen und Tool-Schemata laufen bei jedem Aufruf mit, weshalb kurze Aufgaben eine miserable Overhead-Quote tragen: Ein Großteil der Anfrage geht drauf für die erneute Beschreibung der Werkzeuge, nicht für die eigentliche Arbeit. Dividieren Sie anschließend durch die Erfolgsquote. Führen beispielsweise nur sieben von zehn Versuchen zu einem verwertbaren Ergebnis, liegen Ihre tatsächlichen Kosten pro abgeschlossener Aufgabe rund 43 % über dem naiv berechneten Wert.
Der Zähler läuft pro Versuch, während der Wert nur bei Erfolg entsteht, und jeder KI-Business-Case, der beide Zahlen stillschweigend gleichsetzt, weist eine zu hohe Marge aus.
Warum kostet dieselbe Aufgabe in manchen Sprachen mehr?
Weil das Vokabular gelernt wurde, überwiegend aus englischlastigen Webtexten, und komprimiert, was es häufig gesehen hat, deutlich besser als das, was selten vorkam. Unabhängige, auf der NeurIPS vorgestellte Arbeit von Petrov und Kollegen, die parallele mehrsprachige Texte verglichen haben, dokumentiert erhebliche sprachabhängige Unterschiede in der tokenisierten Länge, wobei das Ausmaß vom Tokenizer und dem Sprachpaar abhängt.
Das Ergebnis ist eine Margenstruktur, die niemand bewusst gewählt hat. Dieselbe Kundeninteraktion, in gleicher Qualität geliefert, kostet das Unternehmen in manchen Märkten systematisch mehr als in anderen, und der Unterschied taucht in keinem Dashboard auf, das Kosten pro Nutzer ausweist. Mehrsprachige Produkte haben ein Unit-Economics-Problem pro Markt, das nie ins Preismodell eingeflossen ist, und codelastige Workloads erben dieselbe Asymmetrie aus der Gegenrichtung.
Die Grenze, die lautlos versagt
Das Context Window ist eine harte Grenze, und wird sie überschritten, fällt etwas heraus. Das Symptom, nachlassende Antwortqualität tief in einer langen Sitzung, sieht genau wie Unzuverlässigkeit aus, also eskalieren Teams zu einem größeren Modell oder wechseln den Anbieter, wenn eigentlich eine falsch dimensionierte Kapazität vorlag. Das lässt sich nur diagnostizieren, wenn man die veröffentlichten Grenzen des Gekauften kennt, veröffentlicht heißt vom Anbieter benannt und datiert, so wie OpenAIs Paper vom Mai 2020, das GPT-3 als autoregressives Modell mit 175 Milliarden Parametern ausweist. Alles, was aus einem Blog-Aggregator stammt, ist Folklore. Das sollte man vor der Build-Entscheidung klären, nicht erst in der Nachbesprechung des Vorfalls.
Was passiert, wenn die Rabatte auslaufen?
Der naheliegende Einwand: Die Tokenpreise sind wiederholt gefallen, wozu also dieser Aufwand? Weil sich Preis pro Einheit und verbrauchte Einheiten in entgegengesetzte Richtungen bewegen. Die Preise pro Token sinken, während agentische Nutzungsmuster den Verbrauch pro Aufgabe um eine Größenordnung nach oben treiben, und derzeit überholt der zweite Effekt den ersten. Fallende Preise sind ein Argument dafür, die eigene Kurve zu kennen, nicht dagegen. Die Kurve zeigt, welche Workloads bei welchem Preis von unrentabel zu rentabel kippen, und welche nur solvent waren, weil jemand anderes die Differenz getragen hat.
Ob die aktuellen Preise über oder unter den tatsächlichen Bereitstellungskosten liegen, lässt sich von außen nicht überprüfen. Die Struktur dagegen ist sichtbar: Der Anbieter definiert die Einheit, setzt die Rate und ändert beides nach eigenem Ermessen, während der Kunde keine unabhängige Möglichkeit hat, die abgerechnete Menge zu prüfen. Das ist ein ungewöhnliches Maß an Asymmetrie für eine operative Kostenposition, und die vernünftige Reaktion ist Engineering, nicht Beschwerde: Token pro abgeschlossener Aufgabe je Workload messen, die Fehlerquote erfassen, die Konversationslänge bewusst begrenzen und Agenten-Loops so bauen, dass sie nicht ihre gesamte Historie hinter sich herschleppen. Das sind Architekturentscheidungen darüber, wie Agenten gebaut werden, und sie gehören in die technische Strategie, nicht in die Finanzrunde.
Ein Unternehmen, das seine KI-Kosten pro Sitzplatz, pro Aufruf oder pro Monat beziffern kann, hat etwas gemessen. Nur nicht das, was es tatsächlich kauft.
Häufige Fragen
Was sollte ich statt Token pro API-Aufruf messen?
Token pro abgeschlossener Aufgabe, aufgeschlüsselt nach Workload, mit der Fehlerquote dazu. Eine Pro-Aufruf-Kennzahl verdeckt sowohl den erneut übermittelten Kontext mehrstufiger Sitzungen als auch die Kosten der Versuche, die nichts Verwertbares erzeugt haben, und genau dort verbirgt sich die tatsächliche Mehrausgabe.
Beheben Caching oder kürzere Prompts die überproportional steigenden Kosten langer Agenten-Sitzungen?
Sie senken die Konstante, nicht die Form der Kurve. Kürzere Systemanweisungen oder wiederverwendeter gecachter Kontext senken die Kosten pro Runde, aber solange der bisherige Verlauf bei jeder Runde erneut mitgeschickt wird, wächst der verarbeitete Gesamtkontext weiter quadratisch mit der Rundenzahl. Erst eine bewusste Begrenzung der Sitzungslänge und eine Zusammenfassung der Historie verändern die Kurve selbst.
Warum steigen unsere KI-Ausgaben, ohne dass neue Nutzer hinzukommen?
Weil die Ausgaben die geleistete Arbeit abbilden, nicht die Zahl der Sitzplätze. Ein einzelner Nutzer, der längere, agentischere Aufgaben mit mehr Tool-Aufrufen ausführt, verbraucht weit mehr als mehrere Nutzer, die einmalige Fragen stellen, weshalb kopfzahlbasierte Prognosen fast sofort driften, sobald Agenten den Chat ablösen.
Verwandte Artikel
- Das Speicher-Oligopol, das die KI-Kosten explodieren lässt
- Least Privilege für KI-Agenten: Ihr Pilotprojekt überspringt eine Idee von 1975
- Die KI-Subventionsklippe: Ihre KI-Rechnung haben bisher die Investoren Ihres Anbieters bezahlt
- AI & Automation
Verfasst von einer KI-Redaktionspersona des proprietären Redaktionssystems von Abyshire und von unserem Team geprüft.