Die Preisliste sieht harmlos aus. Ein Betrag je Million Token für die Eingabe, ein höherer für die Ausgabe, ein paar Zeilen für die verschiedenen Modellgrößen. Aus diesen Zahlen lässt sich ohne Weiteres kein Monatsbetrag ableiten, und genau deshalb überrascht die erste Rechnung so viele Teams.

Der Grund liegt selten am Preis je Token. Er liegt in der Menge: Wie oft wird ein Vorgang ausgelöst, wie viel Text steht bei jedem Aufruf im Kontext, wie oft wird ein Ergebnis verworfen und neu erzeugt. Diese drei Größen bestimmen die Rechnung, und keine davon steht in der Preisliste.

Der folgende Weg führt von den Preisangaben zu einer belastbaren Monatssumme, mit einem Rechenbeispiel für einen internen Anwendungsfall und einer Liste der Posten, die in Angeboten regelmäßig fehlen. Die verwendeten Preise sind Annahmen für die Rechnung; verbindlich ist ausschließlich die aktuelle Preisliste des jeweiligen Anbieters.

Die Rechnung in Kurzform

• Grundformel: Vorgänge pro Monat, multipliziert mit Token je Vorgang, multipliziert mit dem Preis je Token.
• Teuerster Hebel: die Länge des mitgeschickten Kontexts, nicht die Länge der Antwort.
• Zweitgrößter Posten: Wiederholungen, also verworfene und erneut erzeugte Ergebnisse.
• Häufig vergessen: Einbettungen, Speicherung, Ausfallsicherung, Protokollierung, Prüfaufwand.
• Messgrundlage: eigene Beispieltexte durch das Zählwerkzeug des Anbieters, keine Schätzung aus der Zeichenzahl.
• Vor dem Start: eine Obergrenze je Monat und eine Begrenzung je Nutzer festlegen.
• Prüfrhythmus: monatlich in den ersten drei Monaten, danach quartalsweise.

Warum der Preis je Token wenig aussagt

Zwei Angebote mit identischem Preis je Million Token können sich in der Monatsrechnung um ein Vielfaches unterscheiden. Entscheidend ist, wie viele Token ein einzelner Vorgang verbraucht, und das hängt an der Gestaltung der Anwendung, nicht am Anbieter.

Ein Beispiel aus dem Alltag: Zwei Teams bauen dieselbe Funktion für die Beantwortung von Kundenanfragen. Das eine schickt bei jedem Aufruf das gesamte Handbuch mit, das andere sucht vorher die drei passenden Abschnitte heraus. Der Unterschied im Verbrauch liegt bei einer Größenordnung, bei identischem Ergebnis.

Für die Kalkulation folgt daraus: Der Preisvergleich zwischen Anbietern ist der letzte Schritt, nicht der erste. Zuerst wird der eigene Verbrauch gemessen. Wie stark technische Entscheidungen die laufenden Kosten eines Produkts festlegen, zeigt auch der Text über die Rolle von Technologie in der Produktentwicklung.

Was ein Token ist und wie viel Text darin steckt

Abgerechnet wird nicht nach Wörtern, sondern nach Token. Ein Token ist ein Textbaustein, häufig ein Wortteil, manchmal ein ganzes kurzes Wort, manchmal ein Satzzeichen. Die Zerlegung übernimmt ein Verfahren, das je nach Modell unterschiedlich arbeitet.

Für deutschsprachige Texte ist das relevant. Lange zusammengesetzte Wörter werden in mehrere Bausteine zerlegt, sodass derselbe Inhalt in deutscher Sprache in der Regel mehr Token ergibt als in englischer. Wer mit englischsprachigen Erfahrungswerten kalkuliert, rechnet zu niedrig.

Belastbar wird die Zahl nur durch Messung. Anbieter stellen Werkzeuge bereit, mit denen sich ein Text auszählen lässt. Sinnvoll sind dafür fünf bis zehn echte Beispiele aus dem geplanten Anwendungsfall, keine konstruierten Musterfälle.

Die drei Größen, aus denen die Menge entsteht

Erstens die Zahl der Vorgänge: Wie oft wird die Funktion ausgelöst? Für interne Anwendungen ergibt sich das aus der Zahl der Nutzenden und der Häufigkeit pro Tag, für kundenseitige Anwendungen aus Zugriffszahlen und einer Annahme über den Anteil, der die Funktion tatsächlich verwendet.

Zweitens die Token je Vorgang, getrennt nach Eingabe und Ausgabe. Zur Eingabe zählt alles, was mitgeschickt wird: Anweisung, Beispiele, Auszüge aus Dokumenten, bisheriger Gesprächsverlauf. Die Ausgabe ist meist der kleinere Teil, wird aber je Token höher berechnet.

Drittens die Wiederholungen. In der Praxis wird ein Teil der Ergebnisse verworfen und erneut erzeugt, weil die Antwort unbrauchbar war oder ein automatischer Prüfschritt sie abgelehnt hat. Ein Aufschlag in der Größenordnung von zehn bis dreißig Prozent ist realistisch und gehört in die Rechnung.

Kontextlänge ist der teuerste Hebel

Große Kontextfenster werden als Vorteil beworben, und für einzelne Aufgaben sind sie das auch. In der Monatsrechnung sind sie der Posten mit der stärksten Hebelwirkung, weil der mitgeschickte Text bei jedem einzelnen Aufruf erneut bezahlt wird.

Besonders auffällig wird das bei Gesprächsverläufen. Wenn bei jeder neuen Frage der gesamte bisherige Verlauf mitgeschickt wird, wächst der Verbrauch je Aufruf mit jeder Runde. Ein Gespräch über zwanzig Fragen kostet damit ein Vielfaches von zwanzig Einzelfragen.

Die üblichen Gegenmaßnahmen sind unspektakulär: Verläufe kürzen oder zusammenfassen, statt sie vollständig mitzuschicken, aus Dokumenten nur die passenden Abschnitte auswählen, und Anweisungen knapp halten. Jede dieser Maßnahmen wirkt unmittelbar auf die Rechnung.

LLM Kosten kalkulieren in sieben Schritten

Die Reihenfolge ist wichtig, weil jeder Schritt auf dem vorherigen aufbaut:

1. Anwendungsfall abgrenzen. Ein Vorgang, ein Auslöser, ein erwartetes Ergebnis. Mehrere Anwendungsfälle werden getrennt gerechnet.
2. Menge schätzen. Vorgänge pro Arbeitstag, hochgerechnet auf den Monat, mit einer oberen und einer unteren Annahme.
3. Beispiele messen. Fünf bis zehn echte Fälle durch das Zählwerkzeug schicken, Eingabe und Ausgabe getrennt notieren.
4. Mittelwert bilden. Durchschnitt je Vorgang, zusätzlich der höchste gemessene Wert für die Obergrenzenrechnung.
5. Preise einsetzen. Aktuelle Werte aus der Preisliste, Eingabe und Ausgabe getrennt, in derselben Währung.
6. Aufschläge ergänzen. Wiederholungen, Testbetrieb, Entwicklungsaufwand während der Einführung.
7. Nebenposten addieren. Einbettungen, Speicherung, Betrieb, Protokollierung, Prüfaufwand durch Menschen.

Das Ergebnis ist eine Spanne, keine Zahl. Wer eine einzelne Summe nennt, verschweigt die Annahme, auf der sie beruht.

Ein Rechenbeispiel für einen internen Anwendungsfall

Angenommen wird eine interne Funktion, die eingehende Anfragen einordnet und einen Antwortentwurf erzeugt. Zwanzig Personen nutzen sie, im Schnitt fünfzehn Vorgänge pro Person und Arbeitstag, zwanzig Arbeitstage im Monat. Das ergibt sechstausend Vorgänge.

Die Messung an echten Beispielen ergibt zweitausend Token Eingabe und vierhundert Token Ausgabe je Vorgang. Für den Monat sind das zwölf Millionen Token Eingabe und 2,4 Millionen Token Ausgabe. Mit einem angenommenen Preis von einem Euro je Million Token Eingabe und drei Euro je Million Token Ausgabe ergeben sich zwölf und 7,2 Euro, zusammen rund neunzehn Euro.

Auf diesen Wert kommen zwanzig Prozent für Wiederholungen, also knapp vier Euro. Die reine Modellnutzung liegt damit bei etwa dreiundzwanzig Euro im Monat. Die Zahl wirkt niedrig, und genau das ist die Falle: Der Modellanteil ist bei kleinen internen Anwendungen selten der größte Posten.

Interessant wird die Rechnung erst durch die Gegenprobe. Verdreifacht sich die Eingabe je Vorgang, weil ganze Dokumente statt Auszügen mitgeschickt werden, steigt die Summe auf mehr als das Doppelte, ohne dass sich an der Zahl der Vorgänge etwas geändert hätte. Verzehnfacht sich zusätzlich die Nutzung, weil die Funktion in ein Kundenportal wandert, liegt der Monatsbetrag im mittleren dreistelligen Bereich, und die nächste Verzehnfachung ist dann eine Frage der Werbewirkung.

Dieselbe Tabelle beantwortet damit zwei Fragen auf einmal: was der aktuelle Stand kostet und ab welcher Menge die Gestaltung der Anwendung geändert werden muss. Beide Werte gehören in dieselbe Datei, mit den Annahmen in einer eigenen Spalte.

Wie sich die Modellwahl in der Rechnung niederschlägt

Anbieter führen mehrere Modellgrößen mit deutlich unterschiedlichen Preisen. Die Versuchung, grundsätzlich das größte zu verwenden, ist verständlich und in den meisten Anwendungsfällen unnötig teuer.

Aufgabe	Passende Größe	Begründung	Prüfung vor der Entscheidung
Einordnen in feste Kategorien	kleines Modell	begrenzter Antwortraum, klare Regeln	Trefferquote an hundert echten Fällen
Zusammenfassen kurzer Texte	kleines bis mittleres Modell	Inhalt liegt vollständig im Kontext	Stichprobe durch eine Fachperson
Entwurf für Kundenkommunikation	mittleres Modell	Ton und Sprachqualität zählen	Anteil der Entwürfe, die unverändert bleiben
Mehrstufige Ableitung aus Dokumenten	großes Modell	Fehler pflanzen sich über Schritte fort	Vergleich beider Größen an denselben Fällen
Massenverarbeitung im Hintergrund	kleines Modell, verzögerte Verarbeitung	Zeit spielt keine Rolle, Menge schon	Preis für nicht sofortige Verarbeitung erfragen

Der belastbare Weg ist ein Vergleich an denselben hundert Fällen, ausgewertet nach einer vorher festgelegten Regel. Ohne diese Auswertung entscheidet der Eindruck aus drei Versuchen.

Die Posten, die in Angeboten fehlen

In vielen Angeboten steht die Modellnutzung und sonst wenig. Sieben Posten kommen regelmäßig hinzu und übersteigen zusammen häufig den Modellanteil.

Erstens Einbettungen: Wenn eigene Dokumente durchsuchbar gemacht werden, entsteht Aufwand bei der ersten Verarbeitung und erneut bei jeder Änderung. Zweitens die Datenbank, in der diese Vektoren liegen, samt Betrieb und Sicherung. Drittens der laufende Betrieb der Anwendung selbst.

Viertens Protokollierung und Auswertung, ohne die sich weder Qualität noch Verbrauch nachvollziehen lassen. Fünftens Ausfallsicherung, also die Frage, was passiert, wenn ein Anbieter nicht erreichbar ist. Sechstens der Prüfaufwand durch Menschen, der bei Kundenkontakt selten wegfällt. Siebtens die Pflege: Anweisungen und Beispiele veralten und werden mehrmals im Jahr überarbeitet.

Betriebsmodell und Verarbeitungsort

Die Nutzung über eine Schnittstelle ist der übliche Einstieg: keine eigene Hardware, Abrechnung nach Verbrauch, sofort einsatzbereit. Der Nachteil ist die Abhängigkeit von Preisen und Verfügbarkeit eines Dritten.

Der Betrieb eines offenen Modells auf eigener oder gemieteter Hardware kehrt die Rechnung um: hohe feste Kosten, geringe Kosten je Vorgang. Diese Variante wird erst ab einer erheblichen und gleichmäßigen Auslastung günstiger, und sie bindet Personal für Betrieb, Aktualisierung und Überwachung.

Zwischen beiden liegt der Betrieb in einer Umgebung, die vertraglich abgegrenzt ist. Welche Betriebsmodelle es gibt und wie sie sich unterscheiden, ordnet der Überblick zum Cloud Computing ein. Unabhängig davon ist vorab zu klären, welche Daten überhaupt an einen externen Anbieter gehen dürfen; das ist eine datenschutzrechtliche Frage und keine Kostenfrage.

Was Zwischenspeicher und Wiederverwendung sparen

Ein erheblicher Teil der Eingaben wiederholt sich: dieselbe Anweisung, dieselben Beispiele, dieselben Auszüge aus einem Handbuch. Anbieter bieten dafür teils vergünstigte Verarbeitung wiederkehrender Kontextteile an. Ob und zu welchen Bedingungen das im konkreten Fall gilt, steht in den Angaben des Anbieters.

Unabhängig davon wirkt ein eigener Zwischenspeicher. Wenn dieselbe Frage mehrfach gestellt wird, kann die vorhandene Antwort ausgeliefert werden, statt sie erneut zu erzeugen. Bei internen Anwendungen mit wiederkehrenden Fällen sind so spürbare Anteile einsparbar.

Der dritte Hebel ist die Vorauswahl. Nicht jede Anfrage braucht ein Modell. Eine einfache Regel, die offensichtliche Fälle vorab aussortiert, senkt die Menge, bevor die erste Abrechnung entsteht.

Der Unterschied zwischen Test und Dauerbetrieb

Während der Entwicklung entsteht Verbrauch, der in keiner Nutzungsrechnung auftaucht: Versuche, Vergleiche verschiedener Formulierungen, automatisierte Durchläufe über Testfälle. In den ersten Wochen liegt dieser Anteil oft über dem der eigentlichen Nutzung.

Er endet auch nicht mit der Einführung. Jede Änderung an Anweisungen oder Abläufen wird erneut gegen die Testfälle geprüft, und diese Prüfung ist der Grund, warum Änderungen überhaupt verantwortbar sind. Der Posten gehört als eigene Zeile in die Planung.

Getrennte Zugangsschlüssel für Entwicklung und Betrieb sind dafür die einfachste Voraussetzung. Ohne diese Trennung lässt sich hinterher nicht sagen, wofür das Geld ausgegeben wurde.

Die Obergrenze, die vor dem Start feststehen muss

Verbrauchsabhängige Abrechnung kennt keine natürliche Grenze. Eine fehlerhafte Schleife, ein automatisierter Zugriff von außen oder ein versehentlich veröffentlichter Zugangsschlüssel erzeugen innerhalb von Stunden Beträge, die keine Planung vorsieht.

Drei Vorkehrungen gehören deshalb vor den ersten Produktivbetrieb: eine Obergrenze für den Monat auf Ebene des Kontos, eine Begrenzung der Aufrufe je Nutzer und Zeitraum, sowie eine Benachrichtigung bei Überschreitung eines Schwellenwerts.

Zugangsschlüssel gehören in eine geschützte Ablage und niemals in den Programmcode oder in Anwendungen, die im Browser laufen. Warum diese Punkte zusammengehören, beschreibt der Text über Cybersicherheit in kleinen Unternehmen.

Wie ein Angebot vergleichbar gemacht wird

Angebote von Dienstleistern sind ohne gemeinsame Bezugsgröße nicht vergleichbar. Sinnvoll ist eine einzige Zahl: die Gesamtkosten je Vorgang, einschließlich Modellnutzung, Betrieb und anteiligem Prüfaufwand.

Dazu gehören vier Fragen an jeden Anbieter. Welche Modelle werden eingesetzt, und wer entscheidet über einen Wechsel? Wie hoch ist der gemessene Tokenverbrauch je Vorgang bei unseren eigenen Beispielen? Was passiert bei einer Preiserhöhung des zugrunde liegenden Anbieters? Und wem gehören Anweisungen, Testfälle und Auswertungen bei einer Trennung?

Ein Angebot ohne Messung an eigenen Beispielen ist eine Schätzung. Wer die Messung nicht vor Vertragsschluss anbietet, kennt den Verbrauch selbst nicht.

Wann die Rechnung neu gemacht wird

Preise, Modellgrößen und Verfahren ändern sich schneller als die meisten internen Planungen. Eine Kalkulation aus dem Vorjahr ist deshalb selten noch zutreffend, und zwar in beide Richtungen.

Ein tragfähiger Rhythmus: In den ersten drei Monaten monatlich, mit Abgleich zwischen geplantem und tatsächlichem Verbrauch. Danach quartalsweise, und zusätzlich immer dann, wenn sich Nutzung, Modell oder Preis ändert.

Verantwortlich ist eine Person mit Zugriff auf die Abrechnung und auf die Nutzungszahlen. Wo diese Zahlen im Berichtswesen landen, entscheidet darüber, ob eine Abweichung im Folgemonat auffällt oder erst im Jahresabschluss. Der Text zum Einsatz von KI im Alltag junger Unternehmen ordnet ein, welche Anwendungsfälle diesen Aufwand überhaupt rechtfertigen.

Häufige Fragen

Wie viele Token entsprechen einer Seite Text?

Eine allgemeingültige Umrechnung gibt es nicht, weil die Zerlegung vom Modell und von der Sprache abhängt. Für die Planung wird eine typische Seite aus dem eigenen Anwendungsfall durch das Zählwerkzeug geschickt; dieser gemessene Wert ist die Grundlage.

Ist ein größeres Modell immer besser?

Nein. Bei Aufgaben mit engem Antwortraum, etwa dem Einordnen in feste Kategorien, liefern kleinere Modelle vergleichbare Ergebnisse zu einem Bruchteil der Kosten. Entscheiden sollte ein Vergleich an denselben Fällen, nicht die Modellbezeichnung.

Warum weicht die Rechnung von der Schätzung ab?

Meist wegen drei Punkten: längerer Kontext als angenommen, mehr Wiederholungen als eingeplant, und Verbrauch aus Entwicklung und Tests, der in der Nutzungsschätzung fehlte. Getrennte Zugangsschlüssel machen den Unterschied sichtbar.

Lohnt sich der Betrieb eines eigenen Modells?

Erst bei hoher und gleichmäßiger Auslastung, und nur mit Personal für Betrieb und Aktualisierung. Die Rechnung muss neben der Hardware auch Arbeitszeit, Ausfallsicherung und Aktualisierungen enthalten, sonst fällt sie zu günstig aus.

Wie wird eine unerwartet hohe Rechnung verhindert?

Durch eine Obergrenze auf Kontoebene, eine Begrenzung je Nutzer und Zeitraum sowie eine Benachrichtigung bei Überschreitung. Diese drei Einstellungen gehören vor den ersten Produktivbetrieb, nicht nach der ersten Überraschung.

Wer sollte diese Rechnung im Unternehmen verantworten?

Eine Person mit Zugriff auf Abrechnung und Nutzungszahlen, in kleinen Teams meist aus der Technik, mit einer festen Berichtszeile an die Geschäftsführung. Ohne benannte Zuständigkeit wird der Posten erst bei der Jahresplanung bemerkt.

Die brauchbare Antwort auf die Frage nach den Kosten ist keine Zahl, sondern eine Spanne mit offengelegten Annahmen. Wer sie einmal sauber aufstellt, kann sie bei jeder Preisänderung in zwanzig Minuten neu rechnen.