Kostenberechnung und Arbeitsbeispiel
Auf dieser Seite
Die Formel
Die Dimensionierung von Provisioned Throughput basiert auf einer einfachen Addition. Die tägliche Kostenstruktur sieht wie folgt aus:
Tägliche Kosten = (Input-Einheiten + Output-Einheiten) x 10 USD
Bestimmen Sie anschließend, wie viele Einheiten Sie benötigen, basierend auf Ihren TPM-Anforderungen und der spezifischen Zuordnung des Modells:
Input-Einheiten = Gewünschte Input-TPM / TPM pro Modelleinheit (auf ganze Einheiten aufrunden)
Output-Einheiten = Gewünschte Output-TPM / TPM pro Modelleinheit (auf ganze Einheiten aufrunden)
Das Aufrunden ist keine bloße buchhalterische Formalität. Sie können keine Bruchteile einer Einheit erwerben: Wenn Ihre Anforderungen auch nur um ein einziges Token pro Minute über ein Vielfaches der Zuordnung hinausgehen, müssen Sie für die gesamte Einheit bezahlen. Das folgende Beispiel zeigt, wie dies in einer echten Abrechnung aussieht.
Ein vollständiges Beispiel: grok-4.3
Betrachten Sie eine Kundenunterstützungsanwendung, die 100.000 Input-TPM und 50.000 Output-TPM auf dem Modell grok-4.3 benötigt. Wir gehen die Berechnung Schritt für Schritt durch.
Dieses Modell bietet 31.500 Input-TPM pro Einheit, was uns die Anzahl der Input-Einheiten liefert:
100.000 / 31.500 = 3,17 → 4 Einheiten (aufgerundet)
Tatsächlich erhaltene Kapazität: 4 x 31.500 = 126.000 Input-TPM. Beachten Sie den Rundungseffekt: Sie zahlen für 126.000 TPM, obwohl Sie nur 100.000 benötigt haben. Diese zusätzlichen 26.000 TPM werden nicht verschwendet – sie bilden Ihren Puffer für Verkehrsspitzen –, doch sie erscheinen auf der Rechnung.
Auf der Output-Seite beträgt die Zuordnung 12.500 TPM pro Einheit:
50.000 / 12.500 = 4,00 → 4 Einheiten
Tatsächlich erhaltene Kapazität: 4 x 12.500 = 50.000 Output-TPM. Hier trifft die Anforderung exakt auf ein Vielfaches der Zuordnung, sodass keine Kapazität ungenutzt bleibt. Dies ist zwar nur eine arithmetische Zufälligkeit, veranschaulicht aber eine nützliche Gewohnheit: Prüfen Sie, ob eine geringfügige Anpassung Ihrer angegebenen Anforderung eine Einheitsschwelle überschreitet.
Fügen Sie nun einfach die Werte zusammen:
Tägliche Kosten = (4 + 4) x 10 USD = 80 USD/Tag
Kosten für 30 Tage = 80 USD x 30 = 2.400 USD
Vergleich mit Pay-as-you-go
Diese Zahl verliert erst an Bedeutung, wenn sie mit den Kosten für das gleiche Volumen unter nutzungsbasierter Abrechnung verglichen wird. Nehmen Sie an, Sie verbrauchen tatsächlich 100.000 Input-TPM für 8 Stunden pro Tag, 22 Arbeitstage im Monat:
Monatliche Input-Tokens = 100.000 x 60 x 8 x 22 = 10,56 Milliarden Tokens
Die entsprechenden Kosten hängen dann von der pro-Token-Rate des Modells ab, die auf dieses Volumen angewendet wird. Wenn Provisioned Throughput günstiger herauskommt, ist die Entscheidung getroffen. Der Preis ist jedoch nicht der einzige Faktor: Eine reservierte Kapazität macht Sinn, wenn Sie sie nachhaltig nutzen (mehr als 6 bis 8 Stunden pro Tag), wenn garantierte Antwortzeiten die Benutzererfahrung bedingen, wenn Plattform-Verkehrsspitzen Ihre Anwendung sichtbar beeinträchtigen oder wenn eine 99,9% SLA eine explizite geschäftliche Anforderung darstellt. Jeder dieser Gründe allein rechtfertigt die Aufschlagzahlung.
Die Kosten des falschen Modells
Nehmen wir die exakt gleiche Anforderung, diesmal jedoch auf dem Modell grok-4.20-0309-reasoning, einem Premium-Modell:
Input: 100.000 / 3.000 = 34 Einheiten
Output: 50.000 / 700 = 72 Einheiten
Tägliche Kosten = 106 x 10 USD = 1.060 USD/Tag
Kosten für 30 Tage = 31.800 USD
Gleiche Anwendung, gleiches Volumen und eine Rechnung, die von 2.400 USD auf 31.800 USD über 30 Tage springt. Für einen Chatbot zur Kundenunterstützung ist das schnelle Modell sehr wahrscheinlich ausreichend und kostet 13-mal weniger als das Premium-Modell. Merken Sie sich dieses Verhältnis: Keine Prompt-Optimierung und keine kommerzielle Verhandlung werden jemals einen Faktor von 13, der bei der Modellauswahl gewonnen oder verloren geht, wiederherstellen können.
Richtige Dimensionierung
Beginnen Sie bei Ihrer ersten Provisionierung bescheiden. Starten Sie mit einer niedrigen Schätzung und skalieren Sie nach oben: Es ist einfacher, Einheiten hinzuzufügen, als eine Budgetüberschreitung zu erklären. Überwachen Sie dann den tatsächlichen Verbrauch mithilfe der detaillierten Verbrauchsmetriken, die von der Management API bereitgestellt werden. Diese werden Ihnen innerhalb weniger Tage zeigen, ob Ihre anfängliche Schätzung standhält. Planen Sie dennoch eine Kapazitätsmarge von 20 bis 30 %, um Spitzen abzufedern; andernfalls reicht bereits ein einzelner ungewöhnlicher Tag aus, um die Zuordnung zu sättigen.
Seien Sie sich bewusst, dass ein Sicherheitsnetz existiert: Anfragen, die Ihre Zuordnung überschreiten, fallen automatisch auf Pay-as-you-go zurück. Ein Überschreiten führt nicht zu einer Dienstunterbrechung, sondern erzeugt eine zusätzliche Zeile in der Abrechnung – was in den meisten Kontexten das wünschenswerte Kompromissmodell darstellt.
Kernaussagen
- Die Formel ist einfach: (Input-Einheiten + Output-Einheiten) x 10 USD/Tag
- Runden Sie die Anzahl der benötigten Einheiten immer auf
- Die Modellauswahl hat einen erheblichen Einfluss auf die Kosten: ein Faktor von 13 zwischen schnellem und Premium-Modell
- Provisioned Throughput ist für nachhaltige Nutzung (6+ Stunden/Tag) kosteneffizient
- Der Pay-as-you-go-Fallback absorbiert Überschreitungen automatisch