Kostenberekening en uitgewerkt voorbeeld
Op deze pagina
De formule
Het bepalen van de omvang van provisioned throughput komt neer op simpele optelling. De dagelijkse kosten zien er als volgt uit:
Daily cost = (Input units + Output units) x $10
Bepaal vervolgens hoeveel eenheden u nodig heeft op basis van uw TPM-vereisten en de specifieke toewijzing van het model:
Input units = Desired input TPM / TPM per model unit (round up)
Output units = Desired output TPM / TPM per model unit (round up)
Afronden naar boven is niet slechts boekhoudkundig detail. U kunt geen derde van een eenheid kopen: als uw behoefte zelfs maar met één token per minuut een veelvoud van de toewijzing overschrijdt, betaalt u voor de hele eenheid. Het volgende voorbeeld laat zien hoe dit er op een echte factuur uitziet.
Een compleet voorbeeld: grok-4.3
Stel u een klantenservicetoepassing voor die 100.000 input-TPM en 50.000 output-TPM vereist op het grok-4.3-model. Laten we de berekening stap voor stap doorlopen.
Dit model biedt 31.500 input-TPM per eenheid, wat ons het aantal input-eenheden geeft:
100,000 / 31,500 = 3.17 → 4 units (round up)
Werkelijke verkregen capaciteit: 4 x 31.500 = 126.000 input-TPM. Merk het afrondingseffect op: u betaalt voor 126.000 TPM, hoewel u slechts 100.000 nodig had. Die extra 26.000 TPM gaan niet verloren; ze vormen uw buffer voor pieken in het verkeer, maar ze verschijnen wel op de factuur.
Aan de outputkant bedraagt de toewijzing 12.500 TPM per eenheid:
50,000 / 12,500 = 4.00 → 4 units
Werkelijke verkregen capaciteit: 4 x 12.500 = 50.000 output-TPM. Hier valt de vereiste precies op een veelvoud van de toewijzing, zodat er geen capaciteit ongebruikt blijft. Dit is louter rekenkundig toeval, maar het illustreert een nuttige gewoonte: controleer of een kleine aanpassing van uw opgegeven behoefte een eenheidsdrempel overschrijdt.
Tel ze nu gewoon bij elkaar op:
Daily cost = (4 + 4) x $10 = $80/day
30-day cost = $80 x 30 = $2,400
Vergelijking met pay-as-you-go
Dit cijfer zegt niets totdat u het vergelijkt met de kosten voor hetzelfde volume onder gebruiksfacturering. Stel dat u daadwerkelijk 100.000 input-TPM verbruikt gedurende 8 uur per dag, 22 werkdagen per maand:
Monthly input tokens = 100,000 x 60 x 8 x 22 = 10.56 billion tokens
De bijbehorende kosten hangen dan af van het tarief per token van het model dat op dit volume wordt toegepast. Als provisioned throughput goedkoper uitvalt, is de beslissing genomen. Prijs is echter niet de enige factor: gereserveerde capaciteit is ook zinvol wanneer u deze duurzaam gebruikt (meer dan 6 tot 8 uur per dag), wanneer gegarandeerde responstijden de gebruikerservaring bepalen, wanneer verkeerspieken op het platform uw toepassing zichtbaar beïnvloeden, of wanneer een SLA van 99,9% een expliciete zakelijke vereiste is. Elk van deze redenen alleen al rechtvaardigt de meerprijs.
De kosten van het verkeerde model
Laten we exact dezelfde vereiste nemen, dit keer op grok-4.20-0309-reasoning, een premiummodel:
Input: 100,000 / 3,000 = 34 units
Output: 50,000 / 700 = 72 units
Daily cost = 106 x $10 = $1,060/day
30-day cost = $31,800
Hetzelfde applicatie, hetzelfde volume, en een factuur die in dertig dagen springt van $2.400 naar $31.800. Voor een klantenservice-chatbot is het snelle model zeer waarschijnlijk voldoende en kost het 13 keer minder dan het premiummodel. Onthoud deze verhouding: geen enkele prompt-optimalisatie of commerciële onderhandeling zal ooit een factor 13 goedmaken die gewonnen of verloren is in de fase van modelselectie.
Correcte dimensionering
Begin voor uw eerste provisionering bescheiden. Start met een lage schatting en schaal op: het is makkelijker om eenheden toe te voegen dan om een budgetoverschrijding uit te leggen. Monitor vervolgens het daadwerkelijke gebruik met behulp van de gedetailleerde consumptiemetrieken van de Management API; deze zal u binnen enkele dagen vertellen of uw initiële schatting standhield. Houd toch rekening met een capaciteitsmarge van 20 tot 30% om pieken op te vangen, anders volstaat één ongebruikelijke dag al om de toewijzing te verzadigen.
Weet dat er een veiligheidsnet bestaat: verzoeken die uw toewijzing overschrijden, vallen automatisch terug op pay-as-you-go. Een overschrijding veroorzaakt geen serviceonderbreking; het produceert een extra regel op de factuur – wat in de meeste contexten de wenselijke oplossing blijft.
Belangrijkste punten
- De formule is simpel: (input-eenheden + output-eenheden) x $10/dag
- Rond het aantal benodigde eenheden altijd naar boven af
- Modelkeuze heeft een grote impact op de kosten: een factor 13 tussen snel en premium
- Provisioned throughput is kosteneffectief bij duurzaam gebruik (6+ uur/dag)
- De pay-as-you-go-fallback vangt overschrijdingen automatisch op