Polja stroškov v odgovorih
Na tej strani
Spremljanje stroškov v realnem času
Vsak odgovor API-ja Grok vsebuje podrobnosti o tem, koliko je pravkar stal. Mnoge ekipe te informacije odkrijejo prepozno, ko prispe mesečni račun, čeprav so na voljo za vsako zahtevo posebej. Če jih izkoristiš že ob začetku integracije, zaznaš odstopanja v roku ene ure po njihovem nastanku: sistemski poziv, ki se je po uvedbi podvojil, slabo umerjena zanka za ponovne poskuse, ki znova izvaja iste klice, ali kontekst, ki je prestopil prag zaračunavanja. Brez tega spremljanja ti incidenti ostanejo nevidni vse do prejema izpiska.
Predmet usage
Vsak odgovor vključuje predmet usage, ki podrobno opisuje porabo žetonov in povezane stroške:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
Štiri polja za štetje se berejo takole:
| Polje | Pomen |
|---|---|
prompt_tokens | število vhodnih žetonov (tvoj celoten poziv) |
completion_tokens | število izhodnih žetonov (odgovor modela) |
total_tokens | vsota vhodnih in izhodnih žetonov |
cached_tokens | vhodni žetoni, postreženi iz predpomnilnika |
Ena podrobnost preprečuje pogosto napako: cached_tokens so vključeni v prompt_tokens, ne dodani zraven. V zgornjem primeru je v model všlo 1.250 žetonov, 800 jih je prišlo iz predpomnilnika, le 450 pa jih je bilo zaračunanih po polni tarifi. Če tvoj agregator sešteje obe polji, bo dvakrat preštel del iz predpomnilnika in umetno napihnil tvojo statistiko obsega.
Dve merili za isti strošek
Strošek zahteve je podan v dveh celoštevilskih enotah. Ta izbira ni naključna: izražanje delcev centa s plavajočo vejico uvaja napake zaokroževanja, ki postanejo vidne pri seštevanju milijonov klicev. Cela števila se tej težavi popolnoma izognejo.
Polje cost_in_usd_ticks šteje v „tikih”, pri čemer je v enem dolarju 10 milijard tikov. Vrednost 5.000.000.000 v primeru torej ustreza 0,50 USD, en milijon tikov pa 0,0001 USD. Pretvorba se prilega v eno vrstico:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Polje cost_in_nano_usd šteje v nanodolarjih, pri čemer je v enem dolarju milijarda nanodolarjev. Vrednost 500.000.000 v primeru predstavlja isti znesek, 0,50 USD, tisoč nanodolarjev pa je enako 0,000001 USD. Pretvorba sledi isti logiki:
cost_usd = cost_in_nano_usd / 1_000_000_000
Obe polji opisujeta isti znesek v različnih merilih. cost_in_nano_usd je intuitivnejši za uporabo, medtem ko cost_in_usd_ticks ponuja nekoliko višjo natančnost. Izberi enega in ga dosledno uporablaj v celotnem merilnem verigu: mešanje obeh v istem agregatu je najboljši način za pridobitev neskladnih vsot.
Izgradnja sledilnika stroškov
V produkcijskem okolju zadostuje en sam akumulator, da ta polja pretvoriš v nadzorno ploščo. Spodnji razred beleži vsak predmet usage in razkriva kumulativni strošek ter stopnjo predpomnjenja:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
Nato na total_cost_usd naveži pragove. Prvi prag pri 80 % dnevnega proračuna sproži informativno opozorilo za tehnično ekipo; drugi pri 95 % postane kritično opozorilo, ki zahteva človeško odločitev; pri 100 % aplikacija samodejno prekine nekritične zahteve – serijska opravila, predizračune, odložene obogatitve – in dovoli le neposredni promet uporabnikov. Ta postopna degradacija je boljša od nenadne ustavitve storitve ob dnevu največje obremenitve.
Analiza stopnje predpomnjenja
Lastnost cache_rate si zasluži svojo nadzorno ploščo, saj neposredno odraža kakovost strukture tvojega poziva.
| Stopnja predpomnjenja | Razlaga |
|---|---|
| 0 do 20 % | brez učinkovitega predpomnjenja, preglej strukturo poziva |
| 20 do 50 % | delno predpomnjenje, preveri stabilnost sistemskih pozivov |
| 50 do 80 % | dobra stopnja za pogovore |
| 80 % in več | odlično, značilno za dolge, stabilne pozive |
Stopnja, ki iz tedna v teden močno pade, je skoraj vedno znak uvedbe, ki je na začetek poziva vnesla spremenljivko. Naslednja lekcija podrobneje opisuje mehanizem; za zdaj si zapomni, da je ta številka indikator regresije, enako dragocen kot stopnja napak.
Cene na dan 5. avgusta 2026 — cene se redno spreminjajo: pred vsakim izračunom proračuna preveri trenutni cenik na uradni strani modelov in cen xAI.
Ključne ugotovitve
- Vsak odgovor API-ja vsebuje predmet
usages podrobnostmi o žetonih in stroških cost_in_usd_ticks: 10 milijard tikov = 1 USDcost_in_nano_usd: 1 milijarda nano-USD = 1 USD- Polje
cached_tokensmeri učinkovitost predpomnilnika - V produkcijskem okolju zgradi sledilnik stroškov z opozorili glede proračuna