Polia nákladov v odpovediach
Na tejto strane
Sledovanie nákladov v reálnom čase
Každá odpoveď z API Grok obsahuje podrobnosti o tom, koľko práve stála. Mnohé tímy sa k týmto informáciám dostanú príliš neskoro, až keď príde mesačný účet, hoci sú dostupné pri každej jednej požiadavke. Ak ich využiješ hneď od začiatku integrácie, zachytíš odchýlky do hodiny od ich vzniku: systémový prompt, ktorý sa po nasadení zdvojnásobil, zle nastavený cyklus opakovaných pokusov, ktorý prehráva tie isté volania, alebo kontext, ktorý prekročil billingový limit. Bez tohto sledovania zostávajú tieto incidenty neviditeľné až do vystavenia faktúry.
Objekt usage
Každá odpoveď obsahuje objekt usage, ktorý podrobne opisuje spotrebu tokenov a súvisiace náklady:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
Štyri počítacie polia znamenajú nasledovné:
| Pole | Význam |
|---|---|
prompt_tokens | počet vstupných tokenov (tvoj celý prompt) |
completion_tokens | počet výstupných tokenov (odpoveď modelu) |
total_tokens | súčet vstupných a výstupných tokenov |
cached_tokens | vstupné tokeny obslúžené z cache |
Jeden detail ťa uchráni pred častou chybou: cached_tokens sú zahrnuté v prompt_tokens, nie sú k nim pripočítané. V príklade vyššie vstúpilo do modelu 1 250 tokenov, 800 prišlo z cache a iba 450 bolo fakturovaných plnou sadzbou. Ak tvoj agregátor sčíta obe polia, dvakrát započíta cacheovanú časť a umelo nafúkne tvoje štatistiky objemu.
Dve mierky pre tie isté náklady
Náklady na požiadavku sú uvedené v dvoch celočíselných jednotkách. Táto voľba nie je náhodná: vyjadrovanie zlomkov centov pomocou čísel s pohyblivou desatinnou čiarkou zavádza zaokrúhľovacie chyby, ktoré sa stanú viditeľnými pri agregácii miliónov volaní. Celé čísla tomuto problému úplne predchádzajú.
Pole cost_in_usd_ticks počíta v „tikoch“, pričom jeden dolár predstavuje 10 miliárd tikov. Hodnota 5 000 000 000 v príklade teda zodpovedá 0,50 $ a jeden milión tikov sa rovná 0,0001 $. Prevod zmestíš do jedného riadku:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Pole cost_in_nano_usd počíta v nanodolároch, pričom jeden dolár predstavuje miliarda nanodolárov. Hodnota 500 000 000 v príklade predstavuje tú istú sumu, 0,50 $, a tisíc nanodolárov sa rovná 0,000001 $. Prevod funguje na rovnakom princípe:
cost_usd = cost_in_nano_usd / 1_000_000_000
Obe polia opisujú tú istú sumu v rôznych mierkach. cost_in_nano_usd je intuitívnejšie na prácu, zatiaľ čo cost_in_usd_ticks ponúka o niečo vyššiu presnosť. Vyber si jedno a drž sa ho v celom svojom meracom reťazci: miešanie oboch v tej istej agregácii je najistejší spôsob, ako získať nekonzistentné súčty.
Vytvorenie sledovača nákladov
V produkcii stačí jediný akumulátor, aby si tieto polia premenil na dashboard. Nižšie uvedená trieda zaznamenáva každý objekt usage a sprístupňuje kumulatívne náklady spolu s mierou využitia cache:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
Ďalej priraď prahové hodnoty k total_cost_usd. Prvý prah na 80 % denného rozpočtu spustí informačné upozornenie pre technický tím; druhý na 95 % sa stane kritickým upozornením vyžadujúcim ľudské rozhodnutie; pri 100 % aplikácia automaticky odreže nekritické požiadavky – dávkové úlohy, predvýpočty, oneskorené obohatenia – a povolí iba priamu používateľskú premávku. Táto graceful degradácia je lepšia ako náhle zastavenie služby v deň špičky.
Analýza miery využitia cache
Vlastnosť cache_rate si zaslúži vlastný dashboard, pretože priamo odráža kvalitu štruktúry tvojho promptu.
| Miera cache | Interpretácia |
|---|---|
| 0 až 20 % | žiadna efektívna cache, prever štruktúru promptu |
| 20 až 50 % | čiastočná cache, skontroluj stabilitu systémových promptov |
| 50 až 80 % | dobrá miera pre konverzácie |
| 80 % a viac | výborná, typická pre dlhé, stabilné prompty |
Miera, ktorá z týždňa na týždeň prudko klesne, je takmer vždy znakom nasadenia, ktoré zaviedlo premennú na začiatok promptu. Ďalšia lekcia podrobne opisuje tento mechanizmus; zatiaľ si zapamätaj, že táto hodnota je indikátorom regresie rovnako cenný ako miera chýb.
Ceny platné k 5. augustu 2026 – ceny sa pravidelne menia: pred akýmkoľvek výpočtom rozpočtu si over aktuálny cenník na oficiálnej stránke modelov a cien xAI.
Kľúčové poznatky
- Každá odpoveď API obsahuje objekt
usages podrobnosťami o tokenoch a nákladoch cost_in_usd_ticks: 10 miliárd tikov = 1 USDcost_in_nano_usd: 1 miliarda nano-USD = 1 USD- Pole
cached_tokensmeria efektivitu cache - Vytvor si v produkcii sledovač nákladov s upozorneniami na rozpočet