Pole nákladů v odpovědích
Na této stránce
Sledování nákladů v reálném čase
Každá odpověď API Groku obsahuje podrobnosti o tom, kolik právě stála. Mnoho týmů se k těmto informacím dostane příliš pozdě, až když přijde měsíční faktura, přestože jsou dostupné u každého požadavku zvlášť. Pokud je využiješ hned od začátku integrace, odhalíš odchylky do hodiny od jejich vzniku: systémový prompt, který se po nasazení zdvojnásobil, špatně nastavený cyklus opakování, který přehrává stejné volání, nebo kontext, který překročil billingový práh. Bez tohoto sledování zůstávají tyto incidenty neviditelné až do vystavení výkazu.
Objekt usage
Každá odpověď obsahuje objekt usage s podrobnostmi o spotřebě tokenů a souvisejících nákladech:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
Čtyři počítací pole znamenají následující:
| Pole | Význam |
|---|---|
prompt_tokens | počet vstupních tokenů (tvůj celý prompt) |
completion_tokens | počet výstupních tokenů (odpověď modelu) |
total_tokens | součet vstupních a výstupních tokenů |
cached_tokens | vstupní tokeny obsloužené z mezipaměti |
Jeden detail zabrání časté chybě: cached_tokens jsou zahrnuty v prompt_tokens, nikoliv k nim přičteny. V příkladu výše vstoupilo do modelu 1 250 tokenů, 800 jich přišlo z mezipaměti a pouze 450 bylo zúčtováno plnou sazbou. Pokud tvůj agregátor sečte obě pole, započítá část z mezipaměti dvakrát a uměle nafoukne statistiky objemu.
Dvě měřítka pro stejné náklady
Náklady na požadavek jsou uvedeny ve dvou celočíselných jednotkách. Tato volba není náhodná: vyjadřování zlomků centu pomocí čísel s plovoucí řádovou čárkou zavádí zaokrouhlovací chyby, které se projeví při agregaci milionů volání. Celá čísla tomuto problému zcela předcházejí.
Pole cost_in_usd_ticks počítá v „ticích“, přičemž na jeden dolar připadá 10 miliard ticů. Hodnota 5 000 000 000 v příkladu tedy odpovídá 0,50 $ a jeden milion ticů se rovná 0,0001 $. Převod se vejde do jednoho řádku:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Pole cost_in_nano_usd počítá v nanodolarech, přičemž na jeden dolar připadá jedna miliarda nanodolarů. Hodnota 500 000 000 v příkladu představuje stejnou částku, 0,50 $, a tisíc nanodolarů se rovná 0,000001 $. Převod funguje na stejném principu:
cost_usd = cost_in_nano_usd / 1_000_000_000
Obě pole popisují stejnou částku v různých měřítcích. cost_in_nano_usd je intuitivnější pro práci, zatímco cost_in_usd_ticks nabízí o něco vyšší přesnost. Vyber si jedno a drž se ho v celém svém měřicím řetězci: míchání obou v téže agregaci je nejlepší způsob, jak získat nekonzistentní součty.
Vytvoření sledovače nákladů
V produkci stačí jediný akumulátor, aby se z těchto polí stal dashboard. Níže uvedená třída zaznamenává každý objekt usage a zpřístupňuje kumulativní náklady spolu s mírou využití mezipaměti:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
Dále přidej prahové hodnoty k total_cost_usd. První práh na 80 % denního rozpočtu spustí informační alert pro technický tým; druhý na 95 % se stane kritickým alertem vyžadujícím lidské rozhodnutí; při 100 % aplikace automaticky odstříhne nekritické požadavky – dávkové úlohy, předvýpočty, odložená obohacení – a umožní pouze přímý provoz od uživatelů. Toto postupné degradování je lepší než náhlé zastavení služby ve špičce.
Analýza míry využití mezipaměti
Vlastnost cache_rate si zaslouží vlastní dashboard, protože přímo odráží kvalitu struktury tvého promptu.
| Míra mezipaměti | Interpretace |
|---|---|
| 0 až 20 % | žádná efektivní mezipaměť, zkontroluj strukturu promptu |
| 20 až 50 % | částečná mezipaměť, zkontroluj stabilitu systémových promptů |
| 50 až 80 % | dobrá míra pro konverzace |
| 80 % a více | vynikající, typické pro dlouhé, stabilní prompty |
Míra, která z týdne na týden prudce klesne, je téměř vždy známkou nasazení, které zavedlo proměnnou na začátek promptu. Příští lekce detailně popisuje mechanismus; zatím si pamatuj, že tato hodnota je indikátorem regrese stejně cenným jako míra chyb.
Ceny platné k 5. srpnu 2026 – ceny se pravidelně vyvíjejí: před jakýmkoli výpočtem rozpočtu zkontroluj aktuální ceník na oficiální stránce modelů a cen xAI.
Klíčové poznatky
- Každá odpověď API obsahuje objekt
usages podrobnostmi o tokenech a nákladech cost_in_usd_ticks: 10 miliard ticů = 1 USDcost_in_nano_usd: 1 miliarda nano-USD = 1 USD- Pole
cached_tokensměří efektivitu mezipaměti - V produkci si vytvoř sledovač nákladů s alerty na rozpočet