Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Pole nákladů v odpovědích

Lekce 8 z 14 Aktualizováno 29. července 2026 Pokročilý
Na této stránce
  1. Sledování nákladů v reálném čase
  2. Objekt usage
  3. Dvě měřítka pro stejné náklady
  4. Vytvoření sledovače nákladů
  5. Analýza míry využití mezipaměti
  6. Klíčové poznatky

Sledování nákladů v reálném čase

Každá odpověď API Groku obsahuje podrobnosti o tom, kolik právě stála. Mnoho týmů se k těmto informacím dostane příliš pozdě, až když přijde měsíční faktura, přestože jsou dostupné u každého požadavku zvlášť. Pokud je využiješ hned od začátku integrace, odhalíš odchylky do hodiny od jejich vzniku: systémový prompt, který se po nasazení zdvojnásobil, špatně nastavený cyklus opakování, který přehrává stejné volání, nebo kontext, který překročil billingový práh. Bez tohoto sledování zůstávají tyto incidenty neviditelné až do vystavení výkazu.

Objekt usage

Každá odpověď obsahuje objekt usage s podrobnostmi o spotřebě tokenů a souvisejících nákladech:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Čtyři počítací pole znamenají následující:

PoleVýznam
prompt_tokenspočet vstupních tokenů (tvůj celý prompt)
completion_tokenspočet výstupních tokenů (odpověď modelu)
total_tokenssoučet vstupních a výstupních tokenů
cached_tokensvstupní tokeny obsloužené z mezipaměti

Jeden detail zabrání časté chybě: cached_tokens jsou zahrnuty v prompt_tokens, nikoliv k nim přičteny. V příkladu výše vstoupilo do modelu 1 250 tokenů, 800 jich přišlo z mezipaměti a pouze 450 bylo zúčtováno plnou sazbou. Pokud tvůj agregátor sečte obě pole, započítá část z mezipaměti dvakrát a uměle nafoukne statistiky objemu.

Dvě měřítka pro stejné náklady

Náklady na požadavek jsou uvedeny ve dvou celočíselných jednotkách. Tato volba není náhodná: vyjadřování zlomků centu pomocí čísel s plovoucí řádovou čárkou zavádí zaokrouhlovací chyby, které se projeví při agregaci milionů volání. Celá čísla tomuto problému zcela předcházejí.

Pole cost_in_usd_ticks počítá v „ticích“, přičemž na jeden dolar připadá 10 miliard ticů. Hodnota 5 000 000 000 v příkladu tedy odpovídá 0,50 $ a jeden milion ticů se rovná 0,0001 $. Převod se vejde do jednoho řádku:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Pole cost_in_nano_usd počítá v nanodolarech, přičemž na jeden dolar připadá jedna miliarda nanodolarů. Hodnota 500 000 000 v příkladu představuje stejnou částku, 0,50 $, a tisíc nanodolarů se rovná 0,000001 $. Převod funguje na stejném principu:

cost_usd = cost_in_nano_usd / 1_000_000_000

Obě pole popisují stejnou částku v různých měřítcích. cost_in_nano_usd je intuitivnější pro práci, zatímco cost_in_usd_ticks nabízí o něco vyšší přesnost. Vyber si jedno a drž se ho v celém svém měřicím řetězci: míchání obou v téže agregaci je nejlepší způsob, jak získat nekonzistentní součty.

Vytvoření sledovače nákladů

V produkci stačí jediný akumulátor, aby se z těchto polí stal dashboard. Níže uvedená třída zaznamenává každý objekt usage a zpřístupňuje kumulativní náklady spolu s mírou využití mezipaměti:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

Dále přidej prahové hodnoty k total_cost_usd. První práh na 80 % denního rozpočtu spustí informační alert pro technický tým; druhý na 95 % se stane kritickým alertem vyžadujícím lidské rozhodnutí; při 100 % aplikace automaticky odstříhne nekritické požadavky – dávkové úlohy, předvýpočty, odložená obohacení – a umožní pouze přímý provoz od uživatelů. Toto postupné degradování je lepší než náhlé zastavení služby ve špičce.

Analýza míry využití mezipaměti

Vlastnost cache_rate si zaslouží vlastní dashboard, protože přímo odráží kvalitu struktury tvého promptu.

Míra mezipamětiInterpretace
0 až 20 %žádná efektivní mezipaměť, zkontroluj strukturu promptu
20 až 50 %částečná mezipaměť, zkontroluj stabilitu systémových promptů
50 až 80 %dobrá míra pro konverzace
80 % a vícevynikající, typické pro dlouhé, stabilní prompty

Míra, která z týdne na týden prudce klesne, je téměř vždy známkou nasazení, které zavedlo proměnnou na začátek promptu. Příští lekce detailně popisuje mechanismus; zatím si pamatuj, že tato hodnota je indikátorem regrese stejně cenným jako míra chyb.

Ceny platné k 5. srpnu 2026 – ceny se pravidelně vyvíjejí: před jakýmkoli výpočtem rozpočtu zkontroluj aktuální ceník na oficiální stránce modelů a cen xAI.

Klíčové poznatky

  • Každá odpověď API obsahuje objekt usage s podrobnostmi o tokenech a nákladech
  • cost_in_usd_ticks: 10 miliard ticů = 1 USD
  • cost_in_nano_usd: 1 miliarda nano-USD = 1 USD
  • Pole cached_tokens měří efektivitu mezipaměti
  • V produkci si vytvoř sledovač nákladů s alerty na rozpočet