Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Polia nákladov v odpovediach

Lekcia 8 z 14 Aktualizované 29. júla 2026 Pokročilý
Na tejto strane
  1. Sledovanie nákladov v reálnom čase
  2. Objekt usage
  3. Dve mierky pre tie isté náklady
  4. Vytvorenie sledovača nákladov
  5. Analýza miery využitia cache
  6. Kľúčové poznatky

Sledovanie nákladov v reálnom čase

Každá odpoveď z API Grok obsahuje podrobnosti o tom, koľko práve stála. Mnohé tímy sa k týmto informáciám dostanú príliš neskoro, až keď príde mesačný účet, hoci sú dostupné pri každej jednej požiadavke. Ak ich využiješ hneď od začiatku integrácie, zachytíš odchýlky do hodiny od ich vzniku: systémový prompt, ktorý sa po nasadení zdvojnásobil, zle nastavený cyklus opakovaných pokusov, ktorý prehráva tie isté volania, alebo kontext, ktorý prekročil billingový limit. Bez tohto sledovania zostávajú tieto incidenty neviditeľné až do vystavenia faktúry.

Objekt usage

Každá odpoveď obsahuje objekt usage, ktorý podrobne opisuje spotrebu tokenov a súvisiace náklady:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Štyri počítacie polia znamenajú nasledovné:

PoleVýznam
prompt_tokenspočet vstupných tokenov (tvoj celý prompt)
completion_tokenspočet výstupných tokenov (odpoveď modelu)
total_tokenssúčet vstupných a výstupných tokenov
cached_tokensvstupné tokeny obslúžené z cache

Jeden detail ťa uchráni pred častou chybou: cached_tokens sú zahrnuté v prompt_tokens, nie sú k nim pripočítané. V príklade vyššie vstúpilo do modelu 1 250 tokenov, 800 prišlo z cache a iba 450 bolo fakturovaných plnou sadzbou. Ak tvoj agregátor sčíta obe polia, dvakrát započíta cacheovanú časť a umelo nafúkne tvoje štatistiky objemu.

Dve mierky pre tie isté náklady

Náklady na požiadavku sú uvedené v dvoch celočíselných jednotkách. Táto voľba nie je náhodná: vyjadrovanie zlomkov centov pomocou čísel s pohyblivou desatinnou čiarkou zavádza zaokrúhľovacie chyby, ktoré sa stanú viditeľnými pri agregácii miliónov volaní. Celé čísla tomuto problému úplne predchádzajú.

Pole cost_in_usd_ticks počíta v „tikoch“, pričom jeden dolár predstavuje 10 miliárd tikov. Hodnota 5 000 000 000 v príklade teda zodpovedá 0,50 $ a jeden milión tikov sa rovná 0,0001 $. Prevod zmestíš do jedného riadku:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Pole cost_in_nano_usd počíta v nanodolároch, pričom jeden dolár predstavuje miliarda nanodolárov. Hodnota 500 000 000 v príklade predstavuje tú istú sumu, 0,50 $, a tisíc nanodolárov sa rovná 0,000001 $. Prevod funguje na rovnakom princípe:

cost_usd = cost_in_nano_usd / 1_000_000_000

Obe polia opisujú tú istú sumu v rôznych mierkach. cost_in_nano_usd je intuitívnejšie na prácu, zatiaľ čo cost_in_usd_ticks ponúka o niečo vyššiu presnosť. Vyber si jedno a drž sa ho v celom svojom meracom reťazci: miešanie oboch v tej istej agregácii je najistejší spôsob, ako získať nekonzistentné súčty.

Vytvorenie sledovača nákladov

V produkcii stačí jediný akumulátor, aby si tieto polia premenil na dashboard. Nižšie uvedená trieda zaznamenáva každý objekt usage a sprístupňuje kumulatívne náklady spolu s mierou využitia cache:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

Ďalej priraď prahové hodnoty k total_cost_usd. Prvý prah na 80 % denného rozpočtu spustí informačné upozornenie pre technický tím; druhý na 95 % sa stane kritickým upozornením vyžadujúcim ľudské rozhodnutie; pri 100 % aplikácia automaticky odreže nekritické požiadavky – dávkové úlohy, predvýpočty, oneskorené obohatenia – a povolí iba priamu používateľskú premávku. Táto graceful degradácia je lepšia ako náhle zastavenie služby v deň špičky.

Analýza miery využitia cache

Vlastnosť cache_rate si zaslúži vlastný dashboard, pretože priamo odráža kvalitu štruktúry tvojho promptu.

Miera cacheInterpretácia
0 až 20 %žiadna efektívna cache, prever štruktúru promptu
20 až 50 %čiastočná cache, skontroluj stabilitu systémových promptov
50 až 80 %dobrá miera pre konverzácie
80 % a viacvýborná, typická pre dlhé, stabilné prompty

Miera, ktorá z týždňa na týždeň prudko klesne, je takmer vždy znakom nasadenia, ktoré zaviedlo premennú na začiatok promptu. Ďalšia lekcia podrobne opisuje tento mechanizmus; zatiaľ si zapamätaj, že táto hodnota je indikátorom regresie rovnako cenný ako miera chýb.

Ceny platné k 5. augustu 2026 – ceny sa pravidelne menia: pred akýmkoľvek výpočtom rozpočtu si over aktuálny cenník na oficiálnej stránke modelov a cien xAI.

Kľúčové poznatky

  • Každá odpoveď API obsahuje objekt usage s podrobnosťami o tokenoch a nákladoch
  • cost_in_usd_ticks: 10 miliárd tikov = 1 USD
  • cost_in_nano_usd: 1 miliarda nano-USD = 1 USD
  • Pole cached_tokens meria efektivitu cache
  • Vytvor si v produkcii sledovač nákladov s upozorneniami na rozpočet