Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Polja stroškov v odgovorih

Lekcija 8 od 14 Posodobljeno 29. julij 2026 Napredni
Na tej strani
  1. Spremljanje stroškov v realnem času
  2. Predmet usage
  3. Dve merili za isti strošek
  4. Izgradnja sledilnika stroškov
  5. Analiza stopnje predpomnjenja
  6. Ključne ugotovitve

Spremljanje stroškov v realnem času

Vsak odgovor API-ja Grok vsebuje podrobnosti o tem, koliko je pravkar stal. Mnoge ekipe te informacije odkrijejo prepozno, ko prispe mesečni račun, čeprav so na voljo za vsako zahtevo posebej. Če jih izkoristiš že ob začetku integracije, zaznaš odstopanja v roku ene ure po njihovem nastanku: sistemski poziv, ki se je po uvedbi podvojil, slabo umerjena zanka za ponovne poskuse, ki znova izvaja iste klice, ali kontekst, ki je prestopil prag zaračunavanja. Brez tega spremljanja ti incidenti ostanejo nevidni vse do prejema izpiska.

Predmet usage

Vsak odgovor vključuje predmet usage, ki podrobno opisuje porabo žetonov in povezane stroške:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Štiri polja za štetje se berejo takole:

PoljePomen
prompt_tokensštevilo vhodnih žetonov (tvoj celoten poziv)
completion_tokensštevilo izhodnih žetonov (odgovor modela)
total_tokensvsota vhodnih in izhodnih žetonov
cached_tokensvhodni žetoni, postreženi iz predpomnilnika

Ena podrobnost preprečuje pogosto napako: cached_tokens so vključeni v prompt_tokens, ne dodani zraven. V zgornjem primeru je v model všlo 1.250 žetonov, 800 jih je prišlo iz predpomnilnika, le 450 pa jih je bilo zaračunanih po polni tarifi. Če tvoj agregator sešteje obe polji, bo dvakrat preštel del iz predpomnilnika in umetno napihnil tvojo statistiko obsega.

Dve merili za isti strošek

Strošek zahteve je podan v dveh celoštevilskih enotah. Ta izbira ni naključna: izražanje delcev centa s plavajočo vejico uvaja napake zaokroževanja, ki postanejo vidne pri seštevanju milijonov klicev. Cela števila se tej težavi popolnoma izognejo.

Polje cost_in_usd_ticks šteje v „tikih”, pri čemer je v enem dolarju 10 milijard tikov. Vrednost 5.000.000.000 v primeru torej ustreza 0,50 USD, en milijon tikov pa 0,0001 USD. Pretvorba se prilega v eno vrstico:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Polje cost_in_nano_usd šteje v nanodolarjih, pri čemer je v enem dolarju milijarda nanodolarjev. Vrednost 500.000.000 v primeru predstavlja isti znesek, 0,50 USD, tisoč nanodolarjev pa je enako 0,000001 USD. Pretvorba sledi isti logiki:

cost_usd = cost_in_nano_usd / 1_000_000_000

Obe polji opisujeta isti znesek v različnih merilih. cost_in_nano_usd je intuitivnejši za uporabo, medtem ko cost_in_usd_ticks ponuja nekoliko višjo natančnost. Izberi enega in ga dosledno uporablaj v celotnem merilnem verigu: mešanje obeh v istem agregatu je najboljši način za pridobitev neskladnih vsot.

Izgradnja sledilnika stroškov

V produkcijskem okolju zadostuje en sam akumulator, da ta polja pretvoriš v nadzorno ploščo. Spodnji razred beleži vsak predmet usage in razkriva kumulativni strošek ter stopnjo predpomnjenja:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

Nato na total_cost_usd naveži pragove. Prvi prag pri 80 % dnevnega proračuna sproži informativno opozorilo za tehnično ekipo; drugi pri 95 % postane kritično opozorilo, ki zahteva človeško odločitev; pri 100 % aplikacija samodejno prekine nekritične zahteve – serijska opravila, predizračune, odložene obogatitve – in dovoli le neposredni promet uporabnikov. Ta postopna degradacija je boljša od nenadne ustavitve storitve ob dnevu največje obremenitve.

Analiza stopnje predpomnjenja

Lastnost cache_rate si zasluži svojo nadzorno ploščo, saj neposredno odraža kakovost strukture tvojega poziva.

Stopnja predpomnjenjaRazlaga
0 do 20 %brez učinkovitega predpomnjenja, preglej strukturo poziva
20 do 50 %delno predpomnjenje, preveri stabilnost sistemskih pozivov
50 do 80 %dobra stopnja za pogovore
80 % in večodlično, značilno za dolge, stabilne pozive

Stopnja, ki iz tedna v teden močno pade, je skoraj vedno znak uvedbe, ki je na začetek poziva vnesla spremenljivko. Naslednja lekcija podrobneje opisuje mehanizem; za zdaj si zapomni, da je ta številka indikator regresije, enako dragocen kot stopnja napak.

Cene na dan 5. avgusta 2026 — cene se redno spreminjajo: pred vsakim izračunom proračuna preveri trenutni cenik na uradni strani modelov in cen xAI.

Ključne ugotovitve

  • Vsak odgovor API-ja vsebuje predmet usage s podrobnostmi o žetonih in stroških
  • cost_in_usd_ticks: 10 milijard tikov = 1 USD
  • cost_in_nano_usd: 1 milijarda nano-USD = 1 USD
  • Polje cached_tokens meri učinkovitost predpomnilnika
  • V produkcijskem okolju zgradi sledilnik stroškov z opozorili glede proračuna