Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Polja troškova u odgovorima

Lekcija 8 od 14 Ažurirano 29. srpnja 2026. Napredno
Na ovoj stranici
  1. Praćenje troškova u stvarnom vremenu
  2. Objekt usage
  3. Dvije razmjere za isti trošak
  4. Izgradi pratitelja troškova
  5. Analiziraj stopu predmemoriranja
  6. Ključne točke

Praćenje troškova u stvarnom vremenu

Svaki odgovor Grok API-ja nosi detalje o tome što te je upravo koštalo. Mnogi timovi saznaju za ove informacije prekasno, kada stigne mjesečni račun, iako su dostupne za svaki pojedinačni zahtjev. Iskoristiš li ih od samog početka integracije, uočit ćeš odstupanja unutar sat vremena od njihove pojave: sistemski prompt koji se udvostručio nakon implementacije, loše podešena petlja ponovnog pokušaja koja ponavlja iste pozive ili kontekst koji prelazi prag naplate. Bez ovog praćenja, ti incidenti ostaju nevidljivi sve dok ne stigne izvještaj.

Objekt usage

Svaki odgovor uključuje objekt usage koji detaljno opisuje potrošnju tokena i pripadajući trošak:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Četiri polja za brojanje znače sljedeće.

PoljeZnačenje
prompt_tokensbroj ulaznih tokena (tvoj cijeli prompt)
completion_tokensbroj izlaznih tokena (odgovor modela)
total_tokenszbroj ulaznih i izlaznih tokena
cached_tokensulazni tokeni posluženi iz predmemorije

Jedan detalj sprječava čestu grešku: cached_tokens je uključen u prompt_tokens, a ne dodan na njega. U gornjem primjeru, 1250 tokena ušlo je u model, 800 ih je došlo iz predmemorije, a samo 450 naplaćeno je po punoj stopi. Ako tvoj agregator zbroji oba polja, dvostruko će uračunati dio iz predmemorije i umjetno napuhati tvoju statistiku volumena.

Dvije razmjere za isti trošak

Trošak zahtjeva dan je u dvije cjelobrojne jedinice. Taj izbor nije proizvoljan: izražavanje djelića centa brojevima s pomičnim zarezom uvodi pogreške zaokruživanja koje postaju vidljive pri zbrajanju milijuna poziva. Cijeli brojevi u potpunosti izbjegavaju taj problem.

Polje cost_in_usd_ticks broji u „tikovima“, pri čemu 10 milijardi tikova čini jedan dolar. Vrijednost 5.000.000.000 u primjeru stoga odgovara 0,50 USD, a milijun tikova jednak je 0,0001 USD. Pretvorba staje u jedan redak:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Polje cost_in_nano_usd broji u nanodolarima, pri čemu milijarda nanodolara čini jedan dolar. Vrijednost 500.000.000 u primjeru predstavlja istu svotu, 0,50 USD, a tisuću nanodolara jednako je 0,000001 USD. Pretvorba slijedi istu logiku:

cost_usd = cost_in_nano_usd / 1_000_000_000

Oba polja opisuju isti iznos u različitim razmjerama. cost_in_nano_usd intuitivniji je za rukovanje, dok cost_in_usd_ticks nudi nešto veću preciznost. Odaberi jedno i drži ga se kroz cijeli lanac mjerenja: miješanje obaju u istom agregatu najbolji je način da dobiješ nekonzistentne ukupne iznose.

Izgradi pratitelja troškova

U proizvodnji je jedan akumulator dovoljan da ova polja pretvori u nadzornu ploču. Donja klasa bilježi svaki objekt usage i izlaže kumulativni trošak zajedno sa stopom predmemoriranja:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

Zatim, poveži pragove s total_cost_usd. Prvi prag na 80 % dnevnog proračuna okida informativno upozorenje za tehnički tim; drugi na 95 % postaje kritično upozorenje koje zahtijeva ljudsku odluku; na 100 %, aplikacija automatski prekida nekritične zahtjeve – serijske poslove, predizračune, odgođena obogaćivanja – i dopušta samo izravan promet korisnika. Ovo postupno degradiranje bolje je od naglog zaustavljanja usluge u danima velikog opterećenja.

Analiziraj stopu predmemoriranja

Svojstvo cache_rate zaslužuje vlastitu nadzornu ploču jer izravno odražava kvalitetu strukture tvog prompta.

Stopa predmemoriranjaTumačenje
0 do 20 %nema učinkovite predmemorije, pregledaj strukturu prompta
20 do 50 %djelomična predmemorija, provjeri stabilnost svojih sistemskih promptova
50 do 80 %dobra stopa za razgovore
80 % i višeizvrsno, tipično za duge, stabilne promptove

Stopa koja naglo padne iz tjedna u tjedan gotovo je uvijek znak implementacije koja je uvela varijablu na početak prompta. Sljedeća lekcija detaljno objašnjava mehanizam; za sada zapamti da je ova brojka indikator regresije jednako vrijedan kao i stopa pogrešaka.

Cijene na dan 5. kolovoza 2026. — cijene se redovito mijenjaju: prije bilo kakvog izračuna proračuna provjeri trenutni cjenik na službenoj stranici xAI modela i cijena.

Ključne točke

  • Svaki odgovor API-ja sadrži objekt usage s detaljima o tokenima i trošku
  • cost_in_usd_ticks: 10 milijardi tikova = 1 USD
  • cost_in_nano_usd: 1 milijarda nano-USD = 1 USD
  • Polje cached_tokens mjeri učinkovitost predmemorije
  • Izgradi pratitelja troškova u proizvodnji s upozorenjima o proračunu