Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Išlaidų laukai atsakymuose

Paskaita 8 iš 14 Atnaujinta 2026 m. liepos 29 d. Pažengusiems
Šiame puslapyje
  1. Stebėk išlaidas realiuoju laiku
  2. Objektas usage
  3. Du masteliai tai pačiai kainai
  4. Sukurk išlaidų stebėtoją
  5. Analizuok podėlio naudojimo rodiklį
  6. Svarbiausi punktai

Stebėk išlaidas realiuoju laiku

Kiekviename „Grok“ API atsakyme pateikiama informacija apie tai, kiek tai ką tik kainavo. Daugelis komandų šią informaciją atranda per vėlai – kai atkeliauja mėnesio sąskaita, nors ji prieinama kiekvieno užklausos metu. Naudodamasis ja nuo pat integracijos pradžios, nukrypimus pastebi per valandą nuo jų atsiradimo: sistemos prompt’as, kurio dydis po diegimo padvigubėjo, netinkamai sureguliuotas kartojimo ciklas, kartojantis tuos pačius kvietimus, arba kontekstas, peržengęs atsiskaitymo ribą. Be tokio stebėjimo šie incidentai lieka nematomi iki sąskaitos gavimo.

Objektas usage

Kiekviename atsakyme yra objektas usage, kuriame išsamiai nurodomas tokenų suvartojimas ir susijusios išlaidos:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Keturi skaičiavimo laukai reiškia štai ką:

LaukasReikšmė
prompt_tokensįvesties tokenų skaičius (visas tavo prompt’as)
completion_tokensišvesties tokenų skaičius (modelio atsakymas)
total_tokensįvesties ir išvesties tokenų suma
cached_tokensiš podėlio (cache) pateikti įvesties tokenai

Viena detalė padeda išvengti dažnos klaidos: cached_tokens yra įtraukti į prompt_tokens, o ne pridedami prie jų. Pirmiau pateiktame pavyzdyje į modelį buvo įvesta 1250 tokenų, 800 jų atėjo iš podėlio, o tik 450 buvo apmokestinti pilnu tarifu. Jei tavo agregatorius sudės abu laukus, jis dvigubai suskaičiuos podėlio dalį ir dirbtinai išpūs tavo apimties statistiką.

Du masteliai tai pačiai kainai

Užklausos kaina pateikiama dviem sveikųjų skaičių vienetais. Šis pasirinkimas nėra atsitiktinis: trupmeninių cento dalių išraiška slankiojo kablelio skaičiais sukelia apvalinimo paklaidų, kurios tampa matomos agreguojant milijonus kvietimų. Sveikieji skaičiai šios problemos visiškai išvengia.

Laukas cost_in_usd_ticks skaičiuoja „takteliais“ (ticks), kur viename doleryje yra 10 milijardų taktelių. Pavyzdyje pateikta reikšmė 5 000 000 000 todėl atitinka 0,50 USD, o vienas milijonas taktelių lygus 0,0001 USD. Konversija telpa į vieną eilutę:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Laukas cost_in_nano_usd skaičiuoja nanodoleriais, kur viename doleryje yra vienas milijardas nanodolerių. Pavyzdyje esantis skaičius 500 000 000 reiškia tą pačią sumą – 0,50 USD, o tūkstantis nanodolerių lygus 0,000001 USD. Konversija vykdoma pagal tą pačią logiką:

cost_usd = cost_in_nano_usd / 1_000_000_000

Abu laukai aprašo tą pačią sumą, tik skirtingais masteliais. cost_in_nano_usd yra intuityvesnis naudoti, o cost_in_usd_ticks suteikia šiek tiek didesnį tikslumą. Pasirink vieną ir laikykis jo visoje savo matavimų grandinėje: abiejų maišymas tame pačiame agregate yra geriausias būdas gauti nenuoseklias bendras sumas.

Sukurk išlaidų stebėtoją

Gamybinėje aplinkoje pakanka vieno kaupiklio, kad šiuos laukus paverstum informaciniu skydeliu. Toliau pateikta klasė įrašo kiekvieną usage objektą ir pateikia sukauptas išlaidas bei podėlio naudojimo rodiklį:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

Toliau prie total_cost_usd pridėk slenkstines reikšmes. Pirmasis slenkstis, pasiekęs 80 % dienos biudžeto, suaktyvina informacinį įspėjimą techninei komandai; antrasis, pasiekęs 95 %, tampa kritiniu įspėjimu, reikalaujančiu žmogaus sprendimo; pasiekus 100 %, programa automatiškai nutraukia nekritines užklausas – grupinius darbus, išankstinius skaičiavimus, atidėtus praturtinimus – ir leidžia tik tiesioginį naudotojų srautą. Toks laipsniškas funkcionalumo mažinimas yra geresnis nei staigus paslaugos sustabdymas didelio krūvio dieną.

Analizuok podėlio naudojimo rodiklį

Savybė cache_rate nusipelno atskiro informacinio skydelio, nes ji tiesiogiai atspindi tavo prompt’o struktūros kokybę.

Podėlio rodiklisInterpretacija
Nuo 0 iki 20 %veiksmingo podėlio nėra, peržiūrėk prompt’o struktūrą
Nuo 20 iki 50 %dalinis podėlis, patikrink sistemos prompt’ų stabilumą
Nuo 50 iki 80 %geras rodiklis pokalbiams
80 % ir daugiaupuiku, būdinga ilgiems, stabiliems prompt’ams

Rodiklis, kuris staigiai krenta nuo vienos savaitės kitai, beveik visada rodo, kad diegimo metu prompt’o pradžioje atsirado kintamasis. Kitoje pamokoje bus detaliai aprašytas šis mechanizmas; kol kas atmink, kad šis skaičius yra toks pat vertingas regresijos indikatorius kaip ir klaidų rodiklis.

Kainos galioja nuo 2026 m. rugpjūčio 5 d. – kainos reguliariai keičiasi: prieš atlikdami bet kokius biudžeto skaičiavimus, patikrinkite dabartinius įkainius oficialioje xAI modelių ir kainodaros puslapyje.

Svarbiausi punktai

  • Kiekviename API atsakyme yra objektas usage su tokenų detalėmis ir kaina
  • cost_in_usd_ticks: 10 milijardų taktelių = 1 USD
  • cost_in_nano_usd: 1 milijardas nano-USD = 1 USD
  • Laukas cached_tokens matuoja podėlio efektyvumą
  • Gamybinėje aplinkoje sukurk išlaidų stebėtoją su biudžeto įspėjimais