Išlaidų laukai atsakymuose
Šiame puslapyje
Stebėk išlaidas realiuoju laiku
Kiekviename „Grok“ API atsakyme pateikiama informacija apie tai, kiek tai ką tik kainavo. Daugelis komandų šią informaciją atranda per vėlai – kai atkeliauja mėnesio sąskaita, nors ji prieinama kiekvieno užklausos metu. Naudodamasis ja nuo pat integracijos pradžios, nukrypimus pastebi per valandą nuo jų atsiradimo: sistemos prompt’as, kurio dydis po diegimo padvigubėjo, netinkamai sureguliuotas kartojimo ciklas, kartojantis tuos pačius kvietimus, arba kontekstas, peržengęs atsiskaitymo ribą. Be tokio stebėjimo šie incidentai lieka nematomi iki sąskaitos gavimo.
Objektas usage
Kiekviename atsakyme yra objektas usage, kuriame išsamiai nurodomas tokenų suvartojimas ir susijusios išlaidos:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
Keturi skaičiavimo laukai reiškia štai ką:
| Laukas | Reikšmė |
|---|---|
prompt_tokens | įvesties tokenų skaičius (visas tavo prompt’as) |
completion_tokens | išvesties tokenų skaičius (modelio atsakymas) |
total_tokens | įvesties ir išvesties tokenų suma |
cached_tokens | iš podėlio (cache) pateikti įvesties tokenai |
Viena detalė padeda išvengti dažnos klaidos: cached_tokens yra įtraukti į prompt_tokens, o ne pridedami prie jų. Pirmiau pateiktame pavyzdyje į modelį buvo įvesta 1250 tokenų, 800 jų atėjo iš podėlio, o tik 450 buvo apmokestinti pilnu tarifu. Jei tavo agregatorius sudės abu laukus, jis dvigubai suskaičiuos podėlio dalį ir dirbtinai išpūs tavo apimties statistiką.
Du masteliai tai pačiai kainai
Užklausos kaina pateikiama dviem sveikųjų skaičių vienetais. Šis pasirinkimas nėra atsitiktinis: trupmeninių cento dalių išraiška slankiojo kablelio skaičiais sukelia apvalinimo paklaidų, kurios tampa matomos agreguojant milijonus kvietimų. Sveikieji skaičiai šios problemos visiškai išvengia.
Laukas cost_in_usd_ticks skaičiuoja „takteliais“ (ticks), kur viename doleryje yra 10 milijardų taktelių. Pavyzdyje pateikta reikšmė 5 000 000 000 todėl atitinka 0,50 USD, o vienas milijonas taktelių lygus 0,0001 USD. Konversija telpa į vieną eilutę:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Laukas cost_in_nano_usd skaičiuoja nanodoleriais, kur viename doleryje yra vienas milijardas nanodolerių. Pavyzdyje esantis skaičius 500 000 000 reiškia tą pačią sumą – 0,50 USD, o tūkstantis nanodolerių lygus 0,000001 USD. Konversija vykdoma pagal tą pačią logiką:
cost_usd = cost_in_nano_usd / 1_000_000_000
Abu laukai aprašo tą pačią sumą, tik skirtingais masteliais. cost_in_nano_usd yra intuityvesnis naudoti, o cost_in_usd_ticks suteikia šiek tiek didesnį tikslumą. Pasirink vieną ir laikykis jo visoje savo matavimų grandinėje: abiejų maišymas tame pačiame agregate yra geriausias būdas gauti nenuoseklias bendras sumas.
Sukurk išlaidų stebėtoją
Gamybinėje aplinkoje pakanka vieno kaupiklio, kad šiuos laukus paverstum informaciniu skydeliu. Toliau pateikta klasė įrašo kiekvieną usage objektą ir pateikia sukauptas išlaidas bei podėlio naudojimo rodiklį:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
Toliau prie total_cost_usd pridėk slenkstines reikšmes. Pirmasis slenkstis, pasiekęs 80 % dienos biudžeto, suaktyvina informacinį įspėjimą techninei komandai; antrasis, pasiekęs 95 %, tampa kritiniu įspėjimu, reikalaujančiu žmogaus sprendimo; pasiekus 100 %, programa automatiškai nutraukia nekritines užklausas – grupinius darbus, išankstinius skaičiavimus, atidėtus praturtinimus – ir leidžia tik tiesioginį naudotojų srautą. Toks laipsniškas funkcionalumo mažinimas yra geresnis nei staigus paslaugos sustabdymas didelio krūvio dieną.
Analizuok podėlio naudojimo rodiklį
Savybė cache_rate nusipelno atskiro informacinio skydelio, nes ji tiesiogiai atspindi tavo prompt’o struktūros kokybę.
| Podėlio rodiklis | Interpretacija |
|---|---|
| Nuo 0 iki 20 % | veiksmingo podėlio nėra, peržiūrėk prompt’o struktūrą |
| Nuo 20 iki 50 % | dalinis podėlis, patikrink sistemos prompt’ų stabilumą |
| Nuo 50 iki 80 % | geras rodiklis pokalbiams |
| 80 % ir daugiau | puiku, būdinga ilgiems, stabiliems prompt’ams |
Rodiklis, kuris staigiai krenta nuo vienos savaitės kitai, beveik visada rodo, kad diegimo metu prompt’o pradžioje atsirado kintamasis. Kitoje pamokoje bus detaliai aprašytas šis mechanizmas; kol kas atmink, kad šis skaičius yra toks pat vertingas regresijos indikatorius kaip ir klaidų rodiklis.
Kainos galioja nuo 2026 m. rugpjūčio 5 d. – kainos reguliariai keičiasi: prieš atlikdami bet kokius biudžeto skaičiavimus, patikrinkite dabartinius įkainius oficialioje xAI modelių ir kainodaros puslapyje.
Svarbiausi punktai
- Kiekviename API atsakyme yra objektas
usagesu tokenų detalėmis ir kaina cost_in_usd_ticks: 10 milijardų taktelių = 1 USDcost_in_nano_usd: 1 milijardas nano-USD = 1 USD- Laukas
cached_tokensmatuoja podėlio efektyvumą - Gamybinėje aplinkoje sukurk išlaidų stebėtoją su biudžeto įspėjimais