Lauki 'Izmaksas' atbildēs
Šajā lapā
Izmaksu izsekošana reāllaikā
Katra Grok API atbilde satur datus par tās radītajām izmaksām. Daudzas komandas šo informāciju uzzina par vēlu – kad saņem mēneša rēķinu, lai gan tā ir pieejama katrā pieprasījumā atsevišķi. Izmantojot šos datus jau integrācijas sākumposmā, tu vari pamanīt novirzes stundas laikā pēc to rašanās: piemēram, sistēmas uzvedni, kas pēc izvēršanas palikusi divreiz garāka, slikti kalibrētu atkārtojumu ciklu, kas atkārtoti veic tos pašus zvanus, vai kontekstu, kas šķērsojis norēķinu slieksni. Bez šādas izsekošanas šādi incidenti paliek neredzami līdz brīdim, kad saņem rēķinu.
Objekts usage
Katra atbilde ietver objektu usage, kurā detalizēti norādīts tokena patēriņš un ar to saistītās izmaksas:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
Četri skaitīšanas lauki nozīmē sekojošo.
| Lauks | Nozīme |
|---|---|
prompt_tokens | ievades tokena skaits (tava pilnā uzvedne) |
completion_tokens | izvades tokena skaits (modeļa atbilde) |
total_tokens | ievades un izvades tokena summa |
cached_tokens | no kešatmiņas apkalpotie ievades tokeni |
Viena detaļa novērš bieži pieļautu kļūdu: cached_tokens ir iekļauti laukā prompt_tokens, nevis pieskaitīti tam klāt. Iepriekš minētajā piemērā modelim tika nosūtīti 1250 tokeni, no kuriem 800 nāca no kešatmiņas, un tikai 450 tika apmaksāti pilnā tarifā. Ja tavs agregators saskaita abus laukus kopā, tas dubultos kešatmiņas daļu un mākslīgi palielinās tavus apjoma statistikas rādītājus.
Divas skalas vienām un tām pašām izmaksām
Pieprasījuma izmaksas tiek norādītas divās veselo skaitļu vienībās. Šī izvēle nav nejauša: daļskaitļu izteikšana centos, izmantojot peldošā komata skaitļus, ievieš noapaļošanas kļūdas, kas kļūst redzamas, apkopojot miljoniem zvanu. Veseli skaitļi šo problēmu novērš pilnībā.
Lauks cost_in_usd_ticks skaita „tikos”, kur viens dolārs ir vienāds ar 10 miljardiem tiku. Tādējādi vērtība 5 000 000 000 piemērā atbilst 0,50 USD, bet viens miljons tiku ir vienāds ar 0,0001 USD. Konvertēšanu var veikt vienā rindiņā:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Lauks cost_in_nano_usd skaita nano-dolāros, kur viens dolārs ir vienāds ar vienu miljardu nano-dolāru. Vērtība 500 000 000 piemērā apzīmē to pašu summu – 0,50 USD, bet tūkstoš nano-dolāru ir vienādi ar 0,000001 USD. Konvertēšana notiek pēc tādas pašas loģikas:
cost_usd = cost_in_nano_usd / 1_000_000_000
Abi lauki apraksta vienu un to pašu summu, tikai dažādās skalās. cost_in_nano_usd ir intuitīvāks lietošanā, savukārt cost_in_usd_ticks nodrošina nedaudz augstāku precizitāti. Izvēlies vienu un pieturies pie tā visā savu mērījumu ķēdē: abu sajaukšana vienā apkopojumā ir drošākais veids, kā iegūt nekonsekventus kopsummas rezultātus.
Izveido izmaksu izsekotāju
Produkcijas vidē pietiek ar vienu akumulatoru, lai pārvērstu šos laukus informācijas panelī. Tālāk redzamā klase reģistrē katru usage objektu un nodrošina piekļuvi kumulatīvajām izmaksām kopā ar kešatmiņas efektivitātes koeficientu:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
Tālāk piesaisti sliekšņus laukam total_cost_usd. Pirmais slieksnis pie 80 % no dienas budžeta aktivizē informatīvu brīdinājumu tehniskajai komandai; otrais pie 95 % kļūst par kritisku brīdinājumu, kas prasa cilvēka lēmumu; sasniedzot 10 %, lietotne automātiski pārtrauc nekritiskus pieprasījumus – pakotņu uzdevumus, iepriekšējos aprēķinus, atliktos bagātinājumus – un ļauj apstrādāt tikai tiešo lietotāju satiksmi. Šāda pakāpeniska degradēšanās ir labāka nekā pēkšņa pakalpojuma apturēšana noslogotā dienā.
Analizē kešatmiņas efektivitātes koeficientu
Īpašība cache_rate ir pelnījusi savu informācijas paneli, jo tā tieši atspoguļo tavas uzvednes struktūras kvalitāti.
| Kešatmiņas koeficients | Interpretācija |
|---|---|
| 0 līdz 20 % | nav efektīvas kešatmiņas, pārskati uzvednes struktūru |
| 20 līdz 50 % | daļēja kešatmiņa, pārbaudi sistēmas uzvedņu stabilitāti |
| 50 līdz 80 % | labs rādītājs sarunām |
| 80 % un vairāk | izcili, raksturīgi gariem, stabilām uzvednēm |
Koeficients, kas strauji krītas no vienas nedēļas uz nākamo, gandrīz vienmēr liecina par izvēršanu, kas uzvednes sākumā ieviesusi mainīgo lielumu. Nākamajā nodarbībā tiks detalizēti aprakstīts šis mehānisms; pagaidām atceries, ka šis rādītājs ir tikpat vērtīgs regresijas indikators kā kļūdu līmenis.
Cenas uz 2026. gada 5. augustu – cenas regulāri mainās: pirms jebkādu budžeta aprēķinu veikšanas pārbaudi aktuālo cenu lapu oficiālajā xAI modeļu un cenu lapā.
Galvenās atziņas
- Katra API atbilde satur objektu
usagear tokena detaļām un izmaksām cost_in_usd_ticks: 10 miljardi tiku = 1 USDcost_in_nano_usd: 1 miljards nano-USD = 1 USD- Lauks
cached_tokensmēra kešatmiņas efektivitāti - Izveido izmaksu izsekotāju produkcijas vidē ar budžeta brīdinājumiem