Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Lauki 'Izmaksas' atbildēs

Nodarbība 8 no 14 Atjaunota 2026. gada 29. jūlijs Augstākais
Šajā lapā
  1. Izmaksu izsekošana reāllaikā
  2. Objekts usage
  3. Divas skalas vienām un tām pašām izmaksām
  4. Izveido izmaksu izsekotāju
  5. Analizē kešatmiņas efektivitātes koeficientu
  6. Galvenās atziņas

Izmaksu izsekošana reāllaikā

Katra Grok API atbilde satur datus par tās radītajām izmaksām. Daudzas komandas šo informāciju uzzina par vēlu – kad saņem mēneša rēķinu, lai gan tā ir pieejama katrā pieprasījumā atsevišķi. Izmantojot šos datus jau integrācijas sākumposmā, tu vari pamanīt novirzes stundas laikā pēc to rašanās: piemēram, sistēmas uzvedni, kas pēc izvēršanas palikusi divreiz garāka, slikti kalibrētu atkārtojumu ciklu, kas atkārtoti veic tos pašus zvanus, vai kontekstu, kas šķērsojis norēķinu slieksni. Bez šādas izsekošanas šādi incidenti paliek neredzami līdz brīdim, kad saņem rēķinu.

Objekts usage

Katra atbilde ietver objektu usage, kurā detalizēti norādīts tokena patēriņš un ar to saistītās izmaksas:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Četri skaitīšanas lauki nozīmē sekojošo.

LauksNozīme
prompt_tokensievades tokena skaits (tava pilnā uzvedne)
completion_tokensizvades tokena skaits (modeļa atbilde)
total_tokensievades un izvades tokena summa
cached_tokensno kešatmiņas apkalpotie ievades tokeni

Viena detaļa novērš bieži pieļautu kļūdu: cached_tokens ir iekļauti laukā prompt_tokens, nevis pieskaitīti tam klāt. Iepriekš minētajā piemērā modelim tika nosūtīti 1250 tokeni, no kuriem 800 nāca no kešatmiņas, un tikai 450 tika apmaksāti pilnā tarifā. Ja tavs agregators saskaita abus laukus kopā, tas dubultos kešatmiņas daļu un mākslīgi palielinās tavus apjoma statistikas rādītājus.

Divas skalas vienām un tām pašām izmaksām

Pieprasījuma izmaksas tiek norādītas divās veselo skaitļu vienībās. Šī izvēle nav nejauša: daļskaitļu izteikšana centos, izmantojot peldošā komata skaitļus, ievieš noapaļošanas kļūdas, kas kļūst redzamas, apkopojot miljoniem zvanu. Veseli skaitļi šo problēmu novērš pilnībā.

Lauks cost_in_usd_ticks skaita „tikos”, kur viens dolārs ir vienāds ar 10 miljardiem tiku. Tādējādi vērtība 5 000 000 000 piemērā atbilst 0,50 USD, bet viens miljons tiku ir vienāds ar 0,0001 USD. Konvertēšanu var veikt vienā rindiņā:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Lauks cost_in_nano_usd skaita nano-dolāros, kur viens dolārs ir vienāds ar vienu miljardu nano-dolāru. Vērtība 500 000 000 piemērā apzīmē to pašu summu – 0,50 USD, bet tūkstoš nano-dolāru ir vienādi ar 0,000001 USD. Konvertēšana notiek pēc tādas pašas loģikas:

cost_usd = cost_in_nano_usd / 1_000_000_000

Abi lauki apraksta vienu un to pašu summu, tikai dažādās skalās. cost_in_nano_usd ir intuitīvāks lietošanā, savukārt cost_in_usd_ticks nodrošina nedaudz augstāku precizitāti. Izvēlies vienu un pieturies pie tā visā savu mērījumu ķēdē: abu sajaukšana vienā apkopojumā ir drošākais veids, kā iegūt nekonsekventus kopsummas rezultātus.

Izveido izmaksu izsekotāju

Produkcijas vidē pietiek ar vienu akumulatoru, lai pārvērstu šos laukus informācijas panelī. Tālāk redzamā klase reģistrē katru usage objektu un nodrošina piekļuvi kumulatīvajām izmaksām kopā ar kešatmiņas efektivitātes koeficientu:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

Tālāk piesaisti sliekšņus laukam total_cost_usd. Pirmais slieksnis pie 80 % no dienas budžeta aktivizē informatīvu brīdinājumu tehniskajai komandai; otrais pie 95 % kļūst par kritisku brīdinājumu, kas prasa cilvēka lēmumu; sasniedzot 10 %, lietotne automātiski pārtrauc nekritiskus pieprasījumus – pakotņu uzdevumus, iepriekšējos aprēķinus, atliktos bagātinājumus – un ļauj apstrādāt tikai tiešo lietotāju satiksmi. Šāda pakāpeniska degradēšanās ir labāka nekā pēkšņa pakalpojuma apturēšana noslogotā dienā.

Analizē kešatmiņas efektivitātes koeficientu

Īpašība cache_rate ir pelnījusi savu informācijas paneli, jo tā tieši atspoguļo tavas uzvednes struktūras kvalitāti.

Kešatmiņas koeficientsInterpretācija
0 līdz 20 %nav efektīvas kešatmiņas, pārskati uzvednes struktūru
20 līdz 50 %daļēja kešatmiņa, pārbaudi sistēmas uzvedņu stabilitāti
50 līdz 80 %labs rādītājs sarunām
80 % un vairākizcili, raksturīgi gariem, stabilām uzvednēm

Koeficients, kas strauji krītas no vienas nedēļas uz nākamo, gandrīz vienmēr liecina par izvēršanu, kas uzvednes sākumā ieviesusi mainīgo lielumu. Nākamajā nodarbībā tiks detalizēti aprakstīts šis mehānisms; pagaidām atceries, ka šis rādītājs ir tikpat vērtīgs regresijas indikators kā kļūdu līmenis.

Cenas uz 2026. gada 5. augustu – cenas regulāri mainās: pirms jebkādu budžeta aprēķinu veikšanas pārbaudi aktuālo cenu lapu oficiālajā xAI modeļu un cenu lapā.

Galvenās atziņas

  • Katra API atbilde satur objektu usage ar tokena detaļām un izmaksām
  • cost_in_usd_ticks: 10 miljardi tiku = 1 USD
  • cost_in_nano_usd: 1 miljards nano-USD = 1 USD
  • Lauks cached_tokens mēra kešatmiņas efektivitāti
  • Izveido izmaksu izsekotāju produkcijas vidē ar budžeta brīdinājumiem