Kustannuskentät vastauksissa
Tällä sivulla
Seuraa kustannuksia reaaliajassa
Jokainen Grok API:n vastaus sisältää tiedot juuri syntyneistä kustannuksista. Monet tiimit huomaavat tämän tiedon liian myöhään, kun kuukausilasku saapuu, vaikka se olisi saatavilla pyyntö kerrallaan. Hyödyntämällä sitä integraation alusta alkaen havaitset poikkeamat tunnin kuluessa niiden ilmestymisestä: järjestelmäkehotteen, joka kaksinkertaistui julkaisun jälkeen, huonosti säädetyn uudelleenyrityssilmukan, joka toistaa samoja kutsuja, tai kontekstin, joka ylittää laskutuskynnyksen. Ilman tätä seurantaa nämä tapahtumat jäävät näkymättömiin kunnes laskutusjakso päättyy.
usage-objekti
Jokainen vastaus sisältää usage-objektin, joka erittelee tokenien kulutuksen ja siihen liittyvät kustannukset:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
Neljä laskentakenttää tarkoittavat seuraavaa.
| Kenttä | Merkitys |
|---|---|
prompt_tokens | syöttetokenien määrä (koko kehotteesi) |
completion_tokens | tulostetokenien määrä (mallin vastaus) |
total_tokens | syöte- ja tulostetokenien summa |
cached_tokens | välimuistista haetut syöttetokenit |
Yksi yksityiskohta estää yleisen virheen: cached_tokens sisältyy arvoon prompt_tokens, sitä ei lisätä siihen. Yllä olevassa esimerkissä mallille syötettiin 1 250 tokenia, joista 800 tuli välimuistista, ja vain 450 laskutettiin täydellä hinnalla. Jos aggregatorisi laskee molemmat kentät yhteen, se laskee välimuistiosuuden kahteen kertaan ja kasvattaa tilastojasi keinotekoisesti.
Kaksi skaalaa samalle kustannukselle
Pyynnön kustannus annetaan kahtena kokonaislukuyksikkönä. Valinta ei ole mielivaltainen: desimaalilukujen käyttäminen sentin murdosien ilmaisemiseen tuo mukanaan pyöristysvirheitä, jotka tulevat näkyviin miljoonia kutsuja aggregoitaessa. Kokonaisluvut välttävät tämän ongelman täysin.
Kenttä cost_in_usd_ticks laskee “tickejä”, joita dollarissa on 10 miljardia. Esimerkin arvo 5 000 000 000 vastaa siis 0,50 dollaria, ja miljoona tikkiä on 0,0001 dollaria. Muunnos mahtuu yhdelle riville:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Kenttä cost_in_nano_usd laskee nanodollareita, joita dollarissa on miljardi. Esimerkin 500 000 000 edustaa samaa määrää, 0,50 dollaria, ja tuhat nanodollaria on 0,000001 dollaria. Muunnos noudattaa samaa logiikkaa:
cost_usd = cost_in_nano_usd / 1_000_000_000
Molemmat kentät kuvaavat samaa määrää eri skaaloissa. cost_in_nano_usd on intuitiivisempi käsitellä, kun taas cost_in_usd_ticks tarjoaa hieman suuremman tarkkuuden. Valitse toinen ja pidä kiinni siitä koko mittausketjussasi: molempien sekoittaminen samaan aggregaattiin on varmin tapa saada epäjohdonmukaisia summia.
Rakenna kustannusseuranta
Tuotannossa yksi akkumulaattori riittää muuttamaan nämä kentät hallintapaneeliksi. Alla oleva luokka tallentaa jokaisen usage-objektin ja paljastaa kumulatiivisen kustannuksen sekä välimuistisuhteen:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
Liitä seuraavaksi kynnysarvot muuttujaan total_cost_usd. Ensimmäinen kynnys 80 %:ssa päivittäisestä budjetista laukaisee teknisen tiimin informatiivisen hälytyksen; toinen kynnys 95 %:ssa muuttuu kriittiseksi hälytykseksi, joka vaatii ihmisen päätöstä; 100 %:ssa sovellus katkaisee automaattisesti epäkritilliset pyynnöt – eräajot, esilaskennat, viivästetyt rikastukset – ja sallii vain suoran käyttäjäliikenteen. Tämä hallittu heikkeneminen on parempi kuin äkillinen palvelun pysähtyminen ruuhkapäivänä.
Analysoi välimuistisuhdetta
Ominaisuus cache_rate ansaitsee oman hallintapaneelinsa, sillä se heijastaa suoraan kehotteesi rakenteen laatua.
| Välimuistisuhde | Tulkinta |
|---|---|
| 0–20 % | ei tehokasta välimuistia, tarkista kehotteen rakenne |
| 20–50 % | osittainen välimuisti, tarkista järjestelmäkehotteidesi vakaus |
| 50–80 % | hyvä suhde keskusteluille |
| 80 % ja yli | erinomainen, tyypillinen pitkille ja vakaille kehotteille |
Suhde, joka laskee jyrkästi viikosta toiseen, on lähes aina merkki julkaisusta, joka toi muuttujan kehotteen alkuun. Seuraava oppitunti yksityiskohtaistaa mekanismin; toistaiseksi muista, että tämä luku on yhtä arvokas regressioindikaattori kuin virhesuhde.
Hinnat 5. elokuuta 2026 – hinnat muuttuvat säännöllisesti: ennen kuin teet budjettilaskelmia, tarkista nykyinen hintalista xAI:n viralliselta mallien ja hinnoittelun sivulta.
Keskeiset asiat
- Jokainen API-vastaus sisältää
usage-objektin, jossa on tokenitiedot ja kustannukset cost_in_usd_ticks: 10 miljardia tikkiä = 1 USDcost_in_nano_usd: 1 miljardi nano-USD:tä = 1 USD- Kenttä
cached_tokensmittaa välimuistin tehokkuutta - Rakenna tuotantoon kustannusseuranta budjettihälytyksineen