Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Kustannuskentät vastauksissa

Oppitunti 8 / 14 Päivitetty 29. heinäkuuta 2026 Edistynyt
Tällä sivulla
  1. Seuraa kustannuksia reaaliajassa
  2. usage-objekti
  3. Kaksi skaalaa samalle kustannukselle
  4. Rakenna kustannusseuranta
  5. Analysoi välimuistisuhdetta
  6. Keskeiset asiat

Seuraa kustannuksia reaaliajassa

Jokainen Grok API:n vastaus sisältää tiedot juuri syntyneistä kustannuksista. Monet tiimit huomaavat tämän tiedon liian myöhään, kun kuukausilasku saapuu, vaikka se olisi saatavilla pyyntö kerrallaan. Hyödyntämällä sitä integraation alusta alkaen havaitset poikkeamat tunnin kuluessa niiden ilmestymisestä: järjestelmäkehotteen, joka kaksinkertaistui julkaisun jälkeen, huonosti säädetyn uudelleenyrityssilmukan, joka toistaa samoja kutsuja, tai kontekstin, joka ylittää laskutuskynnyksen. Ilman tätä seurantaa nämä tapahtumat jäävät näkymättömiin kunnes laskutusjakso päättyy.

usage-objekti

Jokainen vastaus sisältää usage-objektin, joka erittelee tokenien kulutuksen ja siihen liittyvät kustannukset:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Neljä laskentakenttää tarkoittavat seuraavaa.

KenttäMerkitys
prompt_tokenssyöttetokenien määrä (koko kehotteesi)
completion_tokenstulostetokenien määrä (mallin vastaus)
total_tokenssyöte- ja tulostetokenien summa
cached_tokensvälimuistista haetut syöttetokenit

Yksi yksityiskohta estää yleisen virheen: cached_tokens sisältyy arvoon prompt_tokens, sitä ei lisätä siihen. Yllä olevassa esimerkissä mallille syötettiin 1 250 tokenia, joista 800 tuli välimuistista, ja vain 450 laskutettiin täydellä hinnalla. Jos aggregatorisi laskee molemmat kentät yhteen, se laskee välimuistiosuuden kahteen kertaan ja kasvattaa tilastojasi keinotekoisesti.

Kaksi skaalaa samalle kustannukselle

Pyynnön kustannus annetaan kahtena kokonaislukuyksikkönä. Valinta ei ole mielivaltainen: desimaalilukujen käyttäminen sentin murdosien ilmaisemiseen tuo mukanaan pyöristysvirheitä, jotka tulevat näkyviin miljoonia kutsuja aggregoitaessa. Kokonaisluvut välttävät tämän ongelman täysin.

Kenttä cost_in_usd_ticks laskee “tickejä”, joita dollarissa on 10 miljardia. Esimerkin arvo 5 000 000 000 vastaa siis 0,50 dollaria, ja miljoona tikkiä on 0,0001 dollaria. Muunnos mahtuu yhdelle riville:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Kenttä cost_in_nano_usd laskee nanodollareita, joita dollarissa on miljardi. Esimerkin 500 000 000 edustaa samaa määrää, 0,50 dollaria, ja tuhat nanodollaria on 0,000001 dollaria. Muunnos noudattaa samaa logiikkaa:

cost_usd = cost_in_nano_usd / 1_000_000_000

Molemmat kentät kuvaavat samaa määrää eri skaaloissa. cost_in_nano_usd on intuitiivisempi käsitellä, kun taas cost_in_usd_ticks tarjoaa hieman suuremman tarkkuuden. Valitse toinen ja pidä kiinni siitä koko mittausketjussasi: molempien sekoittaminen samaan aggregaattiin on varmin tapa saada epäjohdonmukaisia summia.

Rakenna kustannusseuranta

Tuotannossa yksi akkumulaattori riittää muuttamaan nämä kentät hallintapaneeliksi. Alla oleva luokka tallentaa jokaisen usage-objektin ja paljastaa kumulatiivisen kustannuksen sekä välimuistisuhteen:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

Liitä seuraavaksi kynnysarvot muuttujaan total_cost_usd. Ensimmäinen kynnys 80 %:ssa päivittäisestä budjetista laukaisee teknisen tiimin informatiivisen hälytyksen; toinen kynnys 95 %:ssa muuttuu kriittiseksi hälytykseksi, joka vaatii ihmisen päätöstä; 100 %:ssa sovellus katkaisee automaattisesti epäkritilliset pyynnöt – eräajot, esilaskennat, viivästetyt rikastukset – ja sallii vain suoran käyttäjäliikenteen. Tämä hallittu heikkeneminen on parempi kuin äkillinen palvelun pysähtyminen ruuhkapäivänä.

Analysoi välimuistisuhdetta

Ominaisuus cache_rate ansaitsee oman hallintapaneelinsa, sillä se heijastaa suoraan kehotteesi rakenteen laatua.

VälimuistisuhdeTulkinta
0–20 %ei tehokasta välimuistia, tarkista kehotteen rakenne
20–50 %osittainen välimuisti, tarkista järjestelmäkehotteidesi vakaus
50–80 %hyvä suhde keskusteluille
80 % ja ylierinomainen, tyypillinen pitkille ja vakaille kehotteille

Suhde, joka laskee jyrkästi viikosta toiseen, on lähes aina merkki julkaisusta, joka toi muuttujan kehotteen alkuun. Seuraava oppitunti yksityiskohtaistaa mekanismin; toistaiseksi muista, että tämä luku on yhtä arvokas regressioindikaattori kuin virhesuhde.

Hinnat 5. elokuuta 2026 – hinnat muuttuvat säännöllisesti: ennen kuin teet budjettilaskelmia, tarkista nykyinen hintalista xAI:n viralliselta mallien ja hinnoittelun sivulta.

Keskeiset asiat

  • Jokainen API-vastaus sisältää usage-objektin, jossa on tokenitiedot ja kustannukset
  • cost_in_usd_ticks: 10 miljardia tikkiä = 1 USD
  • cost_in_nano_usd: 1 miljardi nano-USD:tä = 1 USD
  • Kenttä cached_tokens mittaa välimuistin tehokkuutta
  • Rakenna tuotantoon kustannusseuranta budjettihälytyksineen