Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Oqsma tal-Ispejjeż fir-Risposti

Lezzjoni 8 / 14 Aġġornat 29 ta’ Lulju 2026 Avvanzat
F'din il-paġna
  1. Traċċa l-Ispejjeż f’Ħin Reali
  2. L-Oġġett usage
  3. Żewġ Skali għall-Istess Spiża
  4. Ibni Traċċatur tal-Ispejjeż
  5. Analizza r-Rata tal-Cache
  6. Punti Ewlenin

Traċċa l-Ispejjeż f’Ħin Reali

Kull risposta mill-API ta’ Grok iġġor id-dettalji ta’ kemm għadha kemm kostat. Ħafna timijiet jiskopru din l-informazzjoni tard wisq, meta tasal il-fattura ta’ kull xahar, għalkemm hija disponibbli għal kull talba. Billi tużaha mill-bidu tal-integrazzjoni, tinduna bid-devjazzjonijiet fi żmien siegħa minn meta jidhru: prompt tas-sistema li rdoppja fid-daqs wara deploy, ċiklu ta’ retry kkallibrat ħażin li jerġa’ jibgħat l-istess sejħiet, jew kuntest li jaqbeż limitu ta’ fatturazzjoni. Mingħajr dan it-traċċar, dawn l-inċidenti jibqgħu inviżibbli sakemm tasal id-dikjarazzjoni.

L-Oġġett usage

Kull risposta tinkludi oġġett usage li jiddettalja l-konsum tat-tokens u l-ispiża assoċjata:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

L-erba’ oqsma tal-għadd jaqraw hekk.

QasamTifsira
prompt_tokensnumru ta’ tokens tal-input (il-prompt sħiħ tiegħek)
completion_tokensnumru ta’ tokens tal-output (ir-risposta tal-mudell)
total_tokenssomma tat-tokens tal-input u tal-output
cached_tokenstokens tal-input moqdija mill-cache

Dettall wieħed jipprevjeni żball komuni: cached_tokens huwa inkluż f’prompt_tokens, mhux miżjud miegħu. Fl-eżempju ta’ hawn fuq, 1,250 token daħlu fil-mudell, 800 ġew mill-cache, u biss 450 ġew iffatturati bir-rata sħiħa. Jekk l-aggregatur tiegħek iżid iż-żewġ oqsma flimkien, se jgħodd darbtejn il-parti cached u jinfla artificialment l-istatistika tal-volum tiegħek.

Żewġ Skali għall-Istess Spiża

L-ispiża tat-talba hija pprovduta f’żewġ unitajiet interi. Din l-għażla mhix arbitrarja: li tesprimi frazzjonijiet ta’ ċenteżmu f’numri floating-point tintroduċi żbalji ta’ arrotondament li jsiru viżibbli meta taggrega miljuni ta’ sejħiet. L-interi jevitaw din il-problema għalkollox.

Il-qasam cost_in_usd_ticks jgħodd f‘“ticks”, b’10 biljuni tick kull dollaru. Il-valur 5,000,000,000 fl-eżempju għalhekk jikkorrispondi għal $0.50, u miljun tick huwa ugwali għal $0.0001. Il-konverżjoni tidħol f’linja waħda:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Il-qasam cost_in_nano_usd jgħodd f’nano-dollari, b’miljard nano-dollaru kull dollaru. Il-500,000,000 fl-eżempju jirrappreżenta l-istess ammont, $0.50, u elf nano-dollaru huwa ugwali għal $0.000001. Il-konverżjoni ssegwi l-istess loġika:

cost_usd = cost_in_nano_usd / 1_000_000_000

Iż-żewġ oqsma jiddeskrivu l-istess ammont f’iskali differenti. cost_in_nano_usd huwa aktar intuwittiv biex tittrattah, filwaqt li cost_in_usd_ticks joffri preċiżjoni ftit ogħla. Agħżel wieħed u ibqa’ miegħu matul il-katina tal-kejl tiegħek: li tħallat it-tnejn fl-istess aggregat huwa l-aħjar mod biex tikseb totali inkonsistenti.

Ibni Traċċatur tal-Ispejjeż

Fil-produzzjoni, akkumulatur wieħed huwa biżżejjed biex iħawwel dawn l-oqsma f’dashboard. Il-klassi hawn taħt tirreġistra kull oġġett usage u tesponi l-ispiża kumulattiva flimkien mar-rata tal-cache:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

Sussegwentement, waħħal limiti ma’ total_cost_usd. L-ewwel limitu f’80% tal-baġit ta’ kuljum jattiva twissija informattiva għat-tim tekniku; it-tieni f’95% isir twissija kritika li teħtieġ deċiżjoni umana; f’100%, l-applikazzjoni awtomatikament taqta’ t-talbiet mhux kritiċi—xogħlijiet bil-batch, pre-komputazzjonijiet, arrikkimenti ddiferiti—u tippermetti biss it-traffiku dirett tal-utent. Din id-degradazzjoni gradwali hija aħjar minn waqfien f’daqqa tas-servit f’jum ta’ picc.

Analizza r-Rata tal-Cache

Il-proprjetà cache_rate tistħoqqilha dashboard tagħha, peress li tirrifletti direttament il-kwalità tal-istruttura tal-prompt tiegħek.

Rata tal-CacheInterpretazzjoni
0 sa 20%l-ebda cache effettiv, irrevedi l-istruttura tal-prompt
20 sa 50%cache parzjali, iċċekkja l-istabbiltà tal-prompts tas-sistema tiegħek
50 sa 80%rata tajba għal konversazzjonijiet
80% u ‘l fuqeċċellenti, tipika għal prompts twal u stabbli

Rata li tonqos b’mod qawwi minn ġimgħa għall-oħra hija kważi dejjem sinjal ta’ deploy li introduċa varjabbli fil-bidu tal-prompt. Il-lezzjoni li jmiss tiddettalja l-mekkaniżmu; għalissa, ftakar li din iċ-ċifra hija indikatur ta’ regressjoni daqshekk prezzjuż kemm hija rata ta’ żball.

Prezzijiet sal-5 ta’ Awwissu 2026 — il-prezzijiet jevolvu regolarment: qabel kwalunkwe kalkolu tal-baġit, iċċekkja l-karta tar-rati attwali fuq il-paġna uffiċjali tal-mudelli u l-prezzijiet ta’ xAI.

Punti Ewlenin

  • Kull risposta tal-API fiha oġġett usage b’dettalji tat-tokens u l-ispiża
  • cost_in_usd_ticks: 10 biljuni tick = $1 USD
  • cost_in_nano_usd: biljard nano-USD = $1 USD
  • Il-qasam cached_tokens ikejjel l-effiċjenza tal-cache
  • Ibni traċċatur tal-ispejjeż fil-produzzjoni b’twissijiet tal-baġit