Oqsma tal-Ispejjeż fir-Risposti
F'din il-paġna
Traċċa l-Ispejjeż f’Ħin Reali
Kull risposta mill-API ta’ Grok iġġor id-dettalji ta’ kemm għadha kemm kostat. Ħafna timijiet jiskopru din l-informazzjoni tard wisq, meta tasal il-fattura ta’ kull xahar, għalkemm hija disponibbli għal kull talba. Billi tużaha mill-bidu tal-integrazzjoni, tinduna bid-devjazzjonijiet fi żmien siegħa minn meta jidhru: prompt tas-sistema li rdoppja fid-daqs wara deploy, ċiklu ta’ retry kkallibrat ħażin li jerġa’ jibgħat l-istess sejħiet, jew kuntest li jaqbeż limitu ta’ fatturazzjoni. Mingħajr dan it-traċċar, dawn l-inċidenti jibqgħu inviżibbli sakemm tasal id-dikjarazzjoni.
L-Oġġett usage
Kull risposta tinkludi oġġett usage li jiddettalja l-konsum tat-tokens u l-ispiża assoċjata:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
L-erba’ oqsma tal-għadd jaqraw hekk.
| Qasam | Tifsira |
|---|---|
prompt_tokens | numru ta’ tokens tal-input (il-prompt sħiħ tiegħek) |
completion_tokens | numru ta’ tokens tal-output (ir-risposta tal-mudell) |
total_tokens | somma tat-tokens tal-input u tal-output |
cached_tokens | tokens tal-input moqdija mill-cache |
Dettall wieħed jipprevjeni żball komuni: cached_tokens huwa inkluż f’prompt_tokens, mhux miżjud miegħu. Fl-eżempju ta’ hawn fuq, 1,250 token daħlu fil-mudell, 800 ġew mill-cache, u biss 450 ġew iffatturati bir-rata sħiħa. Jekk l-aggregatur tiegħek iżid iż-żewġ oqsma flimkien, se jgħodd darbtejn il-parti cached u jinfla artificialment l-istatistika tal-volum tiegħek.
Żewġ Skali għall-Istess Spiża
L-ispiża tat-talba hija pprovduta f’żewġ unitajiet interi. Din l-għażla mhix arbitrarja: li tesprimi frazzjonijiet ta’ ċenteżmu f’numri floating-point tintroduċi żbalji ta’ arrotondament li jsiru viżibbli meta taggrega miljuni ta’ sejħiet. L-interi jevitaw din il-problema għalkollox.
Il-qasam cost_in_usd_ticks jgħodd f‘“ticks”, b’10 biljuni tick kull dollaru. Il-valur 5,000,000,000 fl-eżempju għalhekk jikkorrispondi għal $0.50, u miljun tick huwa ugwali għal $0.0001. Il-konverżjoni tidħol f’linja waħda:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Il-qasam cost_in_nano_usd jgħodd f’nano-dollari, b’miljard nano-dollaru kull dollaru. Il-500,000,000 fl-eżempju jirrappreżenta l-istess ammont, $0.50, u elf nano-dollaru huwa ugwali għal $0.000001. Il-konverżjoni ssegwi l-istess loġika:
cost_usd = cost_in_nano_usd / 1_000_000_000
Iż-żewġ oqsma jiddeskrivu l-istess ammont f’iskali differenti. cost_in_nano_usd huwa aktar intuwittiv biex tittrattah, filwaqt li cost_in_usd_ticks joffri preċiżjoni ftit ogħla. Agħżel wieħed u ibqa’ miegħu matul il-katina tal-kejl tiegħek: li tħallat it-tnejn fl-istess aggregat huwa l-aħjar mod biex tikseb totali inkonsistenti.
Ibni Traċċatur tal-Ispejjeż
Fil-produzzjoni, akkumulatur wieħed huwa biżżejjed biex iħawwel dawn l-oqsma f’dashboard. Il-klassi hawn taħt tirreġistra kull oġġett usage u tesponi l-ispiża kumulattiva flimkien mar-rata tal-cache:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
Sussegwentement, waħħal limiti ma’ total_cost_usd. L-ewwel limitu f’80% tal-baġit ta’ kuljum jattiva twissija informattiva għat-tim tekniku; it-tieni f’95% isir twissija kritika li teħtieġ deċiżjoni umana; f’100%, l-applikazzjoni awtomatikament taqta’ t-talbiet mhux kritiċi—xogħlijiet bil-batch, pre-komputazzjonijiet, arrikkimenti ddiferiti—u tippermetti biss it-traffiku dirett tal-utent. Din id-degradazzjoni gradwali hija aħjar minn waqfien f’daqqa tas-servit f’jum ta’ picc.
Analizza r-Rata tal-Cache
Il-proprjetà cache_rate tistħoqqilha dashboard tagħha, peress li tirrifletti direttament il-kwalità tal-istruttura tal-prompt tiegħek.
| Rata tal-Cache | Interpretazzjoni |
|---|---|
| 0 sa 20% | l-ebda cache effettiv, irrevedi l-istruttura tal-prompt |
| 20 sa 50% | cache parzjali, iċċekkja l-istabbiltà tal-prompts tas-sistema tiegħek |
| 50 sa 80% | rata tajba għal konversazzjonijiet |
| 80% u ‘l fuq | eċċellenti, tipika għal prompts twal u stabbli |
Rata li tonqos b’mod qawwi minn ġimgħa għall-oħra hija kważi dejjem sinjal ta’ deploy li introduċa varjabbli fil-bidu tal-prompt. Il-lezzjoni li jmiss tiddettalja l-mekkaniżmu; għalissa, ftakar li din iċ-ċifra hija indikatur ta’ regressjoni daqshekk prezzjuż kemm hija rata ta’ żball.
Prezzijiet sal-5 ta’ Awwissu 2026 — il-prezzijiet jevolvu regolarment: qabel kwalunkwe kalkolu tal-baġit, iċċekkja l-karta tar-rati attwali fuq il-paġna uffiċjali tal-mudelli u l-prezzijiet ta’ xAI.
Punti Ewlenin
- Kull risposta tal-API fiha oġġett
usageb’dettalji tat-tokens u l-ispiża cost_in_usd_ticks: 10 biljuni tick = $1 USDcost_in_nano_usd: biljard nano-USD = $1 USD- Il-qasam
cached_tokensikejjel l-effiċjenza tal-cache - Ibni traċċatur tal-ispejjeż fil-produzzjoni b’twissijiet tal-baġit