Câmpuri de cost în răspunsuri
Pe această pagină
Urmărirea costurilor în timp real
Fiecare răspuns al API-ului Grok conține detaliile costului generat. Multe echipe descoperă aceste informații prea târziu, la sosirea facturii lunare, deși ele sunt disponibile pentru fiecare cerere în parte. Exploatând aceste date chiar de la începutul integrării, puteți detecta orice derivă la o oră de la apariția ei: un prompt de sistem care și-a dublat dimensiunea după o implementare, o buclă de reîncercare slab calibrată care retransmite aceleași apeluri sau un context care depășește un prag de facturare. Fără această urmărire, astfel de incidente rămân invizibile până la emiterea extrasului de cont.
Obiectul usage
Fiecare răspuns include un obiect usage care detaliază consumul de tokeni și costul asociat:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
Cele patru câmpuri de numărare se citesc după cum urmează.
| Câmp | Semnificație |
|---|---|
prompt_tokens | numărul de tokeni de intrare (promptul dumneavoastră complet) |
completion_tokens | numărul de tokeni de ieșire (răspunsul modelului) |
total_tokens | suma tokenilor de intrare și de ieșire |
cached_tokens | tokeni de intrare serviți din cache |
Un detaliu previne o eroare frecventă: cached_tokens este inclus în prompt_tokens, nu adunat la acesta. În exemplul de mai sus, 1.250 de tokeni au intrat în model, 800 au provenit din cache, iar doar 450 au fost facturați la tariful integral. Dacă agregatorul dumneavoastră adună ambele câmpuri, va număra dublu porțiunea din cache și va umfla artificial statisticile de volum.
Două scări pentru același cost
Costul cererii este furnizat în două unități întregi. Această alegere nu este arbitrară: exprimarea fracțiunilor de cent în numere în virgulă mobilă introduce erori de rotunjire care devin vizibile la agregarea a milioane de apeluri. Numerele întregi evită complet această problemă.
Câmpul cost_in_usd_ticks numără în „ticks“, cu 10 miliarde de ticks per dolar. Valoarea 5.000.000.000 din exemplu corespunde astfel la 0,50 USD, iar un milion de ticks egalizează 0,0001 USD. Conversia se face într-o singură linie:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Câmpul cost_in_nano_usd numără în nano-dolari, cu un miliard de nano-dolari per dolar. Valoarea 500.000.000 din exemplu reprezintă aceeași sumă, 0,50 USD, iar o mie de nano-dolari egalizează 0,000001 USD. Conversia urmează aceeași logică:
cost_usd = cost_in_nano_usd / 1_000_000_000
Ambele câmpuri descriu aceeași sumă la scări diferite. cost_in_nano_usd este mai intuitiv de manipulat, în timp ce cost_in_usd_ticks oferă o precizie ușor superioară. Alegeți unul și rămâneți consecvent cu el pe tot lanțul de măsurătoare: amestecarea ambelor în aceeași agregare este cea mai sigură metodă de a obține totaluri inconsistente.
Construirea unui tracker de costuri
În producție, un singur acumulator este suficient pentru a transforma aceste câmpuri într-un tablou de bord. Clasa de mai jos înregistrează fiecare obiect usage și expune costul cumulativ împreună cu rata de cache:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
În continuare, atașați praguri la total_cost_usd. Un prim prag la 80% din bugetul zilnic declanșează o alertă informativă pentru echipa tehnică; un al doilea la 95% devine o alertă critică ce necesită decizie umană; la 100%, aplicația taie automat cererile non-critice—joburi batch, pre-calculări, îmbogățiri amânate—și permite doar traficul direct al utilizatorilor. Această degradare controlată este preferabilă unei opriri bruște a serviciului într-o zi de vârf.
Analiza ratei de cache
Proprietatea cache_rate merită un tablou de bord propriu, deoarece reflectă direct calitatea structurii prompturilor dumneavoastră.
| Rata de cache | Interpretare |
|---|---|
| 0 până la 20% | niciun cache eficient, revizuiți structura promptului |
| 20 până la 50% | cache parțial, verificați stabilitatea prompturilor de sistem |
| 50 până la 80% | rată bună pentru conversații |
| 80% și peste | excelent, tipic pentru prompturi lungi și stabile |
O rată care scade brusc de la o săptămână la alta este aproape întotdeauna semnul unei implementări care a introdus o variabilă la începutul promptului. Lecția următoare detaliază mecanismul; pentru moment, rețineți că această cifră este un indicator de regresie la fel de valoros ca o rată de eroare.
Prețuri valabile la 5 august 2026 — prețurile evoluează regulat: înainte de orice calcul bugetar, verificați grila tarifară actuală pe pagina oficială a modelelor și prețurilor xAI.
Puncte cheie
- Fiecare răspuns API conține un obiect
usagecu detalii despre tokeni și cost cost_in_usd_ticks: 10 miliarde de ticks = 1 USDcost_in_nano_usd: 1 miliard de nano-USD = 1 USD- Câmpul
cached_tokensmăsoară eficiența cache-ului - Construiți un tracker de costuri în producție cu alerte de buget