Salt la conținutul principal
Română— Alege o limbă
Meniu

Câmpuri de cost în răspunsuri

Lecția 8 din 14 Actualizată 29 iulie 2026 Avansat
Pe această pagină
  1. Urmărirea costurilor în timp real
  2. Obiectul usage
  3. Două scări pentru același cost
  4. Construirea unui tracker de costuri
  5. Analiza ratei de cache
  6. Puncte cheie

Urmărirea costurilor în timp real

Fiecare răspuns al API-ului Grok conține detaliile costului generat. Multe echipe descoperă aceste informații prea târziu, la sosirea facturii lunare, deși ele sunt disponibile pentru fiecare cerere în parte. Exploatând aceste date chiar de la începutul integrării, puteți detecta orice derivă la o oră de la apariția ei: un prompt de sistem care și-a dublat dimensiunea după o implementare, o buclă de reîncercare slab calibrată care retransmite aceleași apeluri sau un context care depășește un prag de facturare. Fără această urmărire, astfel de incidente rămân invizibile până la emiterea extrasului de cont.

Obiectul usage

Fiecare răspuns include un obiect usage care detaliază consumul de tokeni și costul asociat:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Cele patru câmpuri de numărare se citesc după cum urmează.

CâmpSemnificație
prompt_tokensnumărul de tokeni de intrare (promptul dumneavoastră complet)
completion_tokensnumărul de tokeni de ieșire (răspunsul modelului)
total_tokenssuma tokenilor de intrare și de ieșire
cached_tokenstokeni de intrare serviți din cache

Un detaliu previne o eroare frecventă: cached_tokens este inclus în prompt_tokens, nu adunat la acesta. În exemplul de mai sus, 1.250 de tokeni au intrat în model, 800 au provenit din cache, iar doar 450 au fost facturați la tariful integral. Dacă agregatorul dumneavoastră adună ambele câmpuri, va număra dublu porțiunea din cache și va umfla artificial statisticile de volum.

Două scări pentru același cost

Costul cererii este furnizat în două unități întregi. Această alegere nu este arbitrară: exprimarea fracțiunilor de cent în numere în virgulă mobilă introduce erori de rotunjire care devin vizibile la agregarea a milioane de apeluri. Numerele întregi evită complet această problemă.

Câmpul cost_in_usd_ticks numără în „ticks“, cu 10 miliarde de ticks per dolar. Valoarea 5.000.000.000 din exemplu corespunde astfel la 0,50 USD, iar un milion de ticks egalizează 0,0001 USD. Conversia se face într-o singură linie:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Câmpul cost_in_nano_usd numără în nano-dolari, cu un miliard de nano-dolari per dolar. Valoarea 500.000.000 din exemplu reprezintă aceeași sumă, 0,50 USD, iar o mie de nano-dolari egalizează 0,000001 USD. Conversia urmează aceeași logică:

cost_usd = cost_in_nano_usd / 1_000_000_000

Ambele câmpuri descriu aceeași sumă la scări diferite. cost_in_nano_usd este mai intuitiv de manipulat, în timp ce cost_in_usd_ticks oferă o precizie ușor superioară. Alegeți unul și rămâneți consecvent cu el pe tot lanțul de măsurătoare: amestecarea ambelor în aceeași agregare este cea mai sigură metodă de a obține totaluri inconsistente.

Construirea unui tracker de costuri

În producție, un singur acumulator este suficient pentru a transforma aceste câmpuri într-un tablou de bord. Clasa de mai jos înregistrează fiecare obiect usage și expune costul cumulativ împreună cu rata de cache:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

În continuare, atașați praguri la total_cost_usd. Un prim prag la 80% din bugetul zilnic declanșează o alertă informativă pentru echipa tehnică; un al doilea la 95% devine o alertă critică ce necesită decizie umană; la 100%, aplicația taie automat cererile non-critice—joburi batch, pre-calculări, îmbogățiri amânate—și permite doar traficul direct al utilizatorilor. Această degradare controlată este preferabilă unei opriri bruște a serviciului într-o zi de vârf.

Analiza ratei de cache

Proprietatea cache_rate merită un tablou de bord propriu, deoarece reflectă direct calitatea structurii prompturilor dumneavoastră.

Rata de cacheInterpretare
0 până la 20%niciun cache eficient, revizuiți structura promptului
20 până la 50%cache parțial, verificați stabilitatea prompturilor de sistem
50 până la 80%rată bună pentru conversații
80% și pesteexcelent, tipic pentru prompturi lungi și stabile

O rată care scade brusc de la o săptămână la alta este aproape întotdeauna semnul unei implementări care a introdus o variabilă la începutul promptului. Lecția următoare detaliază mecanismul; pentru moment, rețineți că această cifră este un indicator de regresie la fel de valoros ca o rată de eroare.

Prețuri valabile la 5 august 2026 — prețurile evoluează regulat: înainte de orice calcul bugetar, verificați grila tarifară actuală pe pagina oficială a modelelor și prețurilor xAI.

Puncte cheie

  • Fiecare răspuns API conține un obiect usage cu detalii despre tokeni și cost
  • cost_in_usd_ticks: 10 miliarde de ticks = 1 USD
  • cost_in_nano_usd: 1 miliard de nano-USD = 1 USD
  • Câmpul cached_tokens măsoară eficiența cache-ului
  • Construiți un tracker de costuri în producție cu alerte de buget