Contorizarea tokenilor de raționament
Pe această pagină
Lecție rescrisă la 3 noiembrie 2026 pe baza referinței API xAI (Chat Completions și Responses), a ghidului Reasoning și a exemplului Reasoning Effort Evals din cookbook: la xAI,
completion_tokens(sauoutput_tokens) numără doar răspunsul vizibil, raționamentul este contorizat separat, iar totalul le însumează pe toate trei; limita de ieșire nu restricționează raționamentul. Versiunea anterioară afirma contrariul, folosea câmpuri din Chat Completions pe un răspuns API Responses, seta efortul pegrok-4.20-0309-reasoningcare nu acceptă acest parametru și prezenta o captură de ecran care nu corespundea cu API; aceste elemente au fost corectate sau eliminate. Surse: Chat Completions · Responses · Reasoning Effort Evals.
Înțelegerea tokenilor de raționament
Modelele de raționament generează două tipuri de tokeni: cei pentru răspunsul vizibil și cei pentru procesul intern de gândire al modelului. Înțelegerea modului în care xAI îi contorizează este esențială pentru a vă stăpâni costurile și a interpreta corect tablourile de bord.
Obiectul usage în Chat Completions
Fiecare răspuns include un obiect usage care detaliază consumul. Iată exemplul din referința API Chat Completions xAI:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
În acest exemplu:
- prompt_tokens (32): tokenii din mesajul de intrare
- completion_tokens (9): tokenii din răspunsul vizibil
- reasoning_tokens (94): tokenii dedicați raționamentului intern
- total_tokens (135): suma celor trei, adică 32 + 9 + 94
Prin urmare, raționamentul nu este inclus în completion_tokens: el se adaugă la acesta. Fiți atenți dacă veniți de la un alt API unde convenția diferă sau dacă tabloul dumneavoastră de bord calculează răspunsul vizibil prin scădere.
Accesarea tokenilor de raționament în cod
În API-ul Responses, aceeași informație poartă denumiri diferite: input_tokens, output_tokens pentru răspunsul vizibil și output_tokens_details.reasoning_tokens pentru raționament.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Setați efortul pentru grok-4.7, grok-4.6 și grok-4.5; grok-4.20-0309-reasoning raționează întotdeauna, fără parametru de efort.
Facturarea la tariful de ieșire
Tokenii de raționament sunt facturați la tariful tokenilor de ieșire, așa cum ne reamintește exemplul Reasoning Effort Evals din cookbook-ul xAI. Pentru grok-4.7 la 6 USD per milion de tokeni de ieșire (prompt sub 200.000 de tokeni), fiecare token de raționament costă la fel ca un token de răspuns.
Astfel, efortul influențează factura, dar nu întotdeauna atât de mult pe cât v-ați putea imagina. În același exemplu, pentru treizeci de tichete de suport scurte gestionate de grok-4.7, eforturile medium, high și xhigh au consumat aproximativ aceeași cantitate de raționament—în jur de 600 de tokeni per răspuns—în timp ce low a consumat aproximativ 140 și a costat jumătate, cu scoruri situate toate între 87% și 93%. Măsurați pe propriile date înainte de a alege.
Exemplu de calcul al costului
# grok-4.7: 6,00 USD/M tokeni de ieșire (prompt < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
Rolul lui max_completion_tokens
Limita de ieșire—max_completion_tokens în Chat Completions, max_output_tokens în API-ul Responses—se aplică doar răspunsului vizibil: conform referinței API, tokenii de raționament și apelurile de funcții nu se iau în calcul pentru această limită. Fără o valoare specificată, aceasta este implicit 128.000 de tokeni. Pentru a limita raționamentul, trebuie să setați efortul (lecția 10).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Prețuri verificate la 3 noiembrie 2026—prețurile se modifică regulat: înainte de orice calcul bugetar, verificați grila tarifară actuală pe pagina oficială a modelelor și prețurilor xAI.
Puncte cheie
- Tokenii de raționament se găsesc în
usage.completion_tokens_details.reasoning_tokens(Chat Completions) sauusage.output_tokens_details.reasoning_tokens(Responses) - La xAI,
completion_tokensșioutput_tokensnumără doar răspunsul vizibil; totalul adună intrarea, răspunsul și raționamentul - Tokenii de raționament sunt facturați la tariful de ieșire
- Limita de ieșire restricționează doar răspunsul vizibil; efortul controlează raționamentul
- Diferența de cost între nivelurile de efort depinde de sarcină: măsurați-o pe propriile date