Salt la conținutul principal
Română— Alege o limbă
Meniu

Contorizarea tokenilor de raționament

Lecția 8 din 12 Actualizată 3 noiembrie 2026 Dezvoltator
Pe această pagină
  1. Înțelegerea tokenilor de raționament
  2. Obiectul usage în Chat Completions
  3. Accesarea tokenilor de raționament în cod
  4. Facturarea la tariful de ieșire
  5. Rolul lui max_completion_tokens
  6. Puncte cheie

Lecție rescrisă la 3 noiembrie 2026 pe baza referinței API xAI (Chat Completions și Responses), a ghidului Reasoning și a exemplului Reasoning Effort Evals din cookbook: la xAI, completion_tokens (sau output_tokens) numără doar răspunsul vizibil, raționamentul este contorizat separat, iar totalul le însumează pe toate trei; limita de ieșire nu restricționează raționamentul. Versiunea anterioară afirma contrariul, folosea câmpuri din Chat Completions pe un răspuns API Responses, seta efortul pe grok-4.20-0309-reasoning care nu acceptă acest parametru și prezenta o captură de ecran care nu corespundea cu API; aceste elemente au fost corectate sau eliminate. Surse: Chat Completions · Responses · Reasoning Effort Evals.

Înțelegerea tokenilor de raționament

Modelele de raționament generează două tipuri de tokeni: cei pentru răspunsul vizibil și cei pentru procesul intern de gândire al modelului. Înțelegerea modului în care xAI îi contorizează este esențială pentru a vă stăpâni costurile și a interpreta corect tablourile de bord.

Output
Facturat la tariful de ieșire
usage
Obiect de urmărire detaliată
Separat
Raționament contorizat în afara răspunsului
Efort
Pârghia de control a raționamentului

Obiectul usage în Chat Completions

Fiecare răspuns include un obiect usage care detaliază consumul. Iată exemplul din referința API Chat Completions xAI:

{
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 9,
    "total_tokens": 135,
    "completion_tokens_details": {
      "reasoning_tokens": 94
    }
  }
}

În acest exemplu:

  • prompt_tokens (32): tokenii din mesajul de intrare
  • completion_tokens (9): tokenii din răspunsul vizibil
  • reasoning_tokens (94): tokenii dedicați raționamentului intern
  • total_tokens (135): suma celor trei, adică 32 + 9 + 94

Prin urmare, raționamentul nu este inclus în completion_tokens: el se adaugă la acesta. Fiți atenți dacă veniți de la un alt API unde convenția diferă sau dacă tabloul dumneavoastră de bord calculează răspunsul vizibil prin scădere.

Accesarea tokenilor de raționament în cod

În API-ul Responses, aceeași informație poartă denumiri diferite: input_tokens, output_tokens pentru răspunsul vizibil și output_tokens_details.reasoning_tokens pentru raționament.

response = client.responses.create(
    model="grok-4.7",
    input="Solve the integral of x^2 * e^x dx.",
    reasoning={"effort": "high"},
)

visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning

print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")

Setați efortul pentru grok-4.7, grok-4.6 și grok-4.5; grok-4.20-0309-reasoning raționează întotdeauna, fără parametru de efort.

Facturarea la tariful de ieșire

Tokenii de raționament sunt facturați la tariful tokenilor de ieșire, așa cum ne reamintește exemplul Reasoning Effort Evals din cookbook-ul xAI. Pentru grok-4.7 la 6 USD per milion de tokeni de ieșire (prompt sub 200.000 de tokeni), fiecare token de raționament costă la fel ca un token de răspuns.

Astfel, efortul influențează factura, dar nu întotdeauna atât de mult pe cât v-ați putea imagina. În același exemplu, pentru treizeci de tichete de suport scurte gestionate de grok-4.7, eforturile medium, high și xhigh au consumat aproximativ aceeași cantitate de raționament—în jur de 600 de tokeni per răspuns—în timp ce low a consumat aproximativ 140 și a costat jumătate, cu scoruri situate toate între 87% și 93%. Măsurați pe propriile date înainte de a alege.

Exemplu de calcul al costului

# grok-4.7: 6,00 USD/M tokeni de ieșire (prompt < 200k)
cost_per_token = 6.00 / 1_000_000

reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response  # 950

cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}")  # $0.0057

Rolul lui max_completion_tokens

Limita de ieșire—max_completion_tokens în Chat Completions, max_output_tokens în API-ul Responses—se aplică doar răspunsului vizibil: conform referinței API, tokenii de raționament și apelurile de funcții nu se iau în calcul pentru această limită. Fără o valoare specificată, aceasta este implicit 128.000 de tokeni. Pentru a limita raționamentul, trebuie să setați efortul (lecția 10).

{
  "model": "grok-4.7",
  "messages": [
    {"role": "user", "content": "Explain special relativity."}
  ],
  "reasoning_effort": "medium",
  "max_completion_tokens": 2000
}

Prețuri verificate la 3 noiembrie 2026—prețurile se modifică regulat: înainte de orice calcul bugetar, verificați grila tarifară actuală pe pagina oficială a modelelor și prețurilor xAI.

Puncte cheie

  • Tokenii de raționament se găsesc în usage.completion_tokens_details.reasoning_tokens (Chat Completions) sau usage.output_tokens_details.reasoning_tokens (Responses)
  • La xAI, completion_tokens și output_tokens numără doar răspunsul vizibil; totalul adună intrarea, răspunsul și raționamentul
  • Tokenii de raționament sunt facturați la tariful de ieșire
  • Limita de ieșire restricționează doar răspunsul vizibil; efortul controlează raționamentul
  • Diferența de cost între nivelurile de efort depinde de sarcină: măsurați-o pe propriile date