Počítanie tokenov uvažovania
Na tejto strane
Lekcia prepísaná 3. novembra 2026 na základe referencie xAI API (Chat Completions a Responses), príručky Reasoning a príkladu Reasoning Effort Evals z cookbooku: pri xAI
completion_tokens(alebooutput_tokens) počíta iba viditeľnú odpoveď, uvažovanie sa počíta samostatne a súčet zahŕňa všetky tri zložky; limit výstupu neobmedzuje uvažovanie. Predchádzajúca verzia tvrdila opak, používala polia Chat Completions pre odpoveď Responses API, nastavovala úsilie pregrok-4.20-0309-reasoning, ktorý ho neprijíma, a zobrazovala snímku obrazovky, ktorá nezodpovedala API; tieto prvky boli opravené alebo odstránené. Zdroje: Chat Completions · Responses · Reasoning Effort Evals.
Pochopte tokeny uvažovania
Modely uvažovania produkujú dva druhy tokenov: tie pre viditeľnú odpoveď a tie pre interný myšlienkový proces modelu. Pochopenie toho, ako ich xAI počíta, je kľúčové pre zvládnutie vašich nákladov a správne čítanie vašich dashboardov.
Objekt usage v Chat Completions
Každá odpoveď obsahuje objekt usage, ktorý podrobne opisuje spotrebu. Tu je príklad z referencie xAI Chat Completions API:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
V tomto príklade:
- prompt_tokens (32): tokeny vo vstupnej správe
- completion_tokens (9): tokeny vo viditeľnej odpovedi
- reasoning_tokens (94): tokeny venované internému uvažovaniu
- total_tokens (135): súčet všetkých troch zložiek, 32 + 9 + 94
Uvažovanie teda nie je zahrnuté v completion_tokens: je k nemu pripočítané. Dávaj si pozor, ak prichádzaš z iného API, kde sa konvencia líši, alebo ak tvoj dashboard počíta viditeľnú odpoveď odčítaním.
Prístup k tokenom uvažovania v kóde
V Responses API nesie tá istá informácia iné názvy: input_tokens, output_tokens pre viditeľnú odpoveď a output_tokens_details.reasoning_tokens pre uvažovanie.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Úsilie nastavuješ pre grok-4.7, grok-4.6 a grok-4.5; grok-4.20-0309-reasoning uvažuje vždy, bez parametra úsilia.
Fakturácia podľa sadzby za výstup
Tokeny uvažovania sa fakturujú sadzbou za výstupné tokeny, ako nám pripomína príklad Reasoning Effort Evals v xAI cookbooku. Pre grok-4.7 pri cene 6 $ za milión výstupných tokenov (prompt pod 200 000 tokenov) stojí každý token uvažovania rovnako ako token odpovede.
Úsilie teda zaťažuje faktúru, ale nie vždy tak veľmi, ako by si si mohol myslieť. V tom istom príklade, pri tridsiatich krátkych support ticketoch vybavených modelom grok-4.7, úrovne úsilia medium, high a xhigh spotrebovali približne rovnaké množstvo uvažovania – okolo 600 tokenov na odpoveď –, zatiaľ čo low spotrebovalo asi 140 a stálo polovicu, pričom skóre sa všetkých pohybovalo medzi 87 a 93 %. Meraj to na vlastných dátach predtým, než sa rozhodneš.
Príklad výpočtu nákladov
# grok-4.7: 6,00 $/M výstupných tokenov (prompt < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
Úloha max_completion_tokens
Limit výstupu – max_completion_tokens v Chat Completions, max_output_tokens v Responses API – sa vzťahuje iba na viditeľnú odpoveď: podľa referencie API sa tokeny uvažovania a volania funkcií do neho nepočítajú. Bez zadanej hodnoty predvolená hodnota je 128 000 tokenov. Na obmedzenie uvažovania musíš nastaviť úsilie (lekcia 10).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Ceny overené 3. novembra 2026 – ceny sa pravidelne menia: pred akýmkoľvek výpočtom rozpočtu si over aktuálny cenník na oficiálnej stránke modelov a cien xAI.
Kľúčové poznatky
- Tokeny uvažovania nájdeš v
usage.completion_tokens_details.reasoning_tokens(Chat Completions) alebousage.output_tokens_details.reasoning_tokens(Responses) - Pri xAI
completion_tokensaoutput_tokenspočítajú iba viditeľnú odpoveď; celkový súčet zahŕňa vstup, odpoveď a uvažovanie - Tokeny uvažovania sa fakturujú sadzbou za výstup
- Limit výstupu obmedzuje iba viditeľnú odpoveď; úsilie riadi uvažovanie
- Rozdiel v nákladoch medzi úrovňami úsilia závisí od úlohy: meraj ho na vlastných dátach