Počítání tokenů pro uvažování
Na této stránce
Lekce přepsána 3. listopadu 2026 na základě reference k API xAI (Chat Completions a Responses), příručky Reasoning a příkladu Reasoning Effort Evals z kuchařky: u xAI počítá
completion_tokens(nebooutput_tokens) pouze viditelnou odpověď, uvažování se počítá samostatně a součet zahrnuje všechny tři složky; limit výstupu neomezuje uvažování. Předchozí verze tvrdila opak, používala pole Chat Completions pro odpověď API Responses, nastavovala úsilí progrok-4.20-0309-reasoning, který jej nepřijímá, a zobrazovala snímek obrazovky neodpovídající API; tyto prvky byly opraveny nebo odstraněny. Zdroje: Chat Completions · Responses · Reasoning Effort Evals.
Pochopte tokeny pro uvažování
Modely pro uvažování generují dva druhy tokenů: ty pro viditelnou odpověď a ty pro vnitřní myšlenkový proces modelu. Pochopení toho, jak je xAI počítá, je zásadní pro zvládnutí vašich nákladů a správné čtení vašich dashboardů.
Objekt usage v Chat Completions
Každá odpověď obsahuje objekt usage, který podrobně popisuje spotřebu. Zde je příklad z reference k API Chat Completions od xAI:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
V tomto příkladu:
- prompt_tokens (32): tokeny ve vstupní zprávě
- completion_tokens (9): tokeny ve viditelné odpovědi
- reasoning_tokens (94): tokeny věnované vnitřnímu uvažování
- total_tokens (135): součet všech tří, tedy 32 + 9 + 94
Uvažování tedy není zahrnuto v completion_tokens: je k nim přičteno. Dej si pozor, pokud přicházíš z jiného API, kde je konvence odlišná, nebo pokud tvůj dashboard počítá viditelnou odpověď odečítáním.
Přístup k tokenům pro uvažování v kódu
V API Responses nese stejná informace jiná jména: input_tokens, output_tokens pro viditelnou odpověď a output_tokens_details.reasoning_tokens pro uvažování.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Úsilí nastavuješ pro grok-4.7, grok-4.6 a grok-4.5; grok-4.20-0309-reasoning uvažuje vždy, bez parametru úsilí.
Fakturace podle sazby za výstup
Tokeny pro uvažování jsou fakturovány sazbou za výstupní tokeny, jak nám připomíná příklad Reasoning Effort Evals v kuchařce xAI. Pro grok-4.7 při ceně 6 $ za milion výstupních tokenů (prompt pod 200 000 tokenů) stojí každý token pro uvažování stejně jako token odpovědi.
Úsilí tedy váží na faktuře, ale ne vždy tolik, kolik bys mohl očekávat. V tomto stejném příkladu, napříč třiceti krátkými supportními tickety zpracovanými modelem grok-4.7, spotřebovala úrovně úsilí medium, high a xhigh přibližně stejné množství uvažování – kolem 600 tokenů na odpověď –, zatímco low spotřebovalo asi 140 tokenů a stálo polovinu, přičemž skóre se u všech pohybovala mezi 87 a 93 %. Před volbou si to změř na vlastních datech.
Příklad výpočtu nákladů
# grok-4.7: 6,00 $/M výstupních tokenů (prompt < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
Role max_completion_tokens
Limit výstupu – max_completion_tokens v Chat Completions, max_output_tokens v API Responses – platí pouze pro viditelnou odpověď: podle reference k API se tokeny pro uvažování a volání funkcí do tohoto limitu nezapočítávají. Bez zadané hodnoty je výchozí limit 128 000 tokenů. Chcete-li omezit uvažování, musíte nastavit úsilí (lekce 10).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Ceny ověřeny 3. listopadu 2026 – ceny se pravidelně mění: před jakýmkoli výpočtem rozpočtu si zkontroluj aktuální ceník na oficiální stránce modelů a cen xAI.
Klíčové poznatky
- Tokeny pro uvažování najdeš v
usage.completion_tokens_details.reasoning_tokens(Chat Completions) nebousage.output_tokens_details.reasoning_tokens(Responses) - U xAI počítají
completion_tokensaoutput_tokenspouze viditelnou odpověď; celkový součet zahrnuje vstup, odpověď i uvažování - Tokeny pro uvažování jsou fakturovány sazbou za výstup
- Limit výstupu omezuje pouze viditelnou odpověď; úsilí řídí uvažování
- Rozdíl v nákladech mezi úrovněmi úsilí závisí na úkolu: změř si to na vlastních datech