Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Počítání tokenů pro uvažování

Lekce 8 z 12 Aktualizováno 3. listopadu 2026 Vývojář
Na této stránce
  1. Pochopte tokeny pro uvažování
  2. Objekt usage v Chat Completions
  3. Přístup k tokenům pro uvažování v kódu
  4. Fakturace podle sazby za výstup
  5. Role max_completion_tokens
  6. Klíčové poznatky

Lekce přepsána 3. listopadu 2026 na základě reference k API xAI (Chat Completions a Responses), příručky Reasoning a příkladu Reasoning Effort Evals z kuchařky: u xAI počítá completion_tokens (nebo output_tokens) pouze viditelnou odpověď, uvažování se počítá samostatně a součet zahrnuje všechny tři složky; limit výstupu neomezuje uvažování. Předchozí verze tvrdila opak, používala pole Chat Completions pro odpověď API Responses, nastavovala úsilí pro grok-4.20-0309-reasoning, který jej nepřijímá, a zobrazovala snímek obrazovky neodpovídající API; tyto prvky byly opraveny nebo odstraněny. Zdroje: Chat Completions · Responses · Reasoning Effort Evals.

Pochopte tokeny pro uvažování

Modely pro uvažování generují dva druhy tokenů: ty pro viditelnou odpověď a ty pro vnitřní myšlenkový proces modelu. Pochopení toho, jak je xAI počítá, je zásadní pro zvládnutí vašich nákladů a správné čtení vašich dashboardů.

Output
Billed at the output rate
usage
Detailed tracking object
Separate
Reasoning counted outside response
Effort
The lever on reasoning

Objekt usage v Chat Completions

Každá odpověď obsahuje objekt usage, který podrobně popisuje spotřebu. Zde je příklad z reference k API Chat Completions od xAI:

{
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 9,
    "total_tokens": 135,
    "completion_tokens_details": {
      "reasoning_tokens": 94
    }
  }
}

V tomto příkladu:

  • prompt_tokens (32): tokeny ve vstupní zprávě
  • completion_tokens (9): tokeny ve viditelné odpovědi
  • reasoning_tokens (94): tokeny věnované vnitřnímu uvažování
  • total_tokens (135): součet všech tří, tedy 32 + 9 + 94

Uvažování tedy není zahrnuto v completion_tokens: je k nim přičteno. Dej si pozor, pokud přicházíš z jiného API, kde je konvence odlišná, nebo pokud tvůj dashboard počítá viditelnou odpověď odečítáním.

Přístup k tokenům pro uvažování v kódu

V API Responses nese stejná informace jiná jména: input_tokens, output_tokens pro viditelnou odpověď a output_tokens_details.reasoning_tokens pro uvažování.

response = client.responses.create(
    model="grok-4.7",
    input="Solve the integral of x^2 * e^x dx.",
    reasoning={"effort": "high"},
)

visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning

print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")

Úsilí nastavuješ pro grok-4.7, grok-4.6 a grok-4.5; grok-4.20-0309-reasoning uvažuje vždy, bez parametru úsilí.

Fakturace podle sazby za výstup

Tokeny pro uvažování jsou fakturovány sazbou za výstupní tokeny, jak nám připomíná příklad Reasoning Effort Evals v kuchařce xAI. Pro grok-4.7 při ceně 6 $ za milion výstupních tokenů (prompt pod 200 000 tokenů) stojí každý token pro uvažování stejně jako token odpovědi.

Úsilí tedy váží na faktuře, ale ne vždy tolik, kolik bys mohl očekávat. V tomto stejném příkladu, napříč třiceti krátkými supportními tickety zpracovanými modelem grok-4.7, spotřebovala úrovně úsilí medium, high a xhigh přibližně stejné množství uvažování – kolem 600 tokenů na odpověď –, zatímco low spotřebovalo asi 140 tokenů a stálo polovinu, přičemž skóre se u všech pohybovala mezi 87 a 93 %. Před volbou si to změř na vlastních datech.

Příklad výpočtu nákladů

# grok-4.7: 6,00 $/M výstupních tokenů (prompt < 200k)
cost_per_token = 6.00 / 1_000_000

reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response  # 950

cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}")  # $0.0057

Role max_completion_tokens

Limit výstupu – max_completion_tokens v Chat Completions, max_output_tokens v API Responses – platí pouze pro viditelnou odpověď: podle reference k API se tokeny pro uvažování a volání funkcí do tohoto limitu nezapočítávají. Bez zadané hodnoty je výchozí limit 128 000 tokenů. Chcete-li omezit uvažování, musíte nastavit úsilí (lekce 10).

{
  "model": "grok-4.7",
  "messages": [
    {"role": "user", "content": "Explain special relativity."}
  ],
  "reasoning_effort": "medium",
  "max_completion_tokens": 2000
}

Ceny ověřeny 3. listopadu 2026 – ceny se pravidelně mění: před jakýmkoli výpočtem rozpočtu si zkontroluj aktuální ceník na oficiální stránce modelů a cen xAI.

Klíčové poznatky

  • Tokeny pro uvažování najdeš v usage.completion_tokens_details.reasoning_tokens (Chat Completions) nebo usage.output_tokens_details.reasoning_tokens (Responses)
  • U xAI počítají completion_tokens a output_tokens pouze viditelnou odpověď; celkový součet zahrnuje vstup, odpověď i uvažování
  • Tokeny pro uvažování jsou fakturovány sazbou za výstup
  • Limit výstupu omezuje pouze viditelnou odpověď; úsilí řídí uvažování
  • Rozdíl v nákladech mezi úrovněmi úsilí závisí na úkolu: změř si to na vlastních datech