Úsilí o odvozování: Nízké, střední a vysoké
Na této stránce
Aktualizováno 3. listopadu 2026 na základě reference API xAI:
max_completion_tokensomezuje pouze viditelnou odpověď; tokeny pro odvozování se do tohoto limitu nezapočítávají a úsilí řídí jejich množství. Zdroj: Chat Completions. Dodatek ze 3. listopadu: Lekce dříve spojovala úsilí s API (Chat Completions nebo Responses) a aplikovala jej nagrok-4.20-0309-reasoning, který jej nepodporuje; podle stránky Reasoning od xAI závisí na modelu (grok-4.7,grok-4.6,grok-4.5,grok-4.20-multi-agent). Příklad také obsahovalusage.completion_tokens, což v odpovědích API Responses chybí (output_tokens,output_tokens_details.reasoning_tokens). Zdroj: Reasoning.
Řízení hloubky odvozování
Úsilí o odvozování ti umožňuje kalibrovat, kolik „přemýšlení“ model před odpovědí investuje. Je to přímý nástroj pro vyvážení kvality, rychlosti a spotřeby tokenů.
Dostupnost určuje model, nikoliv API. Podle dokumentace xAI:
| Model | Úsilí | Hodnoty |
|---|---|---|
grok-4.7, grok-4.6 | Hloubka odvozování | low, medium, high (výchozí), xhigh |
grok-4.5 | Hloubka odvozování | low, medium, high (výchozí); xhigh je zpracováno jako high |
grok-4.20-multi-agent | Počet zapojených agentů (4 nebo 16), nikoliv hloubka | low, medium, high, xhigh |
grok-4.20-0309-reasoning | Nekonfigurovatelné: model vždy odvozuje | — |
U těchto modelů nelze odvozování vypnout: bez konfigurace je úsilí ve výchozím nastavení high. Mění se pouze název parametru v závislosti na API: reasoning_effort na nejvyšší úrovni v Chat Completions, reasoning.effort uvnitř objektu reasoning v API Responses.
{
"model": "grok-4.7",
"input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
"reasoning": {
"effort": "medium"
}
}
Úrovně úsilí
Dokumentace popisuje každou úroveň a její vhodné použití:
low: Využívá určité odvozování, ale zůstává rychlé. Pro agenty citlivé na latenci a jednoduchá volání nástrojů.medium: Více reflexe, pro aplikace méně citlivé na latenci. Pro komplexní analýzu dat a odvozování nad dlouhými kontexty.high(výchozí): Mnohem více tokenů pro odvozování. Pro velmi obtížné problémy, složitou matematiku a vícekrokovou logiku.xhigh: Maximální hloubka s odpovídající latencí. Pro nejtěžší problémy, kdy na kvalitě záleží více než na době odezvy.
Nejlepší postupy xAI přidávají jednoduché pravidlo: nastav úsilí explicitně v každém požadavku a zaznamenávej jej u každého výsledku, aby tvá měření zůstala srovnatelná.
Modely pro odvozování také odmítají tři parametry: presence_penalty, frequency_penalty a stop způsobí selhání požadavku.
Dopad na tokeny
Úroveň úsilí má přímý dopad na spotřebu tokenů pro odvozování:
low: Málo tokenů pro odvozování, rychlá odpověď, nízké nákladymedium: Střední spotřeba, dobrý kompromishighaxhigh: Mnoho tokenů pro odvozování, pomalejší odpověď, vysoké náklady
Tyto tokeny pro odvozování jsou fakturovány jako výstupní tokeny (viz Lekce 8). Limit výstupu (max_completion_tokens v Chat Completions, max_output_tokens v API Responses) omezuje pouze viditelnou odpověď: odvozování se do něj nezapočítává, takže úsilí řídí jejich množství.
Výběr správné úrovně
| Úkol | Doporučené úsilí |
|---|---|
| Klasifikace textu | low |
| Shrnutí s analýzou | medium |
| Strukturovaná extrakce entit | low |
| Řešení rovnic | high |
| Analýza chyb v kódu | high |
| Přeformulování textu | low |
| Porovnání možností s klady a zápory | medium |
| Matematický důkaz | high |
Praktický příklad: Stejná otázka, tři úrovně úsilí
for effort in ["low", "medium", "high"]:
response = client.responses.create(
model="grok-4.7",
input="Explain why 0.1 + 0.2 != 0.3 in computing.",
reasoning={"effort": effort},
)
usage = response.usage
print(f"Effort {effort}: {usage.output_tokens} output tokens, "
f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")
Rozdíl mezi úrovněmi závisí na otázce: změř si ho na vlastních případech, nespoléhej se na obecný poměr, a zaznamenávej úsilí u každého výsledku.
Klíčové poznatky
- Úsilí závisí na modelu:
low,medium,high(výchozí) axhighugrok-4.7agrok-4.6, bezxhighugrok-4.5;grok-4.20-0309-reasoningjej nepodporuje reasoning_effortv Chat Completions,reasoning.effortv API Responses; odvozování nelze vypnout- Úroveň úsilí přímo ovlivňuje počet tokenů pro odvozování, a tedy i náklady
- Bez konfigurace je úsilí ve výchozím nastavení
high: nastav jej explicitně v každém požadavku, jak doporučuje xAI - Přizpůsob úsilí skutečné složitosti úkolu pro optimalizaci nákladů