Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Úsilí o odvozování: Nízké, střední a vysoké

Lekce 4 z 12 Aktualizováno 3. listopadu 2026 Vývojář
Na této stránce
  1. Řízení hloubky odvozování
  2. Úrovně úsilí
  3. Dopad na tokeny
  4. Výběr správné úrovně
  5. Praktický příklad: Stejná otázka, tři úrovně úsilí
  6. Klíčové poznatky

Aktualizováno 3. listopadu 2026 na základě reference API xAI: max_completion_tokens omezuje pouze viditelnou odpověď; tokeny pro odvozování se do tohoto limitu nezapočítávají a úsilí řídí jejich množství. Zdroj: Chat Completions. Dodatek ze 3. listopadu: Lekce dříve spojovala úsilí s API (Chat Completions nebo Responses) a aplikovala jej na grok-4.20-0309-reasoning, který jej nepodporuje; podle stránky Reasoning od xAI závisí na modelu (grok-4.7, grok-4.6, grok-4.5, grok-4.20-multi-agent). Příklad také obsahoval usage.completion_tokens, což v odpovědích API Responses chybí (output_tokens, output_tokens_details.reasoning_tokens). Zdroj: Reasoning.

Řízení hloubky odvozování

Úsilí o odvozování ti umožňuje kalibrovat, kolik „přemýšlení“ model před odpovědí investuje. Je to přímý nástroj pro vyvážení kvality, rychlosti a spotřeby tokenů.

Dostupnost určuje model, nikoliv API. Podle dokumentace xAI:

ModelÚsilíHodnoty
grok-4.7, grok-4.6Hloubka odvozovánílow, medium, high (výchozí), xhigh
grok-4.5Hloubka odvozovánílow, medium, high (výchozí); xhigh je zpracováno jako high
grok-4.20-multi-agentPočet zapojených agentů (4 nebo 16), nikoliv hloubkalow, medium, high, xhigh
grok-4.20-0309-reasoningNekonfigurovatelné: model vždy odvozuje—

U těchto modelů nelze odvozování vypnout: bez konfigurace je úsilí ve výchozím nastavení high. Mění se pouze název parametru v závislosti na API: reasoning_effort na nejvyšší úrovni v Chat Completions, reasoning.effort uvnitř objektu reasoning v API Responses.

{
  "model": "grok-4.7",
  "input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
  "reasoning": {
    "effort": "medium"
  }
}

Úrovně úsilí

Dokumentace popisuje každou úroveň a její vhodné použití:

  • low: Využívá určité odvozování, ale zůstává rychlé. Pro agenty citlivé na latenci a jednoduchá volání nástrojů.
  • medium: Více reflexe, pro aplikace méně citlivé na latenci. Pro komplexní analýzu dat a odvozování nad dlouhými kontexty.
  • high (výchozí): Mnohem více tokenů pro odvozování. Pro velmi obtížné problémy, složitou matematiku a vícekrokovou logiku.
  • xhigh: Maximální hloubka s odpovídající latencí. Pro nejtěžší problémy, kdy na kvalitě záleží více než na době odezvy.

Nejlepší postupy xAI přidávají jednoduché pravidlo: nastav úsilí explicitně v každém požadavku a zaznamenávej jej u každého výsledku, aby tvá měření zůstala srovnatelná.

Modely pro odvozování také odmítají tři parametry: presence_penalty, frequency_penalty a stop způsobí selhání požadavku.

Dopad na tokeny

Úroveň úsilí má přímý dopad na spotřebu tokenů pro odvozování:

  • low: Málo tokenů pro odvozování, rychlá odpověď, nízké náklady
  • medium: Střední spotřeba, dobrý kompromis
  • high a xhigh: Mnoho tokenů pro odvozování, pomalejší odpověď, vysoké náklady

Tyto tokeny pro odvozování jsou fakturovány jako výstupní tokeny (viz Lekce 8). Limit výstupu (max_completion_tokens v Chat Completions, max_output_tokens v API Responses) omezuje pouze viditelnou odpověď: odvozování se do něj nezapočítává, takže úsilí řídí jejich množství.

Výběr správné úrovně

ÚkolDoporučené úsilí
Klasifikace textulow
Shrnutí s analýzoumedium
Strukturovaná extrakce entitlow
Řešení rovnichigh
Analýza chyb v kóduhigh
Přeformulování textulow
Porovnání možností s klady a záporymedium
Matematický důkazhigh

Praktický příklad: Stejná otázka, tři úrovně úsilí

for effort in ["low", "medium", "high"]:
    response = client.responses.create(
        model="grok-4.7",
        input="Explain why 0.1 + 0.2 != 0.3 in computing.",
        reasoning={"effort": effort},
    )
    usage = response.usage
    print(f"Effort {effort}: {usage.output_tokens} output tokens, "
          f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")

Rozdíl mezi úrovněmi závisí na otázce: změř si ho na vlastních případech, nespoléhej se na obecný poměr, a zaznamenávej úsilí u každého výsledku.

Klíčové poznatky

  • Úsilí závisí na modelu: low, medium, high (výchozí) a xhigh u grok-4.7 a grok-4.6, bez xhigh u grok-4.5; grok-4.20-0309-reasoning jej nepodporuje
  • reasoning_effort v Chat Completions, reasoning.effort v API Responses; odvozování nelze vypnout
  • Úroveň úsilí přímo ovlivňuje počet tokenů pro odvozování, a tedy i náklady
  • Bez konfigurace je úsilí ve výchozím nastavení high: nastav jej explicitně v každém požadavku, jak doporučuje xAI
  • Přizpůsob úsilí skutečné složitosti úkolu pro optimalizaci nákladů