Úsilie pri usudzovaní: Nízke, Stredné a Vysoké
Na tejto strane
Aktualizované 3. novembra 2026 na základe referencie API xAI:
max_completion_tokensobmedzuje iba viditeľnú odpoveď; tokeny usudzovania sa do tohto limitu nezapočítavajú a úsilie riadi ich množstvo. Zdroj: Chat Completions. Dodatok z 3. novembra: Lekcia predtým spájala úsilie s API (Chat Completions alebo Responses) a aplikovala ho nagrok-4.20-0309-reasoning, ktorý ho nepodporuje; podľa stránky Reasoning od xAI závisí od modelu (grok-4.7,grok-4.6,grok-4.5,grok-4.20-multi-agent). Príklad tiež obsahovalusage.completion_tokens, čo v odpovediach Responses API chýba (output_tokens,output_tokens_details.reasoning_tokens). Zdroj: Reasoning.
Ovládanie hĺbky usudzovania
Úsilie pri usudzovaní ti umožňuje kalibrovať, koľko „premýšľania“ model investuje pred odpoveďou. Je to priamy nástroj na vyváženie kvality, rýchlosti a spotreby tokenov.
Dostupnosť určuje model, nie API. Podľa dokumentácie xAI:
| Model | Úsilie | Hodnoty |
|---|---|---|
grok-4.7, grok-4.6 | Hĺbka usudzovania | low, medium, high (predvolené), xhigh |
grok-4.5 | Hĺbka usudzovania | low, medium, high (predvolené); xhigh sa spracúva ako high |
grok-4.20-multi-agent | Počet zapojených agentov (4 alebo 16), nie hĺbka | low, medium, high, xhigh |
grok-4.20-0309-reasoning | Nekonfigurovateľné: model vždy usudzuje | — |
Na týchto modeloch nie je možné usudzovanie vypnúť: bez konfigurácie sa úsilie predvolene nastaví na high. Mení sa iba názov parametra v závislosti od API: reasoning_effort na najvyššej úrovni v Chat Completions, reasoning.effort vo vnútri objektu reasoning pri Responses API.
{
"model": "grok-4.7",
"input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
"reasoning": {
"effort": "medium"
}
}
Úrovne úsilia
Dokumentácia popisuje každú úroveň a jej vhodné použitie:
low: Využíva určité usudzovanie, pričom zostáva rýchle. Pre agentické použitie citlivé na latenciu a jednoduché volania nástrojov.medium: Viac reflexie, pre aplikácie menej citlivé na latenciu. Pre komplexnú analýzu dát a usudzovanie nad dlhými kontextami.high(predvolené): Množstvo tokenov usudzovania navyše. Pre veľmi ťažké problémy, komplexnú matematiku a viacstupňovú logiku.xhigh: Maximálna hĺbka so zodpovedajúcou latenciou. Pre najťažšie problémy, keď záleží viac na kvalite než na čase odpovede.
Najlepšie postupy xAI pridávajú jednoduché pravidlo: úsilie nastav explicitne v každej požiadavke a loguj ho ku každému výsledku, aby tvoje merania zostali porovnateľné.
Modely usudzovania tiež odmietajú tri parametre: presence_penalty, frequency_penalty a stop spôsobia zlyhanie požiadavky.
Vplyv na tokeny
Úroveň úsilia má priamy vplyv na spotrebu tokenov usudzovania:
low: Málo tokenov usudzovania, rýchla odpoveď, nízke nákladymedium: Mierna spotreba, dobrý kompromishighaxhigh: Množstvo tokenov usudzovania, pomalšia odpoveď, vysoké náklady
Tieto tokeny usudzovania sa fakturujú ako výstupné tokeny (pozri Lekciu 8). Limit výstupu (max_completion_tokens v Chat Completions, max_output_tokens v Responses API) obmedzuje iba viditeľnú odpoveď: usudzovanie sa do neho nezapočítava, takže úsilie riadi ich množstvo.
Výber správnej úrovne
| Úloha | Odporúčané úsilie |
|---|---|
| Klasifikácia textu | low |
| Zhrnutie s analýzou | medium |
| Štruktúrovaná extrakcia entít | low |
| Riešenie rovníc | high |
| Analýza chýb v kóde | high |
| Preformulovanie textu | low |
| Porovnanie možností s kladmi a zápormi | medium |
| Matematický dôkaz | high |
Praktický príklad: Rovnaká otázka, tri úrovne úsilia
for effort in ["low", "medium", "high"]:
response = client.responses.create(
model="grok-4.7",
input="Explain why 0.1 + 0.2 != 0.3 in computing.",
reasoning={"effort": effort},
)
usage = response.usage
print(f"Effort {effort}: {usage.output_tokens} output tokens, "
f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")
Rozdiel medzi úrovňami závisí od otázky: meraj ho na vlastných prípadoch, namiesto spoliehania sa na všeobecný pomer, a loguj úsilie ku každému výsledku.
Kľúčové poznatky
- Úsilie závisí od modelu:
low,medium,high(predvolené) axhighnagrok-4.7agrok-4.6, bezxhighnagrok-4.5;grok-4.20-0309-reasoningho nepodporuje reasoning_effortv Chat Completions,reasoning.effortv Responses API; usudzovanie nie je možné vypnúť- Úroveň úsilia priamo ovplyvňuje počet tokenov usudzovania, a tým aj náklady
- Bez konfigurácie sa úsilie predvolene nastaví na
high: nastav ho explicitne v každej požiadavke, ako odporúča xAI - Prispôsob úsilie skutočnej zložitosti úlohy na optimalizáciu nákladov