Časový limit, zakázané parametry a konfigurace
Na této stránce
Aktualizováno 3. listopadu 2026. Na základě osvědčených postupů xAI a příručky Reasoning: doporučená doba čekání je alespoň 900 sekund (v příkladech 3 600), nikoli „minimálně 3 600 sekund“; seznam modelů pro uvažování zahrnuje grok-4.6 a grok-4.7; grok-4.7 streamuje shrnutí svého uvažování; byla odstraněna zdůvodnění pro zakázané parametry, která v dokumentaci chyběla. Zdroje: Osvědčené postupy · Reasoning.
Správná konfigurace požadavků na uvažování
Modely pro uvažování mají specifická omezení, která klasické modely nemají. Ignorování těchto omezení může vést k tichým chybám, neočekávaným časovým limitům nebo useknutým odpovědím. Tato lekce pokrývá zásadní konfigurační parametry.
Časový limit: alespoň 900 sekund
Osvědčené postupy xAI vyžadují alespoň 900 sekund na jeden požadavek a 1 800 sekund či více pro dlouhá vyhodnocení; příklady v příručce Reasoning dokonce nastavují prodlevu na 3 600 sekund (1 hodinu). Tato čísla se mohou zdát vysoká, ale odrážejí realitu: hluboké uvažování nad složitým problémem může trvat několik minut. xAI také doporučuje upřednostňovat streamování, které udržuje připojení aktivní během dlouhých generování.
Proč tak dlouhý časový limit?
Když model pro uvažování zpracovává obtížný problém (matematický důkaz, komplexní analýza kódu, víceúrovňové uvažování), potenciálně vygeneruje tisíce interních tokenů uvažování, než zformuluje svou odpověď. Tento proces je lineární a nelze jej paralelizovat.
Konfigurace časového limitu
import httpx
from openai import OpenAI
# Konfigurace s vysokým časovým limitem
client = OpenAI(
api_key="your-api-key",
base_url="https://api.x.ai/v1",
timeout=httpx.Timeout(3600.0, connect=10.0)
)
V JavaScriptu s OpenAI SDK:
import OpenAI from 'openai';
const client = new OpenAI({
apiKey: 'your-api-key',
baseURL: 'https://api.x.ai/v1',
timeout: 3600 * 1000 // 3600 sekund v milisekundách
});
Časový limit webového serveru
Pokud je vaše aplikace za reverzní proxy (nginx, Apache), nakonfigurujte také časový limit na straně serveru:
# nginx
location /api/ {
proxy_read_timeout 3600s;
proxy_connect_timeout 10s;
proxy_send_timeout 3600s;
}
Zakázané parametry u modelů pro uvažování
Tři parametry běžně používané u klasických modelů nelze odeslat modelům pro uvažování xAI: podle příručky Reasoning požadavek, který je obsahuje, vrátí chybu. Dokumentace neuvádí důvod těchto zákazů; zapamatuj si toto pravidlo.
presencePenalty
// CHYBA u modelů pro uvažování
{
"model": "grok-4.20-0309-reasoning",
"presence_penalty": 0.5, // Zakázáno!
"messages": [...]
}
presencePenalty penalizuje tokeny, které se již v odpovědi objevily, aby podpořila rozmanitost.
frequencyPenalty
// CHYBA u modelů pro uvažování
{
"model": "grok-4.20-0309-reasoning",
"frequency_penalty": 0.3, // Zakázáno!
"messages": [...]
}
frequencyPenalty penalizuje tokeny úměrně jejich četnosti výskytu.
stop
// CHYBA u modelů pro uvažování
{
"model": "grok-4.20-0309-reasoning",
"stop": ["\n\n"], // Zakázáno!
"messages": [...]
}
Parametr stop zastaví generování, jakmile se objeví specifická sekvence. Pro omezení délky odpovědi použij místo toho max_completion_tokens, který omezuje pouze viditelnou odpověď, a instrukci formátu v promptu.
Zpracování chyb souvisejících s parametry
Při migraci stávajícího kódu na model pro uvažování vyčisti nepodporované parametry:
def prepare_params(model, base_params):
"""Vyčistí parametry pro modely pro uvažování."""
reasoning_models = [
# aktuální nabídka
"grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
# historické identifikátory, stále přítomné ve stávajícím kódu
"grok-3-mini", "grok-4-fast-reasoning",
]
params = {**base_params, "model": model}
if model in reasoning_models:
# Odstranění zakázaných parametrů
for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
params.pop(forbidden, None)
# Nahrazení max_tokens za max_completion_tokens
if "max_tokens" in params:
params["max_completion_tokens"] = params.pop("max_tokens")
return params
Streamování s modely pro uvažování
Streamování funguje s modely pro uvažování, ale chování závisí na generaci: u grok-3-mini (předchozí generace) se reasoning_content objevovalo ve streamu v čisté podobě před tokeny odpovědi. U grok-4.20-0309-reasoning zůstává uvažování interní a není streamováno: ve streamu dorazí pouze finální odpověď. Pozoruhodná výjimka: u Responses API grok-4.7 streamuje shrnutí svého uvažování v událostech response.reasoning_summary_text.delta, které můžeš zobrazit před odpovědí.
Historický příklad s grok-3-mini:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[{"role": "user", "content": "Why is the sky blue?"}],
reasoning_effort="high",
stream=True
)
for chunk in stream:
delta = chunk.choices[0].delta
if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
print(f"[Reasoning] {delta.reasoning_content}", end="")
elif delta.content:
print(f"[Response] {delta.content}", end="")
Klíčové poznatky
- Povol alespoň 900 sekund na požadavek (3 600 v příkladech příručky Reasoning) a upřednostňuj streamování
- Tři parametry jsou zakázány:
presencePenalty,frequencyPenaltyastop - Vyčisti parametry při migraci z klasických modelů
- Použij
max_completion_tokensmístomax_tokens - Streamování funguje, ale chování se liší podle modelu