Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Časový limit, zakázané parametry a konfigurace

Lekce 11 z 12 Aktualizováno 3. listopadu 2026 Vývojář
Na této stránce
  1. Správná konfigurace požadavků na uvažování
  2. Časový limit: alespoň 900 sekund
  3. Zakázané parametry u modelů pro uvažování
  4. Zpracování chyb souvisejících s parametry
  5. Streamování s modely pro uvažování
  6. Klíčové poznatky

Aktualizováno 3. listopadu 2026. Na základě osvědčených postupů xAI a příručky Reasoning: doporučená doba čekání je alespoň 900 sekund (v příkladech 3 600), nikoli „minimálně 3 600 sekund“; seznam modelů pro uvažování zahrnuje grok-4.6 a grok-4.7; grok-4.7 streamuje shrnutí svého uvažování; byla odstraněna zdůvodnění pro zakázané parametry, která v dokumentaci chyběla. Zdroje: Osvědčené postupy · Reasoning.

Správná konfigurace požadavků na uvažování

Modely pro uvažování mají specifická omezení, která klasické modely nemají. Ignorování těchto omezení může vést k tichým chybám, neočekávaným časovým limitům nebo useknutým odpovědím. Tato lekce pokrývá zásadní konfigurační parametry.

Časový limit: alespoň 900 sekund

Osvědčené postupy xAI vyžadují alespoň 900 sekund na jeden požadavek a 1 800 sekund či více pro dlouhá vyhodnocení; příklady v příručce Reasoning dokonce nastavují prodlevu na 3 600 sekund (1 hodinu). Tato čísla se mohou zdát vysoká, ale odrážejí realitu: hluboké uvažování nad složitým problémem může trvat několik minut. xAI také doporučuje upřednostňovat streamování, které udržuje připojení aktivní během dlouhých generování.

Proč tak dlouhý časový limit?

Když model pro uvažování zpracovává obtížný problém (matematický důkaz, komplexní analýza kódu, víceúrovňové uvažování), potenciálně vygeneruje tisíce interních tokenů uvažování, než zformuluje svou odpověď. Tento proces je lineární a nelze jej paralelizovat.

Konfigurace časového limitu

import httpx
from openai import OpenAI

# Konfigurace s vysokým časovým limitem
client = OpenAI(
    api_key="your-api-key",
    base_url="https://api.x.ai/v1",
    timeout=httpx.Timeout(3600.0, connect=10.0)
)

V JavaScriptu s OpenAI SDK:

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: 'your-api-key',
  baseURL: 'https://api.x.ai/v1',
  timeout: 3600 * 1000  // 3600 sekund v milisekundách
});

Časový limit webového serveru

Pokud je vaše aplikace za reverzní proxy (nginx, Apache), nakonfigurujte také časový limit na straně serveru:

# nginx
location /api/ {
    proxy_read_timeout 3600s;
    proxy_connect_timeout 10s;
    proxy_send_timeout 3600s;
}

Zakázané parametry u modelů pro uvažování

Tři parametry běžně používané u klasických modelů nelze odeslat modelům pro uvažování xAI: podle příručky Reasoning požadavek, který je obsahuje, vrátí chybu. Dokumentace neuvádí důvod těchto zákazů; zapamatuj si toto pravidlo.

presencePenalty

// CHYBA u modelů pro uvažování
{
  "model": "grok-4.20-0309-reasoning",
  "presence_penalty": 0.5,  // Zakázáno!
  "messages": [...]
}

presencePenalty penalizuje tokeny, které se již v odpovědi objevily, aby podpořila rozmanitost.

frequencyPenalty

// CHYBA u modelů pro uvažování
{
  "model": "grok-4.20-0309-reasoning",
  "frequency_penalty": 0.3,  // Zakázáno!
  "messages": [...]
}

frequencyPenalty penalizuje tokeny úměrně jejich četnosti výskytu.

stop

// CHYBA u modelů pro uvažování
{
  "model": "grok-4.20-0309-reasoning",
  "stop": ["\n\n"],  // Zakázáno!
  "messages": [...]
}

Parametr stop zastaví generování, jakmile se objeví specifická sekvence. Pro omezení délky odpovědi použij místo toho max_completion_tokens, který omezuje pouze viditelnou odpověď, a instrukci formátu v promptu.

Zpracování chyb souvisejících s parametry

Při migraci stávajícího kódu na model pro uvažování vyčisti nepodporované parametry:

def prepare_params(model, base_params):
    """Vyčistí parametry pro modely pro uvažování."""
    reasoning_models = [
        # aktuální nabídka
        "grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
        # historické identifikátory, stále přítomné ve stávajícím kódu
        "grok-3-mini", "grok-4-fast-reasoning",
    ]

    params = {**base_params, "model": model}

    if model in reasoning_models:
        # Odstranění zakázaných parametrů
        for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
            params.pop(forbidden, None)

        # Nahrazení max_tokens za max_completion_tokens
        if "max_tokens" in params:
            params["max_completion_tokens"] = params.pop("max_tokens")

    return params

Streamování s modely pro uvažování

Streamování funguje s modely pro uvažování, ale chování závisí na generaci: u grok-3-mini (předchozí generace) se reasoning_content objevovalo ve streamu v čisté podobě před tokeny odpovědi. U grok-4.20-0309-reasoning zůstává uvažování interní a není streamováno: ve streamu dorazí pouze finální odpověď. Pozoruhodná výjimka: u Responses API grok-4.7 streamuje shrnutí svého uvažování v událostech response.reasoning_summary_text.delta, které můžeš zobrazit před odpovědí.

Historický příklad s grok-3-mini:

stream = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    reasoning_effort="high",
    stream=True
)

for chunk in stream:
    delta = chunk.choices[0].delta
    if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
        print(f"[Reasoning] {delta.reasoning_content}", end="")
    elif delta.content:
        print(f"[Response] {delta.content}", end="")

Klíčové poznatky

  • Povol alespoň 900 sekund na požadavek (3 600 v příkladech příručky Reasoning) a upřednostňuj streamování
  • Tři parametry jsou zakázány: presencePenalty, frequencyPenalty a stop
  • Vyčisti parametry při migraci z klasických modelů
  • Použij max_completion_tokens místo max_tokens
  • Streamování funguje, ale chování se liší podle modelu