Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Časový limit, zakázané parametre a konfigurácia

Lekcia 11 z 12 Aktualizované 3. novembra 2026 Vývojár
Na tejto strane
  1. Správna konfigurácia požiadaviek na logické usudzovanie
  2. Časový limit: aspoň 900 sekúnd
  3. Zakázané parametre pri modeloch na logické usudzovanie
  4. Spracovanie chýb súvisiacich s parametrami
  5. Streamovanie s modelmi na logické usudzovanie
  6. Kľúčové poznatky

Aktualizované 3. novembra 2026. Na základe najlepších postupov xAI a príručky Reasoning: odporúčaný čas čakania je aspoň 900 sekúnd (v príkladoch 3 600), nie „minimálne 3 600 sekúnd“; zoznam modelov na logické usudzovanie zahŕňa grok-4.6 a grok-4.7; grok-4.7 vysiela súhrn svojho uvažovania; odstránené boli zdôvodnenia pre zakázané parametre, ktoré v dokumentácii chýbajú. Zdroje: Najlepšie postupy · Reasoning.

Správna konfigurácia požiadaviek na logické usudzovanie

Modely na logické usudzovanie majú špecifické obmedzenia, ktoré klasické modely nemajú. Ignorovanie týchto obmedzení môže spôsobiť tiché chyby, neočakávané časové limity alebo orezané odpovede. Táto lekcia pokrýva základné konfiguračné parametre.

Časový limit: aspoň 900 sekúnd

Najlepšie postupy xAI vyžadujú aspoň 900 sekúnd na požiadavku a pri dlhších vyhodnoteniach 1 800 sekúnd alebo viac; príklady v príručke Reasoning dokonca nastavujú oneskorenie na 3 600 sekúnd (1 hodina). Tieto čísla sa môžu zdať vysoké, ale odrážajú realitu: hlboké logické usudzovanie pri zložitom probléme môže trvať niekoľko minút. xAI tiež odporúča uprednostniť streamovanie, ktoré udržiava pripojenie aktívne počas dlhých generovaní.

Prečo taký dlhý časový limit?

Keď model na logické usudzovanie spracováva náročný problém (matematický dôkaz, komplexná analýza kódu, viacstupňové usudzovanie), potenciálne vygeneruje tisíce interných tokenov logického usudzovania ešte predtým, než sformuluje svoju odpoveď. Tento proces je lineárny a nedá sa paralelizovať.

Konfigurácia časového limitu

import httpx
from openai import OpenAI

# Konfigurácia s vysokým časovým limitom
client = OpenAI(
    api_key="your-api-key",
    base_url="https://api.x.ai/v1",
    timeout=httpx.Timeout(3600.0, connect=10.0)
)

V JavaScripte pomocou OpenAI SDK:

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: 'your-api-key',
  baseURL: 'https://api.x.ai/v1',
  timeout: 3600 * 1000  // 3600 sekúnd v milisekundách
});

Časový limit webového servera

Ak je vaša aplikácia za reverznou proxy (nginx, Apache), nakonfigurujte aj časový limit na strane servera:

# nginx
location /api/ {
    proxy_read_timeout 3600s;
    proxy_connect_timeout 10s;
    proxy_send_timeout 3600s;
}

Zakázané parametre pri modeloch na logické usudzovanie

Tri parametre bežne používané pri klasických modeloch nemožno odoslať modelom xAI na logické usudzovanie: podľa príručky Reasoning požiadavka obsahujúca tieto parametre vráti chybu. Dokumentácia neuvádza dôvod týchto zákazov; zapamätajte si toto pravidlo.

presencePenalty

// CHYBA pri modeloch na logické usudzovanie
{
  "model": "grok-4.20-0309-reasoning",
  "presence_penalty": 0.5,  // Zakázané!
  "messages": [...]
}

presencePenalty penalizuje tokeny, ktoré sa už v odpovedi objavili, aby podporila rozmanitosť.

frequencyPenalty

// CHYBA pri modeloch na logické usudzovanie
{
  "model": "grok-4.20-0309-reasoning",
  "frequency_penalty": 0.3,  // Zakázané!
  "messages": [...]
}

frequencyPenalty penalizuje tokeny úmerne k frekvencii ich výskytu.

stop

// CHYBA pri modeloch na logické usudzovanie
{
  "model": "grok-4.20-0309-reasoning",
  "stop": ["\n\n"],  // Zakázané!
  "messages": [...]
}

Parameter stop zastaví generovanie, keď sa objaví špecifická sekvencia. Na ohraničenie dĺžky odpovede použite namiesto toho max_completion_tokens, ktoré obmedzuje iba viditeľnú odpoveď, a inštrukciu formátu v promte.

Spracovanie chýb súvisiacich s parametrami

Pri migrácii existujúceho kódu na model na logické usudzovanie odstráňte nepodporované parametre:

def prepare_params(model, base_params):
    """Čistí parametre pre modely na logické usudzovanie."""
    reasoning_models = [
        # aktuálny rad
        "grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
        # historické identifikátory, stále prítomné v existujúcom kóde
        "grok-3-mini", "grok-4-fast-reasoning",
    ]

    params = {**base_params, "model": model}

    if model in reasoning_models:
        # Odstránenie zakázaných parametrov
        for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
            params.pop(forbidden, None)

        # Nahradenie max_tokens za max_completion_tokens
        if "max_tokens" in params:
            params["max_completion_tokens"] = params.pop("max_tokens")

    return params

Streamovanie s modelmi na logické usudzovanie

Streamovanie funguje s modelmi na logické usudzovanie, ale správanie závisí od generovania: pri grok-3-mini (predchádzajúca generácia) sa reasoning_content objavoval v streamu v čistej podobe pred tokenmi odpovede. Pri grok-4.20-0309-reasoning zostáva logické usudzovanie interné a nie je streamované: do streamu prichádza iba konečná odpoveď. Významná výnimka: pri Responses API grok-4.7 vysiela súhrn svojho logického usudzovania v udalostiach response.reasoning_summary_text.delta, ktoré môžete zobraziť pred odpoveďou.

Historický príklad s grok-3-mini:

stream = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    reasoning_effort="high",
    stream=True
)

for chunk in stream:
    delta = chunk.choices[0].delta
    if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
        print(f"[Reasoning] {delta.reasoning_content}", end="")
    elif delta.content:
        print(f"[Response] {delta.content}", end="")

Kľúčové poznatky

  • Vyhraďte si aspoň 900 sekúnd na požiadavku (v príkladoch z príručky Reasoning 3 600) a uprednostnite streamovanie
  • Tri parametre sú zakázané: presencePenalty, frequencyPenalty a stop
  • Pri migrácii z klasických modelov vyčistite parametre
  • Namiesto max_tokens použite max_completion_tokens
  • Streamovanie funguje, ale správanie sa líši podľa modelu