Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Časovne omejitve, prepovedani parametri in konfiguracija

Lekcija 11 od 12 Posodobljeno 3. november 2026 Razvijalec
Na tej strani
  1. Pravilno konfiguriraj zahteve za sklepanje
  2. Časovna omejitev: vsaj 900 sekund
  3. Prepovedani parametri pri modelih za sklepanje
  4. Obravnava napak, povezanih s parametri
  5. Pretakanje z modeli za sklepanje
  6. Ključne ugotovitve

Posodobljeno 3. novembra 2026. Na podlagi najboljših praks xAI in vodnika Reasoning: priporočeni čas čakanja je vsaj 900 sekund (v primerih 3.600), ne pa „najmanj 3.600 sekund”; seznam modelov za sklepanje vključuje grok-4.6 in grok-4.7; grok-4.7 pretaka povzetek svojega sklepanja; utemeljitve za prepovedane parametre, ki jih v dokumentaciji ni, so odstranjene. Viri: Najboljše prakse · Reasoning.

Pravilno konfiguriraj zahteve za sklepanje

Modeli za sklepanje imajo specifične omejitve, ki jih klasični modeli nimajo. Če te omejitve ignoriraš, lahko pride do tihih napak, nepričakovanih časovnih iztekov ali okrnjenih odgovorov. Ta lekcija pokriva bistvene konfiguracijske parametre.

Časovna omejitev: vsaj 900 sekund

Najboljše prakse xAI zahtevajo vsaj 900 sekund na zahtevo, za dolge evalvacije pa 1.800 sekund ali več; primeri v vodniku Reasoning celo nastavijo zamik na 3.600 sekund (1 uro). Te številke se morda zdijo visoke, a odražajo realnost: globoko sklepanje o kompleksnem problemu lahko traja več minut. xAI prav tako priporoča uporabo pretakanja (streaming), ki ohranja povezavo aktivno med dolgimi generiranji.

Zakaj tako dolga časovna omejitev?

Ko model za sklepanje obdeluje težaven problem (matematični dokaz, kompleksna analiza kode, večstopenjsko sklepanje), potencialno generira na tisoče notranjih žetonov za sklepanje, preden oblikuje svoj odgovor. Ta proces je linearen in ga ni mogoče paralelizirati.

Konfiguracija časovne omejitve

import httpx
from openai import OpenAI

# Konfiguracija z visoko časovno omejitvijo
client = OpenAI(
    api_key="your-api-key",
    base_url="https://api.x.ai/v1",
    timeout=httpx.Timeout(3600.0, connect=10.0)
)

V JavaScriptu z OpenAI SDK:

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: 'your-api-key',
  baseURL: 'https://api.x.ai/v1',
  timeout: 3600 * 1000  // 3600 sekund v milisekundah
});

Časovna omejitev spletnega strežnika

Če je tvoja aplikacija za povratnim posrednikom (nginx, Apache), konfiguriraj tudi časovno omejitev na strani strežnika:

# nginx
location /api/ {
    proxy_read_timeout 3600s;
    proxy_connect_timeout 10s;
    proxy_send_timeout 3600s;
}

Prepovedani parametri pri modelih za sklepanje

Treh parametrov, ki se pogosto uporabljajo s klasičnimi modeli, ni mogoče poslati modelom za sklepanje xAI: glede na vodnik Reasoning zahteva, ki jih vsebuje, vrne napako. Dokumentacija ne navaja razloga za te prepovedi; zapomni si pravilo.

presencePenalty

// NAPAKA pri modelih za sklepanje
{
  "model": "grok-4.20-0309-reasoning",
  "presence_penalty": 0.5,  // Prepovedano!
  "messages": [...]
}

presencePenalty kaznuje žetone, ki so se že pojavili v odgovoru, da bi spodbudil raznolikost.

frequencyPenalty

// NAPAKA pri modelih za sklepanje
{
  "model": "grok-4.20-0309-reasoning",
  "frequency_penalty": 0.3,  // Prepovedano!
  "messages": [...]
}

frequencyPenalty kaznuje žetone sorazmerno z njihovo pogostostjo pojavljanja.

stop

// NAPAKA pri modelih za sklepanje
{
  "model": "grok-4.20-0309-reasoning",
  "stop": ["\n\n"],  // Prepovedano!
  "messages": [...]
}

Parameter stop ustavi generiranje, ko se pojavi določeno zaporedje. Za omejitev dolžine odgovora namesto tega uporabi max_completion_tokens, ki omeji le vidni odgovor, in navodilo za obliko v pozivu.

Obravnava napak, povezanih s parametri

Ko seliš obstoječo kodo na model za sklepanje, počisti nepodprte parametre:

def prepare_params(model, base_params):
    """Počisti parametre za modele za sklepanje."""
    reasoning_models = [
        # trenutni razpon
        "grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
        # zgodovinski identifikatorji, še vedno prisotni v obstoječi kodi
        "grok-3-mini", "grok-4-fast-reasoning",
    ]

    params = {**base_params, "model": model}

    if model in reasoning_models:
        # Odstrani prepovedane parametre
        for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
            params.pop(forbidden, None)

        # Zamenjaj max_tokens z max_completion_tokens
        if "max_tokens" in params:
            params["max_completion_tokens"] = params.pop("max_tokens")

    return params

Pretakanje z modeli za sklepanje

Pretakanje deluje z modeli za sklepanje, vendar je vedenje odvisno od generacije: pri grok-3-mini (prejšnja generacija) se je reasoning_content pojavil v čisti obliki v toku, pred žetoni odgovora. Pri grok-4.20-0309-reasoning sklepanje ostane notranje in se ne pretaka: v toku prispe le končni odgovor. Omembe vredna izjema: pri Responses API grok-4.7 pretaka povzetek svojega sklepanja v dogodkih response.reasoning_summary_text.delta, ki jih lahko prikažeš pred odgovorom.

Zgodovinski primer z grok-3-mini:

stream = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    reasoning_effort="high",
    stream=True
)

for chunk in stream:
    delta = chunk.choices[0].delta
    if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
        print(f"[Reasoning] {delta.reasoning_content}", end="")
    elif delta.content:
        print(f"[Response] {delta.content}", end="")

Ključne ugotovitve

  • Dovoli vsaj 900 sekund na zahtevo (3.600 v primerih vodnika Reasoning) in raje uporabi pretakanje
  • Trije parametri so prepovedani: presencePenalty, frequencyPenalty in stop
  • Počisti parametre pri selitvi s klasičnih modelov
  • Uporabi max_completion_tokens namesto max_tokens
  • Pretakanje deluje, vendar se vedenje razlikuje glede na model