Časovne omejitve, prepovedani parametri in konfiguracija
Na tej strani
Posodobljeno 3. novembra 2026. Na podlagi najboljših praks xAI in vodnika Reasoning: priporočeni čas čakanja je vsaj 900 sekund (v primerih 3.600), ne pa „najmanj 3.600 sekund”; seznam modelov za sklepanje vključuje grok-4.6 in grok-4.7; grok-4.7 pretaka povzetek svojega sklepanja; utemeljitve za prepovedane parametre, ki jih v dokumentaciji ni, so odstranjene. Viri: Najboljše prakse · Reasoning.
Pravilno konfiguriraj zahteve za sklepanje
Modeli za sklepanje imajo specifične omejitve, ki jih klasični modeli nimajo. Če te omejitve ignoriraš, lahko pride do tihih napak, nepričakovanih časovnih iztekov ali okrnjenih odgovorov. Ta lekcija pokriva bistvene konfiguracijske parametre.
Časovna omejitev: vsaj 900 sekund
Najboljše prakse xAI zahtevajo vsaj 900 sekund na zahtevo, za dolge evalvacije pa 1.800 sekund ali več; primeri v vodniku Reasoning celo nastavijo zamik na 3.600 sekund (1 uro). Te številke se morda zdijo visoke, a odražajo realnost: globoko sklepanje o kompleksnem problemu lahko traja več minut. xAI prav tako priporoča uporabo pretakanja (streaming), ki ohranja povezavo aktivno med dolgimi generiranji.
Zakaj tako dolga časovna omejitev?
Ko model za sklepanje obdeluje težaven problem (matematični dokaz, kompleksna analiza kode, večstopenjsko sklepanje), potencialno generira na tisoče notranjih žetonov za sklepanje, preden oblikuje svoj odgovor. Ta proces je linearen in ga ni mogoče paralelizirati.
Konfiguracija časovne omejitve
import httpx
from openai import OpenAI
# Konfiguracija z visoko časovno omejitvijo
client = OpenAI(
api_key="your-api-key",
base_url="https://api.x.ai/v1",
timeout=httpx.Timeout(3600.0, connect=10.0)
)
V JavaScriptu z OpenAI SDK:
import OpenAI from 'openai';
const client = new OpenAI({
apiKey: 'your-api-key',
baseURL: 'https://api.x.ai/v1',
timeout: 3600 * 1000 // 3600 sekund v milisekundah
});
Časovna omejitev spletnega strežnika
Če je tvoja aplikacija za povratnim posrednikom (nginx, Apache), konfiguriraj tudi časovno omejitev na strani strežnika:
# nginx
location /api/ {
proxy_read_timeout 3600s;
proxy_connect_timeout 10s;
proxy_send_timeout 3600s;
}
Prepovedani parametri pri modelih za sklepanje
Treh parametrov, ki se pogosto uporabljajo s klasičnimi modeli, ni mogoče poslati modelom za sklepanje xAI: glede na vodnik Reasoning zahteva, ki jih vsebuje, vrne napako. Dokumentacija ne navaja razloga za te prepovedi; zapomni si pravilo.
presencePenalty
// NAPAKA pri modelih za sklepanje
{
"model": "grok-4.20-0309-reasoning",
"presence_penalty": 0.5, // Prepovedano!
"messages": [...]
}
presencePenalty kaznuje žetone, ki so se že pojavili v odgovoru, da bi spodbudil raznolikost.
frequencyPenalty
// NAPAKA pri modelih za sklepanje
{
"model": "grok-4.20-0309-reasoning",
"frequency_penalty": 0.3, // Prepovedano!
"messages": [...]
}
frequencyPenalty kaznuje žetone sorazmerno z njihovo pogostostjo pojavljanja.
stop
// NAPAKA pri modelih za sklepanje
{
"model": "grok-4.20-0309-reasoning",
"stop": ["\n\n"], // Prepovedano!
"messages": [...]
}
Parameter stop ustavi generiranje, ko se pojavi določeno zaporedje. Za omejitev dolžine odgovora namesto tega uporabi max_completion_tokens, ki omeji le vidni odgovor, in navodilo za obliko v pozivu.
Obravnava napak, povezanih s parametri
Ko seliš obstoječo kodo na model za sklepanje, počisti nepodprte parametre:
def prepare_params(model, base_params):
"""Počisti parametre za modele za sklepanje."""
reasoning_models = [
# trenutni razpon
"grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
# zgodovinski identifikatorji, še vedno prisotni v obstoječi kodi
"grok-3-mini", "grok-4-fast-reasoning",
]
params = {**base_params, "model": model}
if model in reasoning_models:
# Odstrani prepovedane parametre
for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
params.pop(forbidden, None)
# Zamenjaj max_tokens z max_completion_tokens
if "max_tokens" in params:
params["max_completion_tokens"] = params.pop("max_tokens")
return params
Pretakanje z modeli za sklepanje
Pretakanje deluje z modeli za sklepanje, vendar je vedenje odvisno od generacije: pri grok-3-mini (prejšnja generacija) se je reasoning_content pojavil v čisti obliki v toku, pred žetoni odgovora. Pri grok-4.20-0309-reasoning sklepanje ostane notranje in se ne pretaka: v toku prispe le končni odgovor. Omembe vredna izjema: pri Responses API grok-4.7 pretaka povzetek svojega sklepanja v dogodkih response.reasoning_summary_text.delta, ki jih lahko prikažeš pred odgovorom.
Zgodovinski primer z grok-3-mini:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[{"role": "user", "content": "Why is the sky blue?"}],
reasoning_effort="high",
stream=True
)
for chunk in stream:
delta = chunk.choices[0].delta
if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
print(f"[Reasoning] {delta.reasoning_content}", end="")
elif delta.content:
print(f"[Response] {delta.content}", end="")
Ključne ugotovitve
- Dovoli vsaj 900 sekund na zahtevo (3.600 v primerih vodnika Reasoning) in raje uporabi pretakanje
- Trije parametri so prepovedani:
presencePenalty,frequencyPenaltyinstop - Počisti parametre pri selitvi s klasičnih modelov
- Uporabi
max_completion_tokensnamestomax_tokens - Pretakanje deluje, vendar se vedenje razlikuje glede na model