Vremensko ograničenje, zabranjeni parametri i konfiguracija
Na ovoj stranici
Ažurirano 3. studenoga 2026. Na temelju najboljih praksi tvrtke xAI i vodiča Reasoning: preporučeno vrijeme čekanja iznosi najmanje 900 sekundi (3600 u primjerima), a ne „najmanje 3600 sekundi“; popis modela za rezoniranje uključuje grok-4.6 i grok-4.7; grok-4.7 strimuje sažetak svog rezoniranja; uklonjena su opravdanja za zabranjene parametre kojih nema u dokumentaciji. Izvori: Najbolje prakse · Reasoning.
Ispravno konfiguriraj zahtjeve za rezoniranje
Modeli za rezoniranje imaju specifična ograničenja koja klasični modeli nemaju. Zanemarivanje tih ograničenja može uzrokovati tihe greške, neočekivana vremenska isteka ili skraćene odgovore. Ova lekcija pokriva ključne parametre konfiguracije.
Vremensko ograničenje: najmanje 900 sekundi
Najbolje prakse tvrtke xAI zahtijevaju najmanje 900 sekundi po zahtjevu, a 1800 sekundi ili više za dugačke evaluacije; primjeri u vodiču Reasoning čak postavljaju kašnjenje na 3600 sekundi (1 sat). Ti brojevi mogu djelovati visoko, ali odražavaju stvarnost: duboko rezoniranje o složenom problemu može trajati nekoliko minuta. xAI također preporučuje korištenje striminga, koji održava vezu aktivnom tijekom dugih generiranja.
Zašto tako dugo vremensko ograničenje?
Kada model za rezoniranje obrađuje težak problem (matematički dokaz, složena analiza koda, rezoniranje u više koraka), potencijalno generira tisuće internih tokena za rezoniranje prije formuliranja odgovora. Taj je proces linearan i ne može se paralelizirati.
Konfiguracija vremenskog ograničenja
import httpx
from openai import OpenAI
# Konfiguracija s visokim vremenskim ograničenjem
client = OpenAI(
api_key="your-api-key",
base_url="https://api.x.ai/v1",
timeout=httpx.Timeout(3600.0, connect=10.0)
)
U JavaScriptu s OpenAI SDK-om:
import OpenAI from 'openai';
const client = new OpenAI({
apiKey: 'your-api-key',
baseURL: 'https://api.x.ai/v1',
timeout: 3600 * 1000 // 3600 sekundi u milisekundama
});
Vremensko ograničenje web poslužitelja
Ako se tvoja aplikacija nalazi iza reverse proxyja (nginx, Apache), konfiguriraj i vremensko ograničenje na strani poslužitelja:
# nginx
location /api/ {
proxy_read_timeout 3600s;
proxy_connect_timeout 10s;
proxy_send_timeout 3600s;
}
Zabranjeni parametri na modelima za rezoniranje
Tri parametra koja se često koriste s klasičnim modelima ne smiju se slati modelima za rezoniranje tvrtke xAI: prema vodiču Reasoning, zahtjev koji ih sadrži vraća grešku. Dokumentacija ne navodi razlog tih zabrana; zapamti pravilo.
presencePenalty
// GREŠKA na modelima za rezoniranje
{
"model": "grok-4.20-0309-reasoning",
"presence_penalty": 0.5, // Zabranjeno!
"messages": [...]
}
presencePenalty kažnjava tokene koji su se već pojavili u odgovoru kako bi potaknuo raznolikost.
frequencyPenalty
// GREŠKA na modelima za rezoniranje
{
"model": "grok-4.20-0309-reasoning",
"frequency_penalty": 0.3, // Zabranjeno!
"messages": [...]
}
frequencyPenalty kažnjava tokene proporcionalno učestalosti njihova pojavljivanja.
stop
// GREŠKA na modelima za rezoniranje
{
"model": "grok-4.20-0309-reasoning",
"stop": ["\n\n"], // Zabranjeno!
"messages": [...]
}
Parametar stop zaustavlja generiranje kada se pojavi specifičan niz. Za ograničavanje duljine odgovora umjesto toga upotrijebi max_completion_tokens, koji ograničava samo vidljivi odgovor, te uputu za format u promptu.
Rukovanje greškama vezanima uz parametre
Prilikom migracije postojećeg koda na model za rezoniranje, očisti nepodržane parametre:
def prepare_params(model, base_params):
"""Čisti parametre za modele za rezoniranje."""
reasoning_models = [
# trenutni raspon
"grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
# povijesni identifikatori, još uvijek prisutni u postojećem kodu
"grok-3-mini", "grok-4-fast-reasoning",
]
params = {**base_params, "model": model}
if model in reasoning_models:
# Ukloni zabranjene parametre
for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
params.pop(forbidden, None)
# Zamijeni max_tokens s max_completion_tokens
if "max_tokens" in params:
params["max_completion_tokens"] = params.pop("max_tokens")
return params
Striming s modelima za rezoniranje
Striming funkcionira s modelima za rezoniranje, ali ponašanje ovisi o generaciji: na grok-3-mini (prethodna generacija), reasoning_content se pojavljivao u jasnom tekstu u strimu, prije tokena odgovora. Na grok-4.20-0309-reasoning, rezoniranje ostaje interno i ne strimuje se: u strim stiže samo konačni odgovor. Značajna iznimka: na Responses APIju, grok-4.7 strimuje sažetak svog rezoniranja u događajima response.reasoning_summary_text.delta koje možeš prikazati prije odgovora.
Povijesni primjer s grok-3-mini:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[{"role": "user", "content": "Why is the sky blue?"}],
reasoning_effort="high",
stream=True
)
for chunk in stream:
delta = chunk.choices[0].delta
if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
print(f"[Reasoning] {delta.reasoning_content}", end="")
elif delta.content:
print(f"[Response] {delta.content}", end="")
Ključne točke
- Dopusti najmanje 900 sekundi po zahtjevu (3600 u primjerima vodiča Reasoning) i daj prednost strimingu
- Tri parametra su zabranjena:
presencePenalty,frequencyPenaltyistop - Očisti parametre prilikom migracije s klasičnih modela
- Upotrijebi
max_completion_tokensumjestomax_tokens - Striming funkcionira, ali se ponašanje razlikuje ovisno o modelu