Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Vremensko ograničenje, zabranjeni parametri i konfiguracija

Lekcija 11 od 12 Ažurirano 3. studenoga 2026. Programer
Na ovoj stranici
  1. Ispravno konfiguriraj zahtjeve za rezoniranje
  2. Vremensko ograničenje: najmanje 900 sekundi
  3. Zabranjeni parametri na modelima za rezoniranje
  4. Rukovanje greškama vezanima uz parametre
  5. Striming s modelima za rezoniranje
  6. Ključne točke

Ažurirano 3. studenoga 2026. Na temelju najboljih praksi tvrtke xAI i vodiča Reasoning: preporučeno vrijeme čekanja iznosi najmanje 900 sekundi (3600 u primjerima), a ne „najmanje 3600 sekundi“; popis modela za rezoniranje uključuje grok-4.6 i grok-4.7; grok-4.7 strimuje sažetak svog rezoniranja; uklonjena su opravdanja za zabranjene parametre kojih nema u dokumentaciji. Izvori: Najbolje prakse · Reasoning.

Ispravno konfiguriraj zahtjeve za rezoniranje

Modeli za rezoniranje imaju specifična ograničenja koja klasični modeli nemaju. Zanemarivanje tih ograničenja može uzrokovati tihe greške, neočekivana vremenska isteka ili skraćene odgovore. Ova lekcija pokriva ključne parametre konfiguracije.

Vremensko ograničenje: najmanje 900 sekundi

Najbolje prakse tvrtke xAI zahtijevaju najmanje 900 sekundi po zahtjevu, a 1800 sekundi ili više za dugačke evaluacije; primjeri u vodiču Reasoning čak postavljaju kašnjenje na 3600 sekundi (1 sat). Ti brojevi mogu djelovati visoko, ali odražavaju stvarnost: duboko rezoniranje o složenom problemu može trajati nekoliko minuta. xAI također preporučuje korištenje striminga, koji održava vezu aktivnom tijekom dugih generiranja.

Zašto tako dugo vremensko ograničenje?

Kada model za rezoniranje obrađuje težak problem (matematički dokaz, složena analiza koda, rezoniranje u više koraka), potencijalno generira tisuće internih tokena za rezoniranje prije formuliranja odgovora. Taj je proces linearan i ne može se paralelizirati.

Konfiguracija vremenskog ograničenja

import httpx
from openai import OpenAI

# Konfiguracija s visokim vremenskim ograničenjem
client = OpenAI(
    api_key="your-api-key",
    base_url="https://api.x.ai/v1",
    timeout=httpx.Timeout(3600.0, connect=10.0)
)

U JavaScriptu s OpenAI SDK-om:

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: 'your-api-key',
  baseURL: 'https://api.x.ai/v1',
  timeout: 3600 * 1000  // 3600 sekundi u milisekundama
});

Vremensko ograničenje web poslužitelja

Ako se tvoja aplikacija nalazi iza reverse proxyja (nginx, Apache), konfiguriraj i vremensko ograničenje na strani poslužitelja:

# nginx
location /api/ {
    proxy_read_timeout 3600s;
    proxy_connect_timeout 10s;
    proxy_send_timeout 3600s;
}

Zabranjeni parametri na modelima za rezoniranje

Tri parametra koja se često koriste s klasičnim modelima ne smiju se slati modelima za rezoniranje tvrtke xAI: prema vodiču Reasoning, zahtjev koji ih sadrži vraća grešku. Dokumentacija ne navodi razlog tih zabrana; zapamti pravilo.

presencePenalty

// GREŠKA na modelima za rezoniranje
{
  "model": "grok-4.20-0309-reasoning",
  "presence_penalty": 0.5,  // Zabranjeno!
  "messages": [...]
}

presencePenalty kažnjava tokene koji su se već pojavili u odgovoru kako bi potaknuo raznolikost.

frequencyPenalty

// GREŠKA na modelima za rezoniranje
{
  "model": "grok-4.20-0309-reasoning",
  "frequency_penalty": 0.3,  // Zabranjeno!
  "messages": [...]
}

frequencyPenalty kažnjava tokene proporcionalno učestalosti njihova pojavljivanja.

stop

// GREŠKA na modelima za rezoniranje
{
  "model": "grok-4.20-0309-reasoning",
  "stop": ["\n\n"],  // Zabranjeno!
  "messages": [...]
}

Parametar stop zaustavlja generiranje kada se pojavi specifičan niz. Za ograničavanje duljine odgovora umjesto toga upotrijebi max_completion_tokens, koji ograničava samo vidljivi odgovor, te uputu za format u promptu.

Rukovanje greškama vezanima uz parametre

Prilikom migracije postojećeg koda na model za rezoniranje, očisti nepodržane parametre:

def prepare_params(model, base_params):
    """Čisti parametre za modele za rezoniranje."""
    reasoning_models = [
        # trenutni raspon
        "grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
        # povijesni identifikatori, još uvijek prisutni u postojećem kodu
        "grok-3-mini", "grok-4-fast-reasoning",
    ]

    params = {**base_params, "model": model}

    if model in reasoning_models:
        # Ukloni zabranjene parametre
        for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
            params.pop(forbidden, None)

        # Zamijeni max_tokens s max_completion_tokens
        if "max_tokens" in params:
            params["max_completion_tokens"] = params.pop("max_tokens")

    return params

Striming s modelima za rezoniranje

Striming funkcionira s modelima za rezoniranje, ali ponašanje ovisi o generaciji: na grok-3-mini (prethodna generacija), reasoning_content se pojavljivao u jasnom tekstu u strimu, prije tokena odgovora. Na grok-4.20-0309-reasoning, rezoniranje ostaje interno i ne strimuje se: u strim stiže samo konačni odgovor. Značajna iznimka: na Responses APIju, grok-4.7 strimuje sažetak svog rezoniranja u događajima response.reasoning_summary_text.delta koje možeš prikazati prije odgovora.

Povijesni primjer s grok-3-mini:

stream = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    reasoning_effort="high",
    stream=True
)

for chunk in stream:
    delta = chunk.choices[0].delta
    if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
        print(f"[Reasoning] {delta.reasoning_content}", end="")
    elif delta.content:
        print(f"[Response] {delta.content}", end="")

Ključne točke

  • Dopusti najmanje 900 sekundi po zahtjevu (3600 u primjerima vodiča Reasoning) i daj prednost strimingu
  • Tri parametra su zabranjena: presencePenalty, frequencyPenalty i stop
  • Očisti parametre prilikom migracije s klasičnih modela
  • Upotrijebi max_completion_tokens umjesto max_tokens
  • Striming funkcionira, ali se ponašanje razlikuje ovisno o modelu