Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Timeout, Parametri Pprojbiti u Konfigurazzjoni

Lezzjoni 11 / 12 Aġġornat 3 ta’ Novembru 2026 Zviluppatur
F'din il-paġna
  1. Ikkonfigura t-talbiet tar-raġunar tiegħek b’mod korrett
  2. Timeout: mill-inqas 900 sekonda
  3. Parametri pprojbiti fuq il-mudelli tar-raġunar
  4. Immaniġġjar ta’ żbalji relatati mal-parametri
  5. Streaming mal-mudelli tar-raġunar
  6. Punti Ewlenin

Aġġornat fit-3 ta’ Novembru 2026. Ibbażat fuq l-aħjar prattiki ta’ xAI u l-gwida Reasoning: il-ħin ta’ stennija rakkomandat huwa mill-inqas 900 sekonda (3,600 fl-eżempji), mhux “minimu ta’ 3,600 sekonda”; il-lista tal-mudelli tar-raġunar tinkludi grok-4.6 u grok-4.7; grok-4.7 jixxandar sommarju tar-raġunar tiegħu; il-ġustifikazzjonijiet għall-parametri pprojbiti, li ma jinsabux fid-dokumentazzjoni, tneħħew. Sorsi: Aħjar prattiki · Raġunar.

Ikkonfigura t-talbiet tar-raġunar tiegħek b’mod korrett

Il-mudelli tar-raġunar għandhom restrizzjonijiet speċifiċi li l-mudelli klassiċi ma għandhomx. Jekk tinjora dawn ir-restrizzjonijiet, tista’ tikkawża żbalji silenzjużi, timeouts mhux mistennija, jew tweġibiet moqtugħa. Din il-lezzjoni tkopri l-parametri essenzjali tal-konfigurazzjoni.

Timeout: mill-inqas 900 sekonda

L-aħjar prattiki ta’ xAI jirrikjedu mill-inqas 900 sekonda għal kull talba, u 1,800 sekonda jew aktar għal evalwazzjonijiet twal; l-eżempji fil-gwida Reasoning saħansitra jistabbilixxu d-dewmien għal 3,600 sekonda (siegħa). Dawn in-numri jistgħu jidhru għoljin, iżda jirriflettu r-realtà: raġunar fond fuq problema kumplessa jista’ jieħu diversi minuti. xAI jirrakkomanda wkoll li tippreferixxi l-istreaming, li jżomm il-konnessjoni attiva waqt ġenerazzjonijiet twal.

Għaliex timeout daqshekk twil?

Meta mudell tar-raġunar jipproċessa problema diffiċli (prova matematika, analiżi kumplessa tal-kodiċi, raġunar f’diversi passi), dan potenzjalment jiġġenera eluf ta’ tokens interni tar-raġunar qabel ma jifformula t-tweġiba tiegħu. Dan il-proċess huwa lineari u ma jistax jiġi parallelizzat.

Konfigurazzjoni tat-timeout

import httpx
from openai import OpenAI

# Konfigurazzjoni b'timeout għoli
client = OpenAI(
    api_key="your-api-key",
    base_url="https://api.x.ai/v1",
    timeout=httpx.Timeout(3600.0, connect=10.0)
)

F’JavaScript bl-SDK ta’ OpenAI:

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: 'your-api-key',
  baseURL: 'https://api.x.ai/v1',
  timeout: 3600 * 1000  // 3600 sekonda f'millisekondi
});

Timeout tas-server web

Jekk l-applikazzjoni tiegħek tinsab wara proxy invers (nginx, Apache), ikkonfigura wkoll it-timeout fuq in-naħa tas-server:

# nginx
location /api/ {
    proxy_read_timeout 3600s;
    proxy_connect_timeout 10s;
    proxy_send_timeout 3600s;
}

Parametri pprojbiti fuq il-mudelli tar-raġunar

Tliet parametri użati komunement mal-mudelli klassiċi ma jistgħux jintbagħtu lill-mudelli tar-raġunar ta’ xAI: skont il-gwida Reasoning, talba li fiha dawn tirritorna żball. Id-dokumentazzjoni ma tagħtix ir-raġuni għal dawn il-projbizzjonijiet; ftakar ir-regola.

presencePenalty

// ŻBALL fuq il-mudelli tar-raġunar
{
  "model": "grok-4.20-0309-reasoning",
  "presence_penalty": 0.5,  // Pprojbit!
  "messages": [...]
}

presencePenalty jippenalizza t-tokens li diġà dehru fit-tweġiba biex jinkoraġġixxi d-diversità.

frequencyPenalty

// ŻBALL fuq il-mudelli tar-raġunar
{
  "model": "grok-4.20-0309-reasoning",
  "frequency_penalty": 0.3,  // Pprojbit!
  "messages": [...]
}

frequencyPenalty jippenalizza t-tokens b’mod proporzjonali għall-frekwenza tad-dehra tagħhom.

stop

// ŻBALL fuq il-mudelli tar-raġunar
{
  "model": "grok-4.20-0309-reasoning",
  "stop": ["\n\n"],  // Pprojbit!
  "messages": [...]
}

Il-parametru stop iwaqqaf il-ġenerazzjoni meta tidher sekwenza speċifika. Biex tillimita t-tul tat-tweġiba, uża max_completion_tokens minflok, li jillimita biss it-tweġiba viżibbli, u istruzzjoni tal-format fil-prompt.

Immaniġġjar ta’ żbalji relatati mal-parametri

Meta tmigra kodiċi eżistenti għal mudell tar-raġunar, naddaf il-parametri mhux appoġġjati:

def prepare_params(model, base_params):
    """Inaddaf il-parametri għall-mudelli tar-raġunar."""
    reasoning_models = [
        # firxa attwali
        "grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
        # identifikaturi storiċi, għadhom preżenti f'kodiċi eżistenti
        "grok-3-mini", "grok-4-fast-reasoning",
    ]

    params = {**base_params, "model": model}

    if model in reasoning_models:
        # Neħħi l-parametri pprojbiti
        for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
            params.pop(forbidden, None)

        # Ibdel max_tokens b'max_completion_tokens
        if "max_tokens" in params:
            params["max_completion_tokens"] = params.pop("max_tokens")

    return params

Streaming mal-mudelli tar-raġunar

L-istreaming jaħdem mal-mudelli tar-raġunar, iżda l-imġiba tiddependi mill-ġenerazzjoni: fuq grok-3-mini (ġenerazzjoni preċedenti), reasoning_content kien jidher ċar fl-istreaming, qabel it-tokens tat-tweġiba. Fuq grok-4.20-0309-reasoning, ir-raġunar jibqa’ intern u ma jintstreamjax: biss it-tweġiba finali tasal fl-istreaming. Eċċezzjoni notevoli: fuq l-API tar-Risposti, grok-4.7 jixxandar sommarju tar-raġunar tiegħu, f’avvenimenti response.reasoning_summary_text.delta li tista’ turi qabel it-tweġiba.

Eżempju storiku b’grok-3-mini:

stream = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    reasoning_effort="high",
    stream=True
)

for chunk in stream:
    delta = chunk.choices[0].delta
    if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
        print(f"[Reasoning] {delta.reasoning_content}", end="")
    elif delta.content:
        print(f"[Response] {delta.content}", end="")

Punti Ewlenin

  • Ħalli mill-inqas 900 sekonda għal kull talba (3,600 fl-eżempji tal-gwida Reasoning), u ippreferixxi l-istreaming
  • Tliet parametri huma pprojbiti: presencePenalty, frequencyPenalty, u stop
  • Naddaf il-parametri meta tmigra minn mudelli klassiċi
  • Uża max_completion_tokens minflok max_tokens
  • L-istreaming jaħdem iżda l-imġiba tvarja skont il-mudell