Timeout, Parametri Pprojbiti u Konfigurazzjoni
F'din il-paġna
Aġġornat fit-3 ta’ Novembru 2026. Ibbażat fuq l-aħjar prattiki ta’ xAI u l-gwida Reasoning: il-ħin ta’ stennija rakkomandat huwa mill-inqas 900 sekonda (3,600 fl-eżempji), mhux “minimu ta’ 3,600 sekonda”; il-lista tal-mudelli tar-raġunar tinkludi grok-4.6 u grok-4.7; grok-4.7 jixxandar sommarju tar-raġunar tiegħu; il-ġustifikazzjonijiet għall-parametri pprojbiti, li ma jinsabux fid-dokumentazzjoni, tneħħew. Sorsi: Aħjar prattiki · Raġunar.
Ikkonfigura t-talbiet tar-raġunar tiegħek b’mod korrett
Il-mudelli tar-raġunar għandhom restrizzjonijiet speċifiċi li l-mudelli klassiċi ma għandhomx. Jekk tinjora dawn ir-restrizzjonijiet, tista’ tikkawża żbalji silenzjużi, timeouts mhux mistennija, jew tweġibiet moqtugħa. Din il-lezzjoni tkopri l-parametri essenzjali tal-konfigurazzjoni.
Timeout: mill-inqas 900 sekonda
L-aħjar prattiki ta’ xAI jirrikjedu mill-inqas 900 sekonda għal kull talba, u 1,800 sekonda jew aktar għal evalwazzjonijiet twal; l-eżempji fil-gwida Reasoning saħansitra jistabbilixxu d-dewmien għal 3,600 sekonda (siegħa). Dawn in-numri jistgħu jidhru għoljin, iżda jirriflettu r-realtà: raġunar fond fuq problema kumplessa jista’ jieħu diversi minuti. xAI jirrakkomanda wkoll li tippreferixxi l-istreaming, li jżomm il-konnessjoni attiva waqt ġenerazzjonijiet twal.
Għaliex timeout daqshekk twil?
Meta mudell tar-raġunar jipproċessa problema diffiċli (prova matematika, analiżi kumplessa tal-kodiċi, raġunar f’diversi passi), dan potenzjalment jiġġenera eluf ta’ tokens interni tar-raġunar qabel ma jifformula t-tweġiba tiegħu. Dan il-proċess huwa lineari u ma jistax jiġi parallelizzat.
Konfigurazzjoni tat-timeout
import httpx
from openai import OpenAI
# Konfigurazzjoni b'timeout għoli
client = OpenAI(
api_key="your-api-key",
base_url="https://api.x.ai/v1",
timeout=httpx.Timeout(3600.0, connect=10.0)
)
F’JavaScript bl-SDK ta’ OpenAI:
import OpenAI from 'openai';
const client = new OpenAI({
apiKey: 'your-api-key',
baseURL: 'https://api.x.ai/v1',
timeout: 3600 * 1000 // 3600 sekonda f'millisekondi
});
Timeout tas-server web
Jekk l-applikazzjoni tiegħek tinsab wara proxy invers (nginx, Apache), ikkonfigura wkoll it-timeout fuq in-naħa tas-server:
# nginx
location /api/ {
proxy_read_timeout 3600s;
proxy_connect_timeout 10s;
proxy_send_timeout 3600s;
}
Parametri pprojbiti fuq il-mudelli tar-raġunar
Tliet parametri użati komunement mal-mudelli klassiċi ma jistgħux jintbagħtu lill-mudelli tar-raġunar ta’ xAI: skont il-gwida Reasoning, talba li fiha dawn tirritorna żball. Id-dokumentazzjoni ma tagħtix ir-raġuni għal dawn il-projbizzjonijiet; ftakar ir-regola.
presencePenalty
// ŻBALL fuq il-mudelli tar-raġunar
{
"model": "grok-4.20-0309-reasoning",
"presence_penalty": 0.5, // Pprojbit!
"messages": [...]
}
presencePenalty jippenalizza t-tokens li diġà dehru fit-tweġiba biex jinkoraġġixxi d-diversità.
frequencyPenalty
// ŻBALL fuq il-mudelli tar-raġunar
{
"model": "grok-4.20-0309-reasoning",
"frequency_penalty": 0.3, // Pprojbit!
"messages": [...]
}
frequencyPenalty jippenalizza t-tokens b’mod proporzjonali għall-frekwenza tad-dehra tagħhom.
stop
// ŻBALL fuq il-mudelli tar-raġunar
{
"model": "grok-4.20-0309-reasoning",
"stop": ["\n\n"], // Pprojbit!
"messages": [...]
}
Il-parametru stop iwaqqaf il-ġenerazzjoni meta tidher sekwenza speċifika. Biex tillimita t-tul tat-tweġiba, uża max_completion_tokens minflok, li jillimita biss it-tweġiba viżibbli, u istruzzjoni tal-format fil-prompt.
Immaniġġjar ta’ żbalji relatati mal-parametri
Meta tmigra kodiċi eżistenti għal mudell tar-raġunar, naddaf il-parametri mhux appoġġjati:
def prepare_params(model, base_params):
"""Inaddaf il-parametri għall-mudelli tar-raġunar."""
reasoning_models = [
# firxa attwali
"grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
# identifikaturi storiċi, għadhom preżenti f'kodiċi eżistenti
"grok-3-mini", "grok-4-fast-reasoning",
]
params = {**base_params, "model": model}
if model in reasoning_models:
# Neħħi l-parametri pprojbiti
for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
params.pop(forbidden, None)
# Ibdel max_tokens b'max_completion_tokens
if "max_tokens" in params:
params["max_completion_tokens"] = params.pop("max_tokens")
return params
Streaming mal-mudelli tar-raġunar
L-istreaming jaħdem mal-mudelli tar-raġunar, iżda l-imġiba tiddependi mill-ġenerazzjoni: fuq grok-3-mini (ġenerazzjoni preċedenti), reasoning_content kien jidher ċar fl-istreaming, qabel it-tokens tat-tweġiba. Fuq grok-4.20-0309-reasoning, ir-raġunar jibqa’ intern u ma jintstreamjax: biss it-tweġiba finali tasal fl-istreaming. Eċċezzjoni notevoli: fuq l-API tar-Risposti, grok-4.7 jixxandar sommarju tar-raġunar tiegħu, f’avvenimenti response.reasoning_summary_text.delta li tista’ turi qabel it-tweġiba.
Eżempju storiku b’grok-3-mini:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[{"role": "user", "content": "Why is the sky blue?"}],
reasoning_effort="high",
stream=True
)
for chunk in stream:
delta = chunk.choices[0].delta
if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
print(f"[Reasoning] {delta.reasoning_content}", end="")
elif delta.content:
print(f"[Response] {delta.content}", end="")
Punti Ewlenin
- Ħalli mill-inqas 900 sekonda għal kull talba (3,600 fl-eżempji tal-gwida Reasoning), u ippreferixxi l-istreaming
- Tliet parametri huma pprojbiti:
presencePenalty,frequencyPenalty, ustop - Naddaf il-parametri meta tmigra minn mudelli klassiċi
- Uża
max_completion_tokensminflokmax_tokens - L-istreaming jaħdem iżda l-imġiba tvarja skont il-mudell