Dēles laiks, aizliegtie parametri un konfigurācija
Šajā lapā
Atjaunināts 2026. gada 3. novembrī. Pamatojoties uz xAI labākajām praksēm un Reasoning rokasgrāmatu: ieteicamais gaidīšanas laiks ir vismaz 900 sekundes (piemēros norādītas 3600), nevis „minimāli 3600 sekundes”; spriešanas modeļu sarakstā iekļauti grok-4.6 un grok-4.7; grok-4.7 straumē savu spriešanas kopsavilkumu; ir svītroti pamatojumi aizliegtajiem parametriem, kuri nebija dokumentācijā. Avoti: Labākā prakse · Spriešana.
Pareizi konfigurē savus spriešanas pieprasījumus
Spriešanas modeļiem ir īpaši ierobežojumi, kādu nav klasiskajiem modeļiem. Šo ierobežojumu ignorēšana var izraisīt klusas kļūdas, negaidītus dēles laika pārtraukumus vai apgrieztas atbildes. Šajā nodarbībā aplūkoti būtiski konfigurācijas parametri.
Dēles laiks: vismaz 900 sekundes
xAI labākā prakse pieprasa vismaz 900 sekundes vienam pieprasījumam, bet ilgām evaluācijām – 1800 sekundes vai vairāk; Reasoning rokasgrāmatas piemēros aizture pat noteikta uz 3600 sekundēm (1 stunda). Šie skaitļi var šķist lieli, taču tie atspoguļo realitāti: dziļa spriešana par sarežģītu problēmu var ilgt vairākas minūtes. xAI arī iesaka dot priekšroku straumēšanai, kas uztur savienojumu aktīvu garu ģenerāciju laikā.
Kāpēc tik ilgs dēles laiks?
Kad spriešanas modelis apstrādā sarežģītu uzdevumu (matemātisks pierādījums, komplicēta koda analīze, daudzsoloņu spriešana), tas potenciāli ģenerē tūkstošiem iekšēju spriešanas tokenus, pirms formulē savu atbildi. Šis process ir lineārs un to nevar paralelizēt.
Dēles laika konfigurācija
import httpx
from openai import OpenAI
# Konfigurācija ar augstu dēles laiku
client = OpenAI(
api_key="your-api-key",
base_url="https://api.x.ai/v1",
timeout=httpx.Timeout(3600.0, connect=10.0)
)
JavaScript valodā, izmantojot OpenAI SDK:
import OpenAI from 'openai';
const client = new OpenAI({
apiKey: 'your-api-key',
baseURL: 'https://api.x.ai/v1',
timeout: 3600 * 1000 // 3600 sekundes milisekundēs
});
Tīmekļa servera dēles laiks
Ja tava lietotne darbojas aiz apgrieztā starpnieka (nginx, Apache), konfigurē arī servera puses dēles laiku:
# nginx
location /api/ {
proxy_read_timeout 3600s;
proxy_connect_timeout 10s;
proxy_send_timeout 3600s;
}
Aizliegtie parametri spriešanas modeļos
Trīs parametri, ko bieži izmanto ar klasiskajiem modeļiem, nedrīkst nosūtīt xAI spriešanas modeļiem: saskaņā ar Reasoning rokasgrāmatu pieprasījums, kas tos satur, atgriež kļūdu. Dokumentācija nepaskaidro šo aizliegumu iemeslus; vienkārši iemācies šo noteikumu.
presencePenalty
// KĻŪDA spriešanas modeļos
{
"model": "grok-4.20-0309-reasoning",
"presence_penalty": 0.5, // Aizliegts!
"messages": [...]
}
presencePenalty sodīja tokenus, kas jau parādījušies atbildē, lai veicinātu daudzveidību.
frequencyPenalty
// KĻŪDA spriešanas modeļos
{
"model": "grok-4.20-0309-reasoning",
"frequency_penalty": 0.3, // Aizliegts!
"messages": [...]
}
frequencyPenalty sodīja tokenus proporcionāli to parādīšanās biežumam.
stop
// KĻŪDA spriešanas modeļos
{
"model": "grok-4.20-0309-reasoning",
"stop": ["\n\n"], // Aizliegts!
"messages": [...]
}
Parametrs stop aptur ģenerāciju, kad parādās konkrēta secība. Lai ierobežotu atbildes garumu, tā vietā izmanto max_completion_tokens, kas ierobežo tikai redzamo atbildi, un formatēšanas instrukciju uzvednē.
Kļūdu, kas saistītas ar parametriem, apstrāde
Migrējot esošo kodu uz spriešanas modeli, attīri neatbalstītos parametrus:
def prepare_params(model, base_params):
"""Attīra parametrus spriešanas modeļiem."""
reasoning_models = [
# pašreizējais klāsts
"grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
# vēsturiski identifikatori, kas joprojām ir esošajā kodā
"grok-3-mini", "grok-4-fast-reasoning",
]
params = {**base_params, "model": model}
if model in reasoning_models:
# Noņem aizliegtos parametrus
for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
params.pop(forbidden, None)
# Aizvieto max_tokens ar max_completion_tokens
if "max_tokens" in params:
params["max_completion_tokens"] = params.pop("max_tokens")
return params
Straumēšana ar spriešanas modeļiem
Straumēšana darbojas ar spriešanas modeļiem, taču uzvedība ir atkarīga no ģenerācijas: pie grok-3-mini (iepriekšējā paaudze) reasoning_content straumē parādījās skaidrā tekstā pirms atbildes tokeniem. Pie grok-4.20-0309-reasoning spriešana paliek iekšēja un netiek straumēta: straumē nonāk tikai galīgā atbilde. Ievērojams izņēmums: Responses API gadījumā grok-4.7 straumē savu spriešanas kopsavilkumu notikumos response.reasoning_summary_text.delta, kurus vari attēlot pirms atbildes.
Vēsturisks piemērs ar grok-3-mini:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[{"role": "user", "content": "Why is the sky blue?"}],
reasoning_effort="high",
stream=True
)
for chunk in stream:
delta = chunk.choices[0].delta
if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
print(f"[Reasoning] {delta.reasoning_content}", end="")
elif delta.content:
print(f"[Response] {delta.content}", end="")
Galvenās atziņas
- Atļauj vismaz 900 sekundes vienam pieprasījumam (3600 Reasoning rokasgrāmatas piemēros) un dod priekšroku straumēšanai
- Trīs parametri ir aizliegti:
presencePenalty,frequencyPenaltyunstop - Migrējot no klasiskajiem modeļiem, attīri parametrus
max_tokensvietā izmantomax_completion_tokens- Straumēšana darbojas, taču uzvedība atšķiras atkarībā no modeļa