Temperatura și parametrii de generare
Pe această pagină
Lecție rescrisă la 3 noiembrie 2026 pe baza celor mai bune practici xAI, a referinței API (Chat Completions și Responses) și a ghidului Reasoning: xAI recomandă o
temperaturede 0.7 și untop_pde 0.95 pentru modelele sale; temperaturile peste 1 sunt limitate la 1,top_pare implicit valoarea 0.95,max_completion_tokenslimitează doar răspunsul vizibil (implicit 128.000 de tokeni), iarseednu garantează determinismul. Versiunea anterioară recomanda temperaturi de până la 2, untop_pimplicit de 1 și o limită care includea raționamentul. Surse: Cele mai bune practici · Chat Completions · Reasoning.
Controlați generarea prin parametri
Dincolo de textul promptului dumneavoastră, API-ul Grok acceptă câțiva parametri numerici care influențează modul în care modelul își generează răspunsul. În cazul modelelor actuale, lecția principală este contra-intuitivă: gestionați aceste setări cu o mare prudență și rețineți că promptul, mult mai mult decât barele de reglaj, determină calitatea răspunsului.

Temperatura
Temperatura controlează gradul de aleatoriu în selecția tokenilor. Referința API o descrie în mod clasic: o valoare mică, cum ar fi 0.2, face ieșirea mai concentrată și deterministă; o valoare mai mare, cum ar fi 0.8, o face mai variată. Acceptă valori de la 0 la 2, dar orice valoare peste 1 este eșantionată la 1.
Cele mai bune practici xAI merg mai departe: setați temperature la 0.7 și nu vă abateți prea mult de la această valoare. Conform xAI, modelele Grok reacționează slab la alte setări de eșantionare, iar calitatea scade în general atunci când le modificați.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Propuneți un slogan pentru o brutărie organică"}],
"temperature": 0.7,
"top_p": 0.95
}
Pentru a obține mai multă creativitate, rigoare sau concizie, folosiți în schimb promptul: cereți explicit propuneri neașteptate, un ton factual sau un răspuns în trei puncte. Acesta este subiectul lecțiilor următoare.
Parametrul top_p (eșantionarea nucleului)
Parametrul top_p limitează alegerea la tokenii care cumulează o masă de probabilitate dată: la 0.1, sunt luați în considerare doar tokenii care reprezintă primele 10% din probabilitate. Modelele de text Grok actuale au acest parametru setat implicit la 0.95, iar valorile care depășesc implicitul modelului sunt limitate la acel implicit.
Referința API repetă sfatul obișnuit de a modifica fie temperature, fie top_p, dar nu pe ambele. Cele mai bune practici xAI, mai noi și specifice modelelor sale, cer în schimb să setați ambele explicit la fiecare cerere — 0.7 și 0.95 — astfel încât rezultatele dumneavoastră să nu depindă de implicitele serverului și să utilizați aceleași valori pentru toate modelele pe care le comparați.
max_completion_tokens
Acest parametru limitează numărul de tokeni din răspuns. Servește la controlul lungimii și al costului părții vizibile.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Rezumă acest document în trei puncte"}],
"max_completion_tokens": 500
}
Puncte importante, conform referinței API:
- Se aplică doar tokenilor vizibili: raționamentul și apelurile de funcții nu sunt contorizate; efortul de raționament controlează reflecția
- Fără o valoare, are implicit 128.000 de tokeni; vechiul
max_tokenseste depreciat - Dacă limita este atinsă, răspunsul este întrerupt, iar
finish_reasondevine"length"în loc de"stop"(API-ul Responses numește această limitămax_output_tokensși semnalează o stareincomplete)
Parametrul seed
Parametrul seed solicită ca eșantionarea sistemului să fie cât mai deterministică posibil: cererile repetate cu același seed și aceiași parametri ar trebui să producă același rezultat. Referința API specifică faptul că determinismul nu este garantat și face trimitere la câmpul system_fingerprint din răspuns pentru a detecta modificările de partea serverului.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Generează 5 nume pentru startup-uri tehnologice"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
Cazuri de utilizare pentru seed:
- Teste și depanare: verificați dacă un prompt produce rezultate stabile
- Comparație: testați diferite formulări de prompt cu același seed pentru a izola efectul modificării
- Urmărire: înregistrați
seedșisystem_fingerprintcu fiecare rezultat pentru a explica varianța
Parametri respinși de modelele de raționament
Modelele Grok actuale raționează: presence_penalty, frequency_penalty și stop nu pot fi trimise către ele, iar o cerere care le conține returnează o eroare. logprobs, între timp, este ignorat începând cu Grok 4.20. Dacă portati cod scris pentru un alt furnizor, eliminați acești parametri.
Setări recomandate
xAI nu propune un set de setări per caz de utilizare: recomandarea sa este aceeași peste tot.
{"temperature": 0.7, "top_p": 0.95}
Adăugați un max_completion_tokens adaptat lungimii așteptate după nevoie, un seed pentru testele dumneavoastră și, pe grok-4.5 până la 4.7, un efort de raționament (reasoning_effort) ales în funcție de dificultatea sarcinii: acesta, nu temperatura, arbitrează viteza, costul și profunzimea.
Exercițiu practic
Trimiteți același prompt de trei ori, cu temperature la 0.7 și top_p la 0.95, apoi de trei ori o versiune a promptului care specifică tonul și formatul așteptat:
Prompt A: "Propuneți trei nume pentru o aplicație de meditație"
Prompt B: "Propuneți trei nume scurte, evocatoare și neașteptate pentru o aplicație de meditație
destinată executivilor ocupați. Un nume pe linie, fără explicații."
Comparați varietatea și relevanța răspunsurilor: diferența provine din prompt, nu din parametri.
Puncte cheie
- xAI recomandă
temperaturela 0.7 șitop_pla 0.95, setate explicit la fiecare cerere - Peste 1, temperatura este limitată la 1;
top_pnu depășește implicitul modelului (0.95) max_completion_tokenslimitează doar răspunsul vizibil, implicit 128.000 de tokeniseedvizează reproductibilitatea fără garanție: urmărițisystem_fingerprintpresence_penalty,frequency_penaltyșistopsunt respinse de modelele de raționament