Salt la conținutul principal
Română— Alege o limbă
Meniu

Temperatura și parametrii de generare

Lecția 3 din 14 Actualizată 3 noiembrie 2026 Începător
Pe această pagină
  1. Controlați generarea prin parametri
  2. Temperatura
  3. Parametrul top_p (eșantionarea nucleului)
  4. max_completion_tokens
  5. Parametrul seed
  6. Parametri respinși de modelele de raționament
  7. Setări recomandate
  8. Exercițiu practic
  9. Puncte cheie

Lecție rescrisă la 3 noiembrie 2026 pe baza celor mai bune practici xAI, a referinței API (Chat Completions și Responses) și a ghidului Reasoning: xAI recomandă o temperature de 0.7 și un top_p de 0.95 pentru modelele sale; temperaturile peste 1 sunt limitate la 1, top_p are implicit valoarea 0.95, max_completion_tokens limitează doar răspunsul vizibil (implicit 128.000 de tokeni), iar seed nu garantează determinismul. Versiunea anterioară recomanda temperaturi de până la 2, un top_p implicit de 1 și o limită care includea raționamentul. Surse: Cele mai bune practici · Chat Completions · Reasoning.

Controlați generarea prin parametri

Dincolo de textul promptului dumneavoastră, API-ul Grok acceptă câțiva parametri numerici care influențează modul în care modelul își generează răspunsul. În cazul modelelor actuale, lecția principală este contra-intuitivă: gestionați aceste setări cu o mare prudență și rețineți că promptul, mult mai mult decât barele de reglaj, determină calitatea răspunsului.

Un răspuns creativ obținut prin prompt, în aplicația Grok

Temperatura

Temperatura controlează gradul de aleatoriu în selecția tokenilor. Referința API o descrie în mod clasic: o valoare mică, cum ar fi 0.2, face ieșirea mai concentrată și deterministă; o valoare mai mare, cum ar fi 0.8, o face mai variată. Acceptă valori de la 0 la 2, dar orice valoare peste 1 este eșantionată la 1.

Cele mai bune practici xAI merg mai departe: setați temperature la 0.7 și nu vă abateți prea mult de la această valoare. Conform xAI, modelele Grok reacționează slab la alte setări de eșantionare, iar calitatea scade în general atunci când le modificați.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Propuneți un slogan pentru o brutărie organică"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0.7
Temperatură recomandată de xAI
1
Limita efectivă a temperaturii
0.95
top_p recomandat și implicit

Pentru a obține mai multă creativitate, rigoare sau concizie, folosiți în schimb promptul: cereți explicit propuneri neașteptate, un ton factual sau un răspuns în trei puncte. Acesta este subiectul lecțiilor următoare.

Parametrul top_p (eșantionarea nucleului)

Parametrul top_p limitează alegerea la tokenii care cumulează o masă de probabilitate dată: la 0.1, sunt luați în considerare doar tokenii care reprezintă primele 10% din probabilitate. Modelele de text Grok actuale au acest parametru setat implicit la 0.95, iar valorile care depășesc implicitul modelului sunt limitate la acel implicit.

Referința API repetă sfatul obișnuit de a modifica fie temperature, fie top_p, dar nu pe ambele. Cele mai bune practici xAI, mai noi și specifice modelelor sale, cer în schimb să setați ambele explicit la fiecare cerere — 0.7 și 0.95 — astfel încât rezultatele dumneavoastră să nu depindă de implicitele serverului și să utilizați aceleași valori pentru toate modelele pe care le comparați.

max_completion_tokens

Acest parametru limitează numărul de tokeni din răspuns. Servește la controlul lungimii și al costului părții vizibile.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Rezumă acest document în trei puncte"}],
  "max_completion_tokens": 500
}

Puncte importante, conform referinței API:

  • Se aplică doar tokenilor vizibili: raționamentul și apelurile de funcții nu sunt contorizate; efortul de raționament controlează reflecția
  • Fără o valoare, are implicit 128.000 de tokeni; vechiul max_tokens este depreciat
  • Dacă limita este atinsă, răspunsul este întrerupt, iar finish_reason devine "length" în loc de "stop" (API-ul Responses numește această limită max_output_tokens și semnalează o stare incomplete)

Parametrul seed

Parametrul seed solicită ca eșantionarea sistemului să fie cât mai deterministică posibil: cererile repetate cu același seed și aceiași parametri ar trebui să producă același rezultat. Referința API specifică faptul că determinismul nu este garantat și face trimitere la câmpul system_fingerprint din răspuns pentru a detecta modificările de partea serverului.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Generează 5 nume pentru startup-uri tehnologice"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

Cazuri de utilizare pentru seed:

  • Teste și depanare: verificați dacă un prompt produce rezultate stabile
  • Comparație: testați diferite formulări de prompt cu același seed pentru a izola efectul modificării
  • Urmărire: înregistrați seed și system_fingerprint cu fiecare rezultat pentru a explica varianța

Parametri respinși de modelele de raționament

Modelele Grok actuale raționează: presence_penalty, frequency_penalty și stop nu pot fi trimise către ele, iar o cerere care le conține returnează o eroare. logprobs, între timp, este ignorat începând cu Grok 4.20. Dacă portati cod scris pentru un alt furnizor, eliminați acești parametri.

Setări recomandate

xAI nu propune un set de setări per caz de utilizare: recomandarea sa este aceeași peste tot.

{"temperature": 0.7, "top_p": 0.95}

Adăugați un max_completion_tokens adaptat lungimii așteptate după nevoie, un seed pentru testele dumneavoastră și, pe grok-4.5 până la 4.7, un efort de raționament (reasoning_effort) ales în funcție de dificultatea sarcinii: acesta, nu temperatura, arbitrează viteza, costul și profunzimea.

Exercițiu practic

Trimiteți același prompt de trei ori, cu temperature la 0.7 și top_p la 0.95, apoi de trei ori o versiune a promptului care specifică tonul și formatul așteptat:

Prompt A: "Propuneți trei nume pentru o aplicație de meditație"
Prompt B: "Propuneți trei nume scurte, evocatoare și neașteptate pentru o aplicație de meditație
destinată executivilor ocupați. Un nume pe linie, fără explicații."

Comparați varietatea și relevanța răspunsurilor: diferența provine din prompt, nu din parametri.

Puncte cheie

  • xAI recomandă temperature la 0.7 și top_p la 0.95, setate explicit la fiecare cerere
  • Peste 1, temperatura este limitată la 1; top_p nu depășește implicitul modelului (0.95)
  • max_completion_tokens limitează doar răspunsul vizibil, implicit 128.000 de tokeni
  • seed vizează reproductibilitatea fără garanție: urmăriți system_fingerprint
  • presence_penalty, frequency_penalty și stop sunt respinse de modelele de raționament