Salt la conținutul principal
Română— Alege o limbă
Meniu

Temperatura, top_p și parametrii de generare

Lecția 2 din 16 Actualizată 3 noiembrie 2026 Dezvoltator
Pe această pagină
  1. Temperatura, top_p și parametrii de generare
  2. Cum alege modelul următorul token
  3. Temperatura
  4. Top_p (Eșantionarea nucleului)
  5. Alți parametri importanți
  6. Observați variația pe cont propriu
  7. Puncte cheie

Actualizat la 3 noiembrie 2026 pe baza documentației OpenAI: temperature și top_p sunt acceptate doar cu un efort de raționament de none, în timp ce modelele GPT-5.6 raționează implicit (medium). Apelurile care setează acești parametri trebuie, prin urmare, să specifice reasoning={"effort": "none"} (API-ul Responses) sau reasoning_effort="none" (Chat Completions). Surse: Utilizarea GPT-6 · GPT-5.6 Terra.

Temperatura, top_p și parametrii de generare

Când trimiteți un prompt unui model lingvistic, textul generat nu este determinist în mod implicit: două apeluri strict identice pot returna două răspunsuri diferite. Parametrii de generare vă permit să controlați gradul de creativitate sau rigoare al acestor răspunsuri. Stăpânirea lor servește două obiective concrete: obținerea de rezultate adaptate fiecărui caz de utilizare și știința locului unde să căutați atunci când o suită de teste de integrare începe să eșueze o dată din trei fără o explicație aparentă.

Cum alege modelul următorul token

La fiecare pas al generării, modelul calculează o distribuție de probabilitate peste întregul său vocabular, apoi eșantionează următorul token din acea distribuție. Cuvântul „cel mai bun“ nu apare mecanic; este rezultatul unei extrageri la sorți. Parametrii de generare intervin înainte de eșantionare, fie îngustând distribuția în jurul candidaților cei mai probabili, fie aplatizând-o pentru a le da o șansă outsiderilor. Cele două apeluri de mai jos ilustrează extreme ale acestei nevoi: un slogan de brutărie are valoare doar dacă surprinde, în timp ce sintaxa unei comprehensiuni de listă nu trebuie niciodată să surprindă.

from openai import OpenAI

client = OpenAI()

# Răspuns creativ (temperatură ridicată)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperatura necesită efort none
    instructions="Ești un scriitor creativ.",
    input="Propune un slogan pentru o brutărie artizanală.",
    temperature=1.2
)

# Răspuns factual (temperatură scăzută)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperatura necesită efort none
    instructions="Ești un asistent tehnic precis.",
    input="Care este sintaxa unei comprehensiuni de listă în Python?",
    temperature=0.1
)

Temperatura

Temperatura este un factor multiplicativ aplicat logiților înainte de softmax. La 0, distribuția se îngustează până la punctul în care modelul selectează întotdeauna tokenul cel mai probabil: comportamentul devine cvasi-determinist, ceea ce doriți exact de la un extractor de date reluat într-un test unitar. Între 0,1 și 0,3, răspunsurile rămân foarte consistente de la un apel la altul: acesta este teritoriul codului și al răspunsurilor factuale. Intervalul 0,7 – 0,9 echilibrează creativitatea și consistența, fiind potrivit pentru scrierea generală. Dincolo de aceasta, între 1,0 și 1,5, ieșirile devin variate și uneori dezorientante – efectul dorit pentru brainstorming, dar un defect fatal în orice alt context.

Tabelul de mai jos reunește setări care funcționează bine pentru cele mai frecvente cazuri de utilizare. Considerați-l un punct de plecare de validat pe propriile dumneavoastră prompturi: un prompt puternic constrâns tolerează o temperatură mai ridicată decât ați crede, în timp ce un prompt lejer derapează mai repede.

Caz de utilizare Temperatură top_p
Generare de cod 0,0 – 0,2 1,0
Extragere de date 0,0 1,0
Scriere profesională 0,5 – 0,7 0,9
Brainstorming 1,0 – 1,3 0,95
Scriere creativă 1,0 – 1,5 0,9

Top_p (Eșantionarea nucleului)

Parametrul top_p acționează asupra aceleiași distribuții, dar printr-un mecanism complet diferit: filtrează tokenurile pe baza probabilității lor cumulative. Cu top_p=0.9, modelul ia în considerare doar tokenurile a căror probabilitate cumulativă atinge 90%, eliminând pur și simplu coada lungă a alegerilor improbabile. În timp ce temperatura distorsionează probabilitățile tuturor candidaților, top_p trunchiază lista candidaților admisibili.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperatura necesită efort none
    instructions="Generează un rezumat tehnic.",
    input="Rezumă cum funcționează TLS 1.3.",
    temperature=0.3,
    top_p=0.95
)

Aceasta conduce la o regulă practică pe care nu veți regreta să o aplicați: nu modificați temperatura și top_p simultan. Deoarece ambele acționează asupra aceluiași mecanism, nu ați putea atribui efectul observat unuia sau celuilalt, iar setările dumneavoastră ar deveni o chestiune de superstiție. Ajustați un singur parametru, lăsându-l pe celălalt la valoarea sa implicită; OpenAI recomandă să începeți cu temperatura.

Alți parametri importanți

max_output_tokens limitează lungimea răspunsului în tokenuri. Aceasta este garanția dumneavoastră atât pentru costuri, cât și împotriva răspunsurilor interminabile, fiind deosebit de utilă atunci când ieșirea trebuie să se încadreze într-un câmp de interfață constrâns: un răspuns încadrat în timpul generării este preferabil truncării la nivelul afișajului.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Răspunde într-o singură propoziție.",
    input="Ce este DNS?",
    max_output_tokens=100
)

Începând cu GPT-5.6, raționamentul nu mai este un model separat: este o setare care controlează timpul de reflecție pentru întreaga familie de modele.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Rezolvă această ecuație diferențială: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Nivelul low răspunde rapid la întrebări simple, medium constituie un compromis onest pentru majoritatea sarcinilor, iar high angajează un raționament aprofundat care ar trebui rezervat problemelor cu adevărat dificile. Ecuația diferențială de mai sus îl merită; reformularea unei propoziții de bun venit, nu – ați plăti pentru timp de reflecție într-o sarcină care nu necesită niciunul.

Observați variația pe cont propriu

Nimic nu înlocuiește vederea acestor setări în acțiune. Scrieți un script Python care trimite același prompt către GPT-5.6 Terra cu cinci valori ale temperaturii (0, 0,3, 0,7, 1,0 și 1,3) și afișează cele cinci ieșiri una lângă alta. Alegeți o instrucțiune franc creativă, de exemplu: „Inventează un nume pentru un startup de IA“: repetarea aproape cuvânt cu cuvânt la 0 și dispersia la 1,3 devin imposibil de ratat, iar această memorie vizuală va servi drept punct de referință mult mai mult timp decât un tabel de valori.

Puncte cheie

  • Temperatura controlează dispersia distribuției de probabilitate
  • top_p filtrează tokenurile după probabilitatea cumulativă
  • Nu modificați niciodată ambele simultan
  • Temperatură scăzută pentru sarcini factuale, ridicată pentru cele creative
  • Setarea de raționament (de la none la max) se aplică întregii familii GPT-5.6