Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Temperatura, top_p i parametri generiranja

Lekcija 2 od 16 Ažurirano 3. studenoga 2026. Programer
Na ovoj stranici
  1. Temperatura, top_p i parametri generiranja
  2. Kako model bira sljedeći token
  3. Temperatura
  4. Top_p (uzorkovanje jezgre)
  5. Ostali važni parametri
  6. Sam promatraj varijacije
  7. Ključne točke

Ažurirano 3. studenoga 2026. na temelju OpenAI dokumentacije: temperature i top_p prihvaćeni su samo uz napor razmišljanja (reasoning effort) od none, dok modeli GPT-5.6 prema zadanim postavkama razmišljaju (medium). Pozivi koji postavljaju ove parametre stoga moraju specificirati reasoning={"effort": "none"} (Responses API) ili reasoning_effort="none" (Chat Completions). Izvori: Korištenje GPT-6 · GPT-5.6 Terra.

Temperatura, top_p i parametri generiranja

Kada pošalješ upit jezičnom modelu, generirani tekst prema zadanim postavkama nije deterministički: dva strogo identična poziva mogu vratiti dva različita odgovora. Parametri generiranja omogućuju ti kontrolu stupnja kreativnosti ili rigoroznosti tih odgovora. Savladavanje ovih parametara služi dvama konkretnim ciljevima: dobivanju rezultata prilagođenih svakom slučaju uporabe i znaju gdje gledati kada skup testova integracije počne padati jedan od tri puta bez očiglednog objašnjenja.

Kako model bira sljedeći token

U svakom koraku generiranja model izračunava distribuciju vjerojatnosti nad cijelim svojim rječnikom, a zatim uzorkuje sljedeći token iz te distribucije. „Najbolja“ riječ ne iskače mehanički; radi se o izvlačenju. Parametri generiranja interveniraju prije uzorkovanja, ili stežući distribuciju oko najvjerojatnijih kandidata ili je izravnavajući kako bi se pružila prilika i onima s ruba. Dva poziva u nastavku ilustriraju ekstreme ove potrebe: slogan za pekarnicu vrijedi samo ako iznenadi, dok sintaksa list comprehensiona u Pythonu nikada ne smije iznenaditi.

from openai import OpenAI

client = OpenAI()

# Kreativni odgovor (visoka temperatura)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Faktualni odgovor (niska temperatura)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Temperatura

Temperatura je multiplikativni faktor primijenjen na logite prije softmaxa. Pri vrijednosti 0, distribucija se steže do te mjere da model uvijek odabire najvjerojatniji token: ponašanje postaje kvazi-determinističko, što je točno ono što želiš od ekstraktora podataka koji se ponovno pokreće u jediničnom testu. Između 0,1 i 0,3 odgovori ostaju vrlo dosljedni od poziva do poziva: to je područje koda i faktualnih odgovora. Raspon od 0,7 do 0,9 balansira kreativnost i dosljednost, što odgovara općem pisanju. Iznad toga, između 1,0 i 1,5, izlazi postaju raznoliki i ponekad zbunjujući – željeni učinak za oluju ideja (brainstorming), ali kobna mana svugdje drugdje.

Tablica u nastavku okuplja postavke koje dobro funkcioniraju za najčešće slučajeve uporabe. Tretiraj je kao polazište koje trebaš validirati na vlastitim upitima: jako ograničen upit tolerira višu temperaturu nego što bi mogao pomisliti, dok se labav upit brže rasprši.

Slučaj uporabe Temperatura top_p
Generiranje koda 0,0 – 0,2 1,0
Ekstrakcija podataka 0,0 1,0
Profesionalno pisanje 0,5 – 0,7 0,9
Oluja ideja (Brainstorming) 1,0 – 1,3 0,95
Kreativno pisanje 1,0 – 1,5 0,9

Top_p (uzorkovanje jezgre)

Parametar top_p djeluje na istu distribuciju, ali kroz potpuno drugačiji mehanizam: filtrira tokene na temelju njihove kumulativne vjerojatnosti. S top_p=0.9, model razmatra samo one tokene čija kumulativna vjerojatnost doseže 90 %, jednostavno uklanjajući dugi rep nevjerojatnih izbora. Dok temperatura iskrivljuje vjerojatnosti svih kandidata, top_p skraćuje popis dopuštenih kandidata.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

To vodi do praktičnog pravila koje nećeš požaliti primijeniti: nemoj istovremeno dirati temperaturu i top_p. Budući da oba djeluju na isti mehanizam, ne bi mogao pripisati opaženi učinak jednom ili drugom, a tvoje postavke postale bi stvar praznovjerja. Prilagodi jedan parametar, ostavljajući drugi na njegovoj zadanoj vrijednosti; OpenAI preporučuje početak s temperaturom.

Ostali važni parametri

max_output_tokens ograničava duljinu odgovora u tokenima. To je tvoja zaštita i za troškove i za beskonačne odgovore, posebno korisna kada izlaz mora stati u ograničeno polje sučelja: odgovor uokviren tijekom generiranja bolji je od odsijecanja na strani prikaza.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

Od verzije GPT-5.6, razmišljanje više nije zaseban model: to je postavka koja kontrolira vrijeme refleksije u cijeloj obitelji modela.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Razina low brzo odgovara na jednostavna pitanja, medium predstavlja pošten kompromis za većinu zadataka, a high uključuje duboko razmišljanje koje treba rezervirati za doista teške probleme. Gornja diferencijalna jednadžba to zaslužuje; preformuliranje rečenice dobrodošlice ne – plaćao bi vrijeme razmišljanja za zadatak koji ga ne zahtijeva.

Sam promatraj varijacije

Ništa ne može zamijeniti viđenje ovih postavki na djelu. Napiši Python skriptu koja šalje isti upit modelu GPT-5.6 Terra s pet vrijednosti temperature (0, 0,3, 0,7, 1,0 i 1,3) i prikazuje pet izlaza jedan do drugoga. Odaberi iskreno kreativnu instrukciju, na primjer: „Izmisli ime za startup umjetne inteligencije“: gotovo doslovno ponavljanje pri 0 i raspršenost pri 1,3 postat će nemoguće za previdjeti, a ovo vizualno sjećanje poslužit će kao referentna točka puno dulje od tablice vrijednosti.

Ključne točke

  • Temperatura kontrolira širenje distribucije vjerojatnosti
  • top_p filtrira tokene prema kumulativnoj vjerojatnosti
  • Nikada nemoj istovremeno mijenjati oba parametra
  • Niska temperatura za faktualne zadatke, visoka za kreativne
  • Postavka razmišljanja (od none do max) primjenjuje se na cijelu obitelj GPT-5.6