Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Temperatura i parametri generiranja

Lekcija 3 od 14 Ažurirano 3. studenoga 2026. Početnik
Na ovoj stranici
  1. Upravljanje generiranjem putem parametara
  2. Temperatura
  3. Parametar top_p (uzorkovanje jezgre)
  4. max_completion_tokens
  5. Parametar seed
  6. Parametri koje modeli za rezoniranje odbijaju
  7. Preporučene postavke
  8. Praktična vježba
  9. Ključne točke

Lekcija je ponovno napisana 3. studenoga 2026. na temelju najboljih praksi tvrtke xAI, referentne dokumentacije API-ja (Chat Completions i Responses) te vodiča Reasoning: xAI preporučuje temperature na 0.7 i top_p na 0.95 za svoje modele; temperature iznad 1 se ograničavaju na 1; zadana vrijednost za top_p je 0.95; max_completion_tokens ograničava samo vidljivi odgovor (zadano 128.000 tokena), a seed ne jamči determinizam. Prethodna verzija preporučivala je temperature do 2, zadanu vrijednost top_p od 1 i ograničenje koje uključuje rezoniranje. Izvori: Najbolje prakse · Chat Completions · Reasoning.

Upravljanje generiranjem putem parametara

Osim teksta tvog upita, Grok API prihvaća nekoliko numeričkih parametara koji utječu na način na koji model generira svoj odgovor. Kod trenutnih modela glavna je lekcija kontraintuitivna: s ovim postavkama postupaš izrazito oprezno i pamtiš da upit, daleko više od klizača, određuje kvalitetu odgovora.

Kreativan odgovor dobiven putem upita u aplikaciji Grok

Temperatura

Temperatura kontrolira stupanj nasumičnosti pri odabiru tokena. Referentna dokumentacija API-ja opisuje je klasično: niska vrijednost, poput 0.2, čini izlaz fokusiranijim i determinističkim; viša vrijednost, poput 0.8, čini ga raznolikijim. Prihvaća vrijednosti od 0 do 2, no sve iznad 1 uzorkuje se kao 1.

Najbolje prakse tvrtke xAI idu korak dalje: postavi temperature na 0.7 i ne odstupaj puno od toga. Prema xAI-u, Grok modeli loše reagiraju na druge postavke uzorkovanja, a kvaliteta općenito pada kada ih mijenjaš.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Predloži slogan za organsku pekarnicu"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0.7
Temperatura koju preporučuje xAI
1
Efektivno ograničenje temperature
0.95
Preporučeni i zadani top_p

Da bi dobio više kreativnosti, rigoroznosti ili sažetosti, umjesto toga iskoristi upit: eksplicitno zatraži neočekivane prijedloge, faktografski ton ili odgovor u tri točke. To je fokus sljedećih lekcija.

Parametar top_p (uzorkovanje jezgre)

Parametar top_p ograničava izbor na tokene koji kumuliraju zadanu masu vjerojatnosti: pri 0.1 razmatraju se samo tokeni koji predstavljaju prvih 10% vjerojatnosti. Trenutni Grok tekstualni modeli imaju ovo zadano na 0.95, a vrijednosti iznad zadane vrijednosti modela ograničene su na tu zadanu vrijednost.

Referentna dokumentacija API-ja ponavlja uobičajeni savjet da modificiraš ili temperature ili top_p, ali ne oba. Najnovije i specifične najbolje prakse tvrtke xAI za svoje modele traže da oba postaviš eksplicitno u svakom zahtjevu — 0.7 i 0.95 — kako tvoji rezultati ne bi ovisili o zadanim postavkama poslužitelja i kako bi koristio iste vrijednosti za sve modele koje uspoređuješ.

max_completion_tokens

Ovaj parametar ograničava broj tokena u odgovoru. Služi za kontrolu duljine i troška vidljivog dijela.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Sažmi ovaj dokument u tri točke"}],
  "max_completion_tokens": 500
}

Važne točke, prema referentnoj dokumentaciji API-ja:

  • Primjenjuje se samo na vidljive tokene: rezoniranje i pozivi funkcija se ne broje; napor rezoniranja kontrolira razmišljanje
  • Bez vrijednosti, zadano je 128.000 tokena; stari max_tokens je zastario
  • Ako se dosegne ograničenje, odgovor se prekida, a finish_reason je "length" umjesto "stop" (Responses API ovo ograničenje naziva max_output_tokens i signalizira status incomplete)

Parametar seed

Parametar seed zahtijeva da uzorkovanje sustava bude što determinističkije: ponovljeni zahtjevi s istim seed i parametrima bi trebali dati isti rezultat. Referentna dokumentacija API-ja navodi da determinizam nije zajamčen i upućuje na polje system_fingerprint u odgovoru kako bi se uočile promjene na strani poslužitelja.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Generiraj 5 imena za tehnološki startup"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

Slučajevi upotrebe za seed:

  • Testiranje i otklanjanje pogrešaka: provjeri proizvodi li upit stabilne rezultate
  • Usporedba: testiraj različite formulacije upita s istim seedom kako bi izolirao učinak promjene
  • Praćenje: bilježi seed i system_fingerprint uz svaki rezultat kako bi objasnio varijancu

Parametri koje modeli za rezoniranje odbijaju

Trenutni Grok modeli rezoniraju: presence_penalty, frequency_penalty i stop ne mogu im se poslati, a zahtjev koji ih sadrži vraća pogrešku. logprobs se, s druge strane, ignorira od Groka 4.20. Ako prenosiš kod napisan za drugog pružatelja usluge, ukloni ove parametre.

Preporučene postavke

xAI ne predlaže skup postavki za svaki slučaj upotrebe: njihova je preporuka svugdje ista.

{"temperature": 0.7, "top_p": 0.95}

Po potrebi dodaj max_completion_tokens prilagođen očekivanoj duljini, seed za svoje testove, a na grok-4.5 do 4.7 napor rezoniranja (reasoning_effort) odabran prema težini zadatka: ovo, a ne temperatura, arbitriraju brzinom, troškom i dubinom.

Praktična vježba

Pošalji isti upit tri puta, s temperature na 0.7 i top_p na 0.95, zatim tri puta verziju upita koja specificira očekivani ton i format:

Upit A: "Predloži tri imena za aplikaciju za meditaciju"
Upit B: "Predloži tri kratka, evokativna i neočekivana imena za aplikaciju za meditaciju
namijenjenu zauzetim izvršnim direktorima. Jedno ime po retku, bez objašnjenja."

Usporedi raznolikost i relevantnost odgovora: razlika proizlazi iz upita, a ne iz parametara.

Ključne točke

  • xAI preporučuje temperature na 0.7 i top_p na 0.95, postavljene eksplicitno u svakom zahtjevu
  • Iznad 1, temperatura je ograničena na 1; top_p ne prelazi zadanu vrijednost modela (0.95)
  • max_completion_tokens ograničava samo vidljivi odgovor, zadano 128.000 tokena
  • seed cilja na reproduktivnost bez jamstva: prati system_fingerprint
  • presence_penalty, frequency_penalty i stop modeli za rezoniranje odbijaju