Temperatura i parametri generiranja
Na ovoj stranici
Lekcija je ponovno napisana 3. studenoga 2026. na temelju najboljih praksi tvrtke xAI, referentne dokumentacije API-ja (Chat Completions i Responses) te vodiča Reasoning: xAI preporučuje
temperaturena 0.7 itop_pna 0.95 za svoje modele; temperature iznad 1 se ograničavaju na 1; zadana vrijednost zatop_pje 0.95;max_completion_tokensograničava samo vidljivi odgovor (zadano 128.000 tokena), aseedne jamči determinizam. Prethodna verzija preporučivala je temperature do 2, zadanu vrijednosttop_pod 1 i ograničenje koje uključuje rezoniranje. Izvori: Najbolje prakse · Chat Completions · Reasoning.
Upravljanje generiranjem putem parametara
Osim teksta tvog upita, Grok API prihvaća nekoliko numeričkih parametara koji utječu na način na koji model generira svoj odgovor. Kod trenutnih modela glavna je lekcija kontraintuitivna: s ovim postavkama postupaš izrazito oprezno i pamtiš da upit, daleko više od klizača, određuje kvalitetu odgovora.

Temperatura
Temperatura kontrolira stupanj nasumičnosti pri odabiru tokena. Referentna dokumentacija API-ja opisuje je klasično: niska vrijednost, poput 0.2, čini izlaz fokusiranijim i determinističkim; viša vrijednost, poput 0.8, čini ga raznolikijim. Prihvaća vrijednosti od 0 do 2, no sve iznad 1 uzorkuje se kao 1.
Najbolje prakse tvrtke xAI idu korak dalje: postavi temperature na 0.7 i ne odstupaj puno od toga. Prema xAI-u, Grok modeli loše reagiraju na druge postavke uzorkovanja, a kvaliteta općenito pada kada ih mijenjaš.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Predloži slogan za organsku pekarnicu"}],
"temperature": 0.7,
"top_p": 0.95
}
Da bi dobio više kreativnosti, rigoroznosti ili sažetosti, umjesto toga iskoristi upit: eksplicitno zatraži neočekivane prijedloge, faktografski ton ili odgovor u tri točke. To je fokus sljedećih lekcija.
Parametar top_p (uzorkovanje jezgre)
Parametar top_p ograničava izbor na tokene koji kumuliraju zadanu masu vjerojatnosti: pri 0.1 razmatraju se samo tokeni koji predstavljaju prvih 10% vjerojatnosti. Trenutni Grok tekstualni modeli imaju ovo zadano na 0.95, a vrijednosti iznad zadane vrijednosti modela ograničene su na tu zadanu vrijednost.
Referentna dokumentacija API-ja ponavlja uobičajeni savjet da modificiraš ili temperature ili top_p, ali ne oba. Najnovije i specifične najbolje prakse tvrtke xAI za svoje modele traže da oba postaviš eksplicitno u svakom zahtjevu — 0.7 i 0.95 — kako tvoji rezultati ne bi ovisili o zadanim postavkama poslužitelja i kako bi koristio iste vrijednosti za sve modele koje uspoređuješ.
max_completion_tokens
Ovaj parametar ograničava broj tokena u odgovoru. Služi za kontrolu duljine i troška vidljivog dijela.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Sažmi ovaj dokument u tri točke"}],
"max_completion_tokens": 500
}
Važne točke, prema referentnoj dokumentaciji API-ja:
- Primjenjuje se samo na vidljive tokene: rezoniranje i pozivi funkcija se ne broje; napor rezoniranja kontrolira razmišljanje
- Bez vrijednosti, zadano je 128.000 tokena; stari
max_tokensje zastario - Ako se dosegne ograničenje, odgovor se prekida, a
finish_reasonje"length"umjesto"stop"(Responses API ovo ograničenje nazivamax_output_tokensi signalizira statusincomplete)
Parametar seed
Parametar seed zahtijeva da uzorkovanje sustava bude što determinističkije: ponovljeni zahtjevi s istim seed i parametrima bi trebali dati isti rezultat. Referentna dokumentacija API-ja navodi da determinizam nije zajamčen i upućuje na polje system_fingerprint u odgovoru kako bi se uočile promjene na strani poslužitelja.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Generiraj 5 imena za tehnološki startup"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
Slučajevi upotrebe za seed:
- Testiranje i otklanjanje pogrešaka: provjeri proizvodi li upit stabilne rezultate
- Usporedba: testiraj različite formulacije upita s istim seedom kako bi izolirao učinak promjene
- Praćenje: bilježi
seedisystem_fingerprintuz svaki rezultat kako bi objasnio varijancu
Parametri koje modeli za rezoniranje odbijaju
Trenutni Grok modeli rezoniraju: presence_penalty, frequency_penalty i stop ne mogu im se poslati, a zahtjev koji ih sadrži vraća pogrešku. logprobs se, s druge strane, ignorira od Groka 4.20. Ako prenosiš kod napisan za drugog pružatelja usluge, ukloni ove parametre.
Preporučene postavke
xAI ne predlaže skup postavki za svaki slučaj upotrebe: njihova je preporuka svugdje ista.
{"temperature": 0.7, "top_p": 0.95}
Po potrebi dodaj max_completion_tokens prilagođen očekivanoj duljini, seed za svoje testove, a na grok-4.5 do 4.7 napor rezoniranja (reasoning_effort) odabran prema težini zadatka: ovo, a ne temperatura, arbitriraju brzinom, troškom i dubinom.
Praktična vježba
Pošalji isti upit tri puta, s temperature na 0.7 i top_p na 0.95, zatim tri puta verziju upita koja specificira očekivani ton i format:
Upit A: "Predloži tri imena za aplikaciju za meditaciju"
Upit B: "Predloži tri kratka, evokativna i neočekivana imena za aplikaciju za meditaciju
namijenjenu zauzetim izvršnim direktorima. Jedno ime po retku, bez objašnjenja."
Usporedi raznolikost i relevantnost odgovora: razlika proizlazi iz upita, a ne iz parametara.
Ključne točke
- xAI preporučuje
temperaturena 0.7 itop_pna 0.95, postavljene eksplicitno u svakom zahtjevu - Iznad 1, temperatura je ograničena na 1;
top_pne prelazi zadanu vrijednost modela (0.95) max_completion_tokensograničava samo vidljivi odgovor, zadano 128.000 tokenaseedcilja na reproduktivnost bez jamstva: pratisystem_fingerprintpresence_penalty,frequency_penaltyistopmodeli za rezoniranje odbijaju