Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Temperatuur ja genereerimise parameetrid

Õppetund 3 / 14 Värskendatud 3. november 2026 Algajatele
Sellel lehel
  1. Juhi genereerimist parameetritega
  2. Temperatuur
  3. Parameeter top_p (tuumaproov)
  4. max_completion_tokens
  5. Parameeter seed
  6. Parameetrid, mida põhjendavad mudelid tagasi lükkavad
  7. Soovitatud seaded
  8. Praktiline harjutus
  9. Peamised punktid

Õppetund kirjutati ümber 3. novembril 2026, tuginedes xAI parimatele tavadele, API dokumentatsioonile (Chat Completions ja Responses) ning Põhjendamise juhendile: xAI soovitab oma mudelite jaoks määrata temperature väärtuseks 0.7 ja top_p väärtuseks 0.95; temperatuuri väärtused üle 1 piiratakse väärtusega 1, top_p vaikeväärtus on 0.95, max_completion_tokens piirab ainult nähtavat vastust (vaikimisi 128 000 tokenit) ja seed ei garanteeri determinismi. Eelmine versioon soovitas temperatuuri kuni 2, top_p vaikeväärtuseks 1 ja arvestas piirangut ka põhjendamisega. Allikad: Parimad tavad · Chat Completions · Põhjendamine.

Juhi genereerimist parameetritega

Lisaks sinu sisestatud prompti tekstile aktsepteerib Grok API mitut arvulist parameetrit, mis mõjutavad mudeli vastuse loomist. Praeguste mudelite puhul on peamine õppetund vastuoluline: kasuta neid seadeid äärmise tagasihoidlikkusega ja pea meeles, et vastuse kvaliteedi määrab palju rohkem prompt kui liugurite nihutamine.

Loominguline vastus, mis saadi prompti abil Groki rakenduses

Temperatuur

Temperatuur kontrollib tokenite valiku juhuslikkuse astet. API dokumentatsioon kirjeldab seda klassikaliselt: madal väärtus, näiteks 0.2, muudab väljundi fokuseeritumaks ja deterministlikumaks; kõrgem väärtus, näiteks 0.8, muudab selle mitmekesisemaks. See aktsepteerib väärtusi vahemikus 0 kuni 2, kuid kõik, mis on üle 1, proovitakse väärtusega 1.

xAI parimad tavad lähevad kaugemale: määra temperature väärtuseks 0.7 ja ära kõrvale sellest palju. xAI sõnul reageerivad Groki mudelid teistele prooviseadistustele halvasti ja kvaliteet langeb nende muutmisel üldiselt.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Paku välja loosung mahepagariäri jaoks"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0.7
xAI soovitatav temperatuur
1
Tegelik temperatuuri ülempiir
0.95
Soovitatav ja vaikimisi top_p

Kui soovid rohkem loovust, rangust või lühidust, kasuta selleks prompti: küsi sõnaselgelt ootamatuid ettepanekuid, faktilist tooni või vastust kolmes punktis. Sellest räägivad järgmised õppetunnid.

Parameeter top_p (tuumaproov)

Parameeter top_p piirab valiku tokenitele, mis moodustavad koos antud tõenäosusmassi: väärtuse 0.1 korral arvestatakse ainult neid tokeneid, mis esindavad ülemist 10% tõenäosusest. Praegustel Groki tekst mudelitel on see vaikimisi 0.95 ja väärtused, mis ületavad mudeli vaikeseadet, piiratakse selle vaikeseadega.

API dokumentatsioon kordab tavalist nõuannet muuta kas temperature või top_p, kuid mitte mõlemat korraga. Uuemad ja spetsiifiliselt xAI mudelitele mõeldud parimad tavad paluvad aga määrata mõlemad iga päringu jaoks sõnaselgelt – 0.7 ja 0.95 –, et sinu tulemused ei sõltuks serveri vaikeseadetest, ning kasutada samu väärtusi kõigi võrreldavate mudelite puhul.

max_completion_tokens

See parameeter piirab vastuses olevate tokenite arvu. See aitab kontrollida nähtava osa pikkust ja kulu.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Võta see dokument kokku kolmes punktis"}],
  "max_completion_tokens": 500
}

Olulised punktid vastavalt API dokumentatsioonile:

  • See kehtib ainult nähtavate tokenite kohta: põhjendamine ja funktsioonikutsumed ei loe; põhjendamise pingutust kontrollib eraldi seade
  • Väärtuse määramisel on vaikeseade 128 000 tokenit; vana max_tokens on iganenud
  • Kui piirang saavutatakse, katkestatakse vastus ja finish_reason on "length" asemel "stop" (Responses API nimetab seda piirangut max_output_tokens ja annab märku olekust incomplete)

Parameeter seed

Parameeter seed taotleb süsteemi proovivõtu võimalikult deterministlikuks: korduvad päringud sama seed ja parameetritega ** peaksid** andma sama tulemuse. API dokumentatsioon täpsustab, et determinismi ei garanteerita, ja viitab vastuses olevale väljale system_fingerprint, et tuvastada serveripoolseid muutusi.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Genereeri 5 tehnoloogiastardi nime"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

seed kasutusjuhtumid:

  • Testimine ja silumine: veendu, et prompt annab stabiilseid tulemusi
  • Võrdlus: testi erinevaid prompti formuleeringuid sama seediga, et isoleerida muudatuse mõju
  • Jälgimine: logi iga tulemuse juurde seed ja system_fingerprint, et selgitada varieeruvust

Parameetrid, mida põhjendavad mudelid tagasi lükkavad

Praegused Groki mudelid põhjendavad oma vastuseid: parameetreid presence_penalty, frequency_penalty ja stop ei saa neile saata ning neid sisaldav päring tagastab vea. logprobs ignoreeritakse alates Grok 4.20 versioonist. Kui portsid koodi, mis on kirjutatud teise teenusepakkuja jaoks, eemalda need parameetrid.

Soovitatud seaded

xAI ei paku kasutusjuhtumite põhiste seadete komplekte: nende soovitus on kõikjal sama.

{"temperature": 0.7, "top_p": 0.95}

Lisa vajadusel oodatavale pikkusele kohandatud max_completion_tokens, oma testide jaoks seed ning Grok 4.5 kuni 4.7 puhul põhjendamise pingutus (reasoning_effort), mis valitakse vastavalt ülesande raskusele: just see, mitte temperatuur, otsustab kiiruse, kulu ja sügavuse üle.

Praktiline harjutus

Saada sama prompt kolm korda, määrates temperature väärtuseks 0.7 ja top_p väärtuseks 0.95, ning seejärel kolm korda prompti versioon, mis täpsustab oodatavat tooni ja formaati:

Prompt A: "Paku välja kolm nime meditatsioonirakendusele"
Prompt B: "Paku välja kolm lühikest, kõnekas ja ootamatut nime meditatsioonirakendusele,
mis on mõeldud hõivatud juhtidele. Üks nimi rea kohta, selgitusi pole."

Võrdle vastuste mitmekesisust ja asjakohasust: erinevus tuleneb promptist, mitte parameetritest.

Peamised punktid

  • xAI soovitab määrata temperature väärtuseks 0.7 ja top_p väärtuseks 0.95, tehes seda sõnaselgelt iga päringu korral
  • Temperatuur üle 1 piiratakse väärtusega 1; top_p ei ületa mudeli vaikeseadet (0.95)
  • max_completion_tokens piirab ainult nähtavat vastust, vaikimisi 128 000 tokenit
  • seed taotleb korratavust ilma garantiita: jälgi system_fingerprint väärtust
  • Põhjendavad mudelid lükkavad tagasi parameetrid presence_penalty, frequency_penalty ja stop