Temperatuur ja genereerimise parameetrid
Sellel lehel
Õppetund kirjutati ümber 3. novembril 2026, tuginedes xAI parimatele tavadele, API dokumentatsioonile (Chat Completions ja Responses) ning Põhjendamise juhendile: xAI soovitab oma mudelite jaoks määrata
temperatureväärtuseks 0.7 jatop_pväärtuseks 0.95; temperatuuri väärtused üle 1 piiratakse väärtusega 1,top_pvaikeväärtus on 0.95,max_completion_tokenspiirab ainult nähtavat vastust (vaikimisi 128 000 tokenit) jaseedei garanteeri determinismi. Eelmine versioon soovitas temperatuuri kuni 2,top_pvaikeväärtuseks 1 ja arvestas piirangut ka põhjendamisega. Allikad: Parimad tavad · Chat Completions · Põhjendamine.
Juhi genereerimist parameetritega
Lisaks sinu sisestatud prompti tekstile aktsepteerib Grok API mitut arvulist parameetrit, mis mõjutavad mudeli vastuse loomist. Praeguste mudelite puhul on peamine õppetund vastuoluline: kasuta neid seadeid äärmise tagasihoidlikkusega ja pea meeles, et vastuse kvaliteedi määrab palju rohkem prompt kui liugurite nihutamine.

Temperatuur
Temperatuur kontrollib tokenite valiku juhuslikkuse astet. API dokumentatsioon kirjeldab seda klassikaliselt: madal väärtus, näiteks 0.2, muudab väljundi fokuseeritumaks ja deterministlikumaks; kõrgem väärtus, näiteks 0.8, muudab selle mitmekesisemaks. See aktsepteerib väärtusi vahemikus 0 kuni 2, kuid kõik, mis on üle 1, proovitakse väärtusega 1.
xAI parimad tavad lähevad kaugemale: määra temperature väärtuseks 0.7 ja ära kõrvale sellest palju. xAI sõnul reageerivad Groki mudelid teistele prooviseadistustele halvasti ja kvaliteet langeb nende muutmisel üldiselt.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Paku välja loosung mahepagariäri jaoks"}],
"temperature": 0.7,
"top_p": 0.95
}
Kui soovid rohkem loovust, rangust või lühidust, kasuta selleks prompti: küsi sõnaselgelt ootamatuid ettepanekuid, faktilist tooni või vastust kolmes punktis. Sellest räägivad järgmised õppetunnid.
Parameeter top_p (tuumaproov)
Parameeter top_p piirab valiku tokenitele, mis moodustavad koos antud tõenäosusmassi: väärtuse 0.1 korral arvestatakse ainult neid tokeneid, mis esindavad ülemist 10% tõenäosusest. Praegustel Groki tekst mudelitel on see vaikimisi 0.95 ja väärtused, mis ületavad mudeli vaikeseadet, piiratakse selle vaikeseadega.
API dokumentatsioon kordab tavalist nõuannet muuta kas temperature või top_p, kuid mitte mõlemat korraga. Uuemad ja spetsiifiliselt xAI mudelitele mõeldud parimad tavad paluvad aga määrata mõlemad iga päringu jaoks sõnaselgelt – 0.7 ja 0.95 –, et sinu tulemused ei sõltuks serveri vaikeseadetest, ning kasutada samu väärtusi kõigi võrreldavate mudelite puhul.
max_completion_tokens
See parameeter piirab vastuses olevate tokenite arvu. See aitab kontrollida nähtava osa pikkust ja kulu.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Võta see dokument kokku kolmes punktis"}],
"max_completion_tokens": 500
}
Olulised punktid vastavalt API dokumentatsioonile:
- See kehtib ainult nähtavate tokenite kohta: põhjendamine ja funktsioonikutsumed ei loe; põhjendamise pingutust kontrollib eraldi seade
- Väärtuse määramisel on vaikeseade 128 000 tokenit; vana
max_tokenson iganenud - Kui piirang saavutatakse, katkestatakse vastus ja
finish_reasonon"length"asemel"stop"(Responses API nimetab seda piirangutmax_output_tokensja annab märku olekustincomplete)
Parameeter seed
Parameeter seed taotleb süsteemi proovivõtu võimalikult deterministlikuks: korduvad päringud sama seed ja parameetritega ** peaksid** andma sama tulemuse. API dokumentatsioon täpsustab, et determinismi ei garanteerita, ja viitab vastuses olevale väljale system_fingerprint, et tuvastada serveripoolseid muutusi.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Genereeri 5 tehnoloogiastardi nime"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
seed kasutusjuhtumid:
- Testimine ja silumine: veendu, et prompt annab stabiilseid tulemusi
- Võrdlus: testi erinevaid prompti formuleeringuid sama seediga, et isoleerida muudatuse mõju
- Jälgimine: logi iga tulemuse juurde
seedjasystem_fingerprint, et selgitada varieeruvust
Parameetrid, mida põhjendavad mudelid tagasi lükkavad
Praegused Groki mudelid põhjendavad oma vastuseid: parameetreid presence_penalty, frequency_penalty ja stop ei saa neile saata ning neid sisaldav päring tagastab vea. logprobs ignoreeritakse alates Grok 4.20 versioonist. Kui portsid koodi, mis on kirjutatud teise teenusepakkuja jaoks, eemalda need parameetrid.
Soovitatud seaded
xAI ei paku kasutusjuhtumite põhiste seadete komplekte: nende soovitus on kõikjal sama.
{"temperature": 0.7, "top_p": 0.95}
Lisa vajadusel oodatavale pikkusele kohandatud max_completion_tokens, oma testide jaoks seed ning Grok 4.5 kuni 4.7 puhul põhjendamise pingutus (reasoning_effort), mis valitakse vastavalt ülesande raskusele: just see, mitte temperatuur, otsustab kiiruse, kulu ja sügavuse üle.
Praktiline harjutus
Saada sama prompt kolm korda, määrates temperature väärtuseks 0.7 ja top_p väärtuseks 0.95, ning seejärel kolm korda prompti versioon, mis täpsustab oodatavat tooni ja formaati:
Prompt A: "Paku välja kolm nime meditatsioonirakendusele"
Prompt B: "Paku välja kolm lühikest, kõnekas ja ootamatut nime meditatsioonirakendusele,
mis on mõeldud hõivatud juhtidele. Üks nimi rea kohta, selgitusi pole."
Võrdle vastuste mitmekesisust ja asjakohasust: erinevus tuleneb promptist, mitte parameetritest.
Peamised punktid
- xAI soovitab määrata
temperatureväärtuseks 0.7 jatop_pväärtuseks 0.95, tehes seda sõnaselgelt iga päringu korral - Temperatuur üle 1 piiratakse väärtusega 1;
top_pei ületa mudeli vaikeseadet (0.95) max_completion_tokenspiirab ainult nähtavat vastust, vaikimisi 128 000 tokenitseedtaotleb korratavust ilma garantiita: jälgisystem_fingerprintväärtust- Põhjendavad mudelid lükkavad tagasi parameetrid
presence_penalty,frequency_penaltyjastop