Temperatūra ir generavimo parametrai
Šiame puslapyje
Pamoka perrašyta 2026 m. lapkričio 3 d. remiantis xAI geriausiomis praktikomis, API nuorodomis („Chat Completions“ ir „Responses“) bei Reasoning vadovu: xAI rekomenduoja nustatyti
temperatureties 0,7, otop_p– ties 0,95 savo modeliams; temperatūros reikšmės virš 1 yra apribojamos iki 1; numatytojitop_preikšmė yra 0,95;max_completion_tokensriboja tik matomą atsakymą (pagal nutylėjimą 128 000 tokenų), oseednegarantuoja determinizmo. Ankstesnė versija rekomendavo temperatūrą iki 2, numatytąjątop_preikšmę 1 ir ribą, apimančią samprotavimus. Šaltiniai: Geriausios praktikos · Pokalbių užbaigimai · Samprotavimai.
Generavimo valdymas parametrais
Be tavo pateikiamo prompto teksto, Grok API priima kelis skaitinius parametrus, darančius įtaką tam, kaip modelis generuoja atsakymą. Su dabartiniais modeliais pagrindinė pamoka yra priešinga intuicijai: šiuos nustatymus naudok itin atsargiai ir atmink, kad atsakymo kokybę lemia ne slankikliai, o pats promptas.

Temperatūra
Temperatūra valdo atsitiktinumo laipsnį renkantis tokenus. API nuorodoje ji apibūdinama klasikiniu būdu: maža reikšmė, pavyzdžiui, 0,2, daro išvestį labiau sutelktą ir deterministinę; didesnė reikšmė, pavyzdžiui, 0,8, – labiau įvairią. Ji priima reikšmes nuo 0 iki 2, tačiau viskas, kas viršija 1, imtinai apdorojama kaip 1.
xAI geriausios praktikos eina dar toliau: nustatyk temperature ties 0,7 ir nuo šios reikšmės labai nenukrypk. Pasak xAI, Grok modeliai prastai reaguoja į kitus imties nustatymus, o kokybė juos keičiant dažniausiai suprastėja.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
"temperature": 0.7,
"top_p": 0.95
}
Jei nori daugiau kūrybiškumo, griežtumo ar glaustumo, naudok patį promptą: aiškiai paprašyk netikėtų pasiūlymų, faktinio tono arba atsakymo trijuose punktuose. Būtent tai nagrinėsime kitose pamokose.
Parametras top_p (branduolio imtis)
Parametras top_p apriboja pasirinkimą tik tais tokenais, kurie sudaro tam tikrą tikimybių masę: esant 0,1, svarstomi tik tie tokenai, kurie reprezentuoja 10 % didžiausios tikimybės. Dabartiniai Grok teksto modeliai turi šią numatytąją 0,95 reikšmę, o reikšmės, viršijančios modelio numatytąją, yra apribojamos iki tos numatytosios reikšmės.
API nuorodoje kartojamas įprastas patarimas keisti arba temperature, arba top_p, bet ne abu vienu metu. Tačiau xAI geriausios praktikos, naujesnės ir specifinės jos modeliams, prašo abu parametrus kiekviename užklausime nustatyti aiškiai – 0,7 ir 0,95, – kad tavo rezultatai nepriklausytų nuo serverio numatytųjų reikšmių ir kad visiems lyginamiems modeliams naudotum tas pačias reikšmes.
max_completion_tokens
Šis parametras riboja tokenų skaičių atsakyme. Jis skirtas valdyti matomos dalies ilgį ir kainą.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Summarize this document in three points"}],
"max_completion_tokens": 500
}
Svarbūs punktai pagal API nuorodą:
- Jis taikomas tik matomiems tokenams: samprotavimai ir funkcijų kvietimai nėra skaičiuojami; samprotavimų pastangos valdo refleksiją
- Nenurodžius reikšmės, pagal nutylėjimą nustatoma 128 000 tokenų; senasis
max_tokensyra pasenęs - Pasiekus ribą, atsakymas nutraukiamas, o
finish_reasontampa"length"vietoj"stop"(Responses API šį ribojimą vadinamax_output_tokensir signalizuojaincompletebūseną)
Parametras seed
Parametras seed prašo, kad sistemos imtis būtų kuo deterministiškesnė: pakartotinės užklausos su tuo pačiu seed ir parametrais turėtų duoti tą patį rezultatą. API nuorodoje nurodoma, kad determinizmas negarantuojamas, ir nukreipiama į system_fingerprint lauką atsakyme, kad būtų galima pastebėti serverio pusės pokyčius.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
seed naudojimo atvejai:
- Testavimas ir derinimas: patikrinti, ar promptas duoda stabilius rezultatus
- Palyginimas: išbandyti skirtingas prompto formuluotes su tuo pačiu seed, norint izoliuoti pokyčio poveikį
- Sekimas: registruoti
seedirsystem_fingerprintsu kiekvienu rezultatu, siekiant paaiškinti variacijas
Parametrai, kurių samprotavimų modeliai nepriima
Dabartiniai Grok modeliai samprotauja: jiems negalima siųsti presence_penalty, frequency_penalty ir stop; užklausa, kurioje jų yra, grąžins klaidą. Tuo tarpu logprobs yra ignoruojamas nuo Grok 4.20 versijos. Jei perkeliate kodą, parašytą kitam tiekėjui, pašalinkite šiuos parametrus.
Rekomenduojami nustatymai
xAI nesiūlo nustatymų rinkinio kiekvienam naudojimui atskirai: jos rekomendacija yra vienoda visur.
{"temperature": 0.7, "top_p": 0.95}
Prireikus pridėk max_completion_tokens, pritaikytą tikėtinam ilgiui, seed savo testams, o naudodamas grok-4.5–4.7 – samprotavimų pastangas (reasoning_effort), pasirinktas pagal užduoties sudėtingumą: būtent tai, o ne temperatūra, lemia greitį, kainą ir gylį.
Praktinė užduotis
Siųsk tą patį promptą tris kartus, nustatęs temperature ties 0,7 ir top_p ties 0,95, o tada tris kartus – prompto versiją, kurioje nurodytas pageidaujamas tonas ir formatas:
Prompt A: "Propose three names for a meditation app"
Prompt B: "Propose three short, evocative, and unexpected names for a meditation app
designed for busy executives. One name per line, no explanation."
Palygink atsakymų įvairovę ir aktualumą: skirtumas kyla iš prompto, o ne iš parametrų.
Svarbiausi punktai
- xAI rekomenduoja nustatyti
temperatureties 0,7, otop_p– ties 0,95, aiškiai nurodant kiekvienoje užklausoje - Viršijus 1, temperatūra apribojama iki 1;
top_pneviršija modelio numatytosios reikšmės (0,95) max_completion_tokensriboja tik matomą atsakymą, pagal nutylėjimą – 128 000 tokenųseedsiekia atkuriamumo be garantijos: stebėksystem_fingerprint- Samprotavimų modeliai nepriima
presence_penalty,frequency_penaltyirstop