Lämpötila ja generointiparametrit
Tällä sivulla
Oppitunti kirjoitettu uudelleen 3. marraskuuta 2026 xAI:n parhaiden käytäntöjen, API-viitteen (Chat Completions ja Responses) sekä Reasoning-oppaan perusteella: xAI suosittelee malleilleen
temperature-arvoksi 0.7 jatop_p-arvoksi 0.95; yli 1 olevat lämpötilat rajataan arvoon 1,top_p:n oletusarvo on 0.95,max_completion_tokensrajoittaa vain näkyvää vastausta (oletuksena 128 000 tokenia), eikäseedtakaa determinismiä. Edellinen versio suositteli lämpötiloja aina arvoon 2 saakka,top_p:n oletusarvoksi 1:tä ja rajoitusta, joka sisälsi päättelyn. Lähteet: Parhaat käytännöt · Chat Completions · Reasoning.
Generoinnin hallinta parametreilla
Pelkän kehotustekstin lisäksi Grok-API hyväksyy useita numeerisia parametreja, jotka vaikuttavat siihen, miten malli tuottaa vastauksensa. Nykyisten mallien kohdalla tärkein oppitunti on vastaintuitiivinen: käsittele näitä asetuksia huomattavalla pidättyvyydellä ja muista, että kehotus ohjaa vastauksen laatua paljon enemmän kuin liukusäätimet.

Lämpötila (Temperature)
Lämpötila säätelee tokenien valinnan satunnaisuusastetta. API-viite kuvailee sen klassisesti: alhainen arvo, kuten 0.2, tekee tulosteesta keskittyneemmän ja deterministisemmän; korkeampi arvo, kuten 0.8, tekee siitä vaihtelevamman. Se hyväksyy arvoja välillä 0–2, mutta kaikki yli 1 olevat arvot näytetään arvolla 1.
xAI:n parhaat käytännöt menevät pidemmälle: aseta temperature arvoksi 0.7 äläkä poikkea siitä juurikaan. xAI:n mukaan Grok-mallit reagoivat huonosti muihin näytteenottoasetuksiin, ja laatu yleensä heikkenee, kun niitä muokataan.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
"temperature": 0.7,
"top_p": 0.95
}
Jos haluat enemmän luovuutta, tarkkuutta tai tiiviyttä, käytä sen sijaan kehotusta: pyydä nimenomaisesti odottamattomia ehdotuksia, faktapohjaista sävyä tai vastausta kolmena luettelokohtana. Tämä on seuraavien oppituntien aihe.
top_p-parametri (ydinnäytteenotto)
top_p-parametri rajoittaa valinnan tokeneihin, jotka kerryttävät tietyn todennäköisyysmassan: arvolla 0.1 huomioon otetaan vain tokenit, jotka edustavat 10 %:n suurimpia todennäköisyyksiä. Nykyisillä Grok-tekstimalleilla tämän oletusarvo on 0.95, ja mallin oletusarvon ylittävät arvot rajataan kyseiseen oletusarvoon.
API-viite toistaa tavanomaisen neuvon muokata joko temperature- tai top_p-parametria, mutta ei molempia. Uudemmat ja nimenomaan sen malleille tarkoitetut xAI:n parhaat käytännöt kehottavat sen sijaan asettamaan molemmat eksplisiittisesti jokaisessa pyynnössä – 0.7 ja 0.95 – jotta tuloksesi eivät riipu palvelimen oletusarvoista, ja käyttämään samoja arvoja kaikille vertaamillesi malleille.
max_completion_tokens
Tämä parametri rajoittaa vastauksen tokenien määrää. Sitä käytetään näkyvän osan pituuden ja kustannusten hallintaan.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Summarize this document in three points"}],
"max_completion_tokens": 500
}
Tärkeät kohdat API-viitteen mukaan:
- Se koskee vain näkyviä tokeneita: päättely ja funktiokutsut eivät lasketa mukaan; päättelypyrkimys (
reasoning_effort) ohjaa pohdintaa - Ilman arvoa sen oletusarvo on 128 000 tokenia; vanha
max_tokenson vanhentunut - Jos raja saavutetaan, vastaus katkaistaan ja
finish_reasonon"length"eikä"stop"(Responses API nimeää tämän rajanmax_output_tokens:ksi ja ilmoittaa tilaksiincomplete)
seed-parametri
seed-parametri pyytää järjestelmän näytteenottoa olemaan mahdollisimman deterministinen: toistetut pyynnöt samalla seed:llä ja parametreilla pitäisi tuottaa sama tulos. API-viite täsmentää, ettei determinismiä taata, ja viittaa vastauksen system_fingerprint-kenttään palvelinpuolen muutosten havaitsemiseksi.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
Käyttökohteet seedille:
- Testaus ja vianetsintä: varmista, että kehotus tuottaa vakaita tuloksia
- Vertailu: testaa erilaisia kehotusformulointeja samalla seedillä eristääksesi muutoksen vaikutuksen
- Seuranta: kirjaa
seedjasystem_fingerprintjokaisen tuloksen yhteyteen varianssin selittämiseksi
Parametrit, jotka päättelymallit hylkäävät
Nykyiset Grok-mallit käyttävät päättelyä: presence_penalty, frequency_penalty ja stop ei voi lähettää niille, ja nämä sisältävä pyyntö palauttaa virheen. logprobs puolestaan jätetään huomiotta Grok 4.20:sta alkaen. Jos siirrät koodia, joka on kirjoitettu toiselle tarjoajalle, poista nämä parametrit.
Suositellut asetukset
xAI ei ehdota asetusjoukkoja käyttötarkoituksen mukaan: sen suositus on sama kaikkialla.
{"temperature": 0.7, "top_p": 0.95}
Lisää tarvittaessa odotettuun pituuteen sopiva max_completion_tokens, testeissäsi seed ja malleissa grok-4.5–4.7 tehtävän vaikeusasteen mukaan valittu päättelypyrkimys (reasoning_effort): tämä, ei lämpötila, määrittää nopeuden, kustannukset ja syvyyden.
Käytännön harjoitus
Lähetä sama kehotus kolme kertaa asettaen temperature arvoksi 0.7 ja top_p arvoksi 0.95, ja sen jälkeen kolme kertaa kehotusversio, jossa määritellään odotettu sävy ja muoto:
Kehotus A: "Ehdota kolme nimeä meditaatiosovellukselle"
Kehotus B: "Ehdota kolme lyhyttä, tunnelmallista ja odottamatonta nimeä kiireisille
johtajille suunnitellulle meditaatiosovellukselle. Yksi nimi per rivi, ei selityksiä."
Vertaa vastausten vaihtelevuutta ja osuvuutta: ero johtuu kehotuksesta, ei parametreista.
Keskeiset asiat
- xAI suosittelee
temperature-arvoksi 0.7 jatop_p-arvoksi 0.95, asetettuna eksplisiittisesti jokaisessa pyynnössä - Yli 1 oleva lämpötila rajataan arvoon 1;
top_pei ylitä mallin oletusarvoa (0.95) max_completion_tokensrajoittaa vain näkyvää vastausta, oletuksena 128 000 tokeniaseedpyrkii toistettavuuteen ilman takuuta: seuraasystem_fingerprint-arvoa- Päättelymallit hylkäävät parametrit
presence_penalty,frequency_penaltyjastop