Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Lämpötila ja generointiparametrit

Oppitunti 3 / 14 Päivitetty 3. marraskuuta 2026 Aloittelija
Tällä sivulla
  1. Generoinnin hallinta parametreilla
  2. Lämpötila (Temperature)
  3. top_p-parametri (ydinnäytteenotto)
  4. max_completion_tokens
  5. seed-parametri
  6. Parametrit, jotka päättelymallit hylkäävät
  7. Suositellut asetukset
  8. Käytännön harjoitus
  9. Keskeiset asiat

Oppitunti kirjoitettu uudelleen 3. marraskuuta 2026 xAI:n parhaiden käytäntöjen, API-viitteen (Chat Completions ja Responses) sekä Reasoning-oppaan perusteella: xAI suosittelee malleilleen temperature-arvoksi 0.7 ja top_p-arvoksi 0.95; yli 1 olevat lämpötilat rajataan arvoon 1, top_p:n oletusarvo on 0.95, max_completion_tokens rajoittaa vain näkyvää vastausta (oletuksena 128 000 tokenia), eikä seed takaa determinismiä. Edellinen versio suositteli lämpötiloja aina arvoon 2 saakka, top_p:n oletusarvoksi 1:tä ja rajoitusta, joka sisälsi päättelyn. Lähteet: Parhaat käytännöt · Chat Completions · Reasoning.

Generoinnin hallinta parametreilla

Pelkän kehotustekstin lisäksi Grok-API hyväksyy useita numeerisia parametreja, jotka vaikuttavat siihen, miten malli tuottaa vastauksensa. Nykyisten mallien kohdalla tärkein oppitunti on vastaintuitiivinen: käsittele näitä asetuksia huomattavalla pidättyvyydellä ja muista, että kehotus ohjaa vastauksen laatua paljon enemmän kuin liukusäätimet.

Kehotuksen avulla saatu luova vastaus Grok-sovelluksessa

Lämpötila (Temperature)

Lämpötila säätelee tokenien valinnan satunnaisuusastetta. API-viite kuvailee sen klassisesti: alhainen arvo, kuten 0.2, tekee tulosteesta keskittyneemmän ja deterministisemmän; korkeampi arvo, kuten 0.8, tekee siitä vaihtelevamman. Se hyväksyy arvoja välillä 0–2, mutta kaikki yli 1 olevat arvot näytetään arvolla 1.

xAI:n parhaat käytännöt menevät pidemmälle: aseta temperature arvoksi 0.7 äläkä poikkea siitä juurikaan. xAI:n mukaan Grok-mallit reagoivat huonosti muihin näytteenottoasetuksiin, ja laatu yleensä heikkenee, kun niitä muokataan.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0.7
xAI:n suosittelema lämpötila
1
Tehollinen lämpötilan yläraja
0.95
Suositeltu ja oletusarvoinen top_p

Jos haluat enemmän luovuutta, tarkkuutta tai tiiviyttä, käytä sen sijaan kehotusta: pyydä nimenomaisesti odottamattomia ehdotuksia, faktapohjaista sävyä tai vastausta kolmena luettelokohtana. Tämä on seuraavien oppituntien aihe.

top_p-parametri (ydinnäytteenotto)

top_p-parametri rajoittaa valinnan tokeneihin, jotka kerryttävät tietyn todennäköisyysmassan: arvolla 0.1 huomioon otetaan vain tokenit, jotka edustavat 10 %:n suurimpia todennäköisyyksiä. Nykyisillä Grok-tekstimalleilla tämän oletusarvo on 0.95, ja mallin oletusarvon ylittävät arvot rajataan kyseiseen oletusarvoon.

API-viite toistaa tavanomaisen neuvon muokata joko temperature- tai top_p-parametria, mutta ei molempia. Uudemmat ja nimenomaan sen malleille tarkoitetut xAI:n parhaat käytännöt kehottavat sen sijaan asettamaan molemmat eksplisiittisesti jokaisessa pyynnössä – 0.7 ja 0.95 – jotta tuloksesi eivät riipu palvelimen oletusarvoista, ja käyttämään samoja arvoja kaikille vertaamillesi malleille.

max_completion_tokens

Tämä parametri rajoittaa vastauksen tokenien määrää. Sitä käytetään näkyvän osan pituuden ja kustannusten hallintaan.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Summarize this document in three points"}],
  "max_completion_tokens": 500
}

Tärkeät kohdat API-viitteen mukaan:

  • Se koskee vain näkyviä tokeneita: päättely ja funktiokutsut eivät lasketa mukaan; päättelypyrkimys (reasoning_effort) ohjaa pohdintaa
  • Ilman arvoa sen oletusarvo on 128 000 tokenia; vanha max_tokens on vanhentunut
  • Jos raja saavutetaan, vastaus katkaistaan ja finish_reason on "length" eikä "stop" (Responses API nimeää tämän rajan max_output_tokens:ksi ja ilmoittaa tilaksi incomplete)

seed-parametri

seed-parametri pyytää järjestelmän näytteenottoa olemaan mahdollisimman deterministinen: toistetut pyynnöt samalla seed:llä ja parametreilla pitäisi tuottaa sama tulos. API-viite täsmentää, ettei determinismiä taata, ja viittaa vastauksen system_fingerprint-kenttään palvelinpuolen muutosten havaitsemiseksi.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

Käyttökohteet seedille:

  • Testaus ja vianetsintä: varmista, että kehotus tuottaa vakaita tuloksia
  • Vertailu: testaa erilaisia kehotusformulointeja samalla seedillä eristääksesi muutoksen vaikutuksen
  • Seuranta: kirjaa seed ja system_fingerprint jokaisen tuloksen yhteyteen varianssin selittämiseksi

Parametrit, jotka päättelymallit hylkäävät

Nykyiset Grok-mallit käyttävät päättelyä: presence_penalty, frequency_penalty ja stop ei voi lähettää niille, ja nämä sisältävä pyyntö palauttaa virheen. logprobs puolestaan jätetään huomiotta Grok 4.20:sta alkaen. Jos siirrät koodia, joka on kirjoitettu toiselle tarjoajalle, poista nämä parametrit.

Suositellut asetukset

xAI ei ehdota asetusjoukkoja käyttötarkoituksen mukaan: sen suositus on sama kaikkialla.

{"temperature": 0.7, "top_p": 0.95}

Lisää tarvittaessa odotettuun pituuteen sopiva max_completion_tokens, testeissäsi seed ja malleissa grok-4.5–4.7 tehtävän vaikeusasteen mukaan valittu päättelypyrkimys (reasoning_effort): tämä, ei lämpötila, määrittää nopeuden, kustannukset ja syvyyden.

Käytännön harjoitus

Lähetä sama kehotus kolme kertaa asettaen temperature arvoksi 0.7 ja top_p arvoksi 0.95, ja sen jälkeen kolme kertaa kehotusversio, jossa määritellään odotettu sävy ja muoto:

Kehotus A: "Ehdota kolme nimeä meditaatiosovellukselle"
Kehotus B: "Ehdota kolme lyhyttä, tunnelmallista ja odottamatonta nimeä kiireisille
johtajille suunnitellulle meditaatiosovellukselle. Yksi nimi per rivi, ei selityksiä."

Vertaa vastausten vaihtelevuutta ja osuvuutta: ero johtuu kehotuksesta, ei parametreista.

Keskeiset asiat

  • xAI suosittelee temperature-arvoksi 0.7 ja top_p-arvoksi 0.95, asetettuna eksplisiittisesti jokaisessa pyynnössä
  • Yli 1 oleva lämpötila rajataan arvoon 1; top_p ei ylitä mallin oletusarvoa (0.95)
  • max_completion_tokens rajoittaa vain näkyvää vastausta, oletuksena 128 000 tokenia
  • seed pyrkii toistettavuuteen ilman takuuta: seuraa system_fingerprint-arvoa
  • Päättelymallit hylkäävät parametrit presence_penalty, frequency_penalty ja stop