Päättely vs. ei-päättely
Tällä sivulla
Päivitetty 3. marraskuuta 2026 xAI:n API-oppaan ja Reasoning-oppaan perusteella:
max_completion_tokensrajoittaa vain näkyvää vastausta, ei päättelyä;logprobsjätetään huomiotta Grok 4.20:sta alkaen; säädettävä päättely koskee malleja grok-4.5, 4.6 ja 4.7. Lähteet: Chat Completions · Reasoning.
Kaksi perustavanlaatuista lähestymistapaa
Grok-mallisto tarjoaa kaksi lähestymistapaa päättelyyn: grok-4.20 on saatavilla kahtena erillisenä muunnelmana – päättelyyn kykenevänä ja ei-päättelynä – kun taas grok-4.5, grok-4.6 ja grok-4.7 yhdistävät nämä säädettäväksi päättelyksi ponnistusparametrin (effort) avulla, jota ei voi ottaa kokonaan pois käytöstä. Tämä valinta ei ole kosmeettinen; se muuttaa mallin käyttäytymistä, ominaisuuksia, kustannuksia ja API-rajoituksia perustavanlaatuisesti. Oikean muunnelman valinta kuhunkin tehtävään on keskeinen taito.
Miten päättely toimii
Kun käytät päättelyyn kykenevää muunnelmaa, malli käy läpi sisäisen ajatteluprosessin ennen vastauksen tuottamista. Se purkaa ongelman osiin, tutkii erilaisia lähestymistapoja, varmistaa logiikkansa ja rakentaa vastauksen askel askeleelta.
xAI:ssa tämä päättely on “salattu” Grok 4 -malleissa ja niitä uudemmissa: et voi lukea välivaiheita selväkielisenä tekstinä. Voit kuitenkin:
- Noutaa salatun sisällön parametrilla
include=["reasoning.encrypted_content"]syöttääksesi sen uudelleen myöhempiin pyyntöihin - Tarkistaa päättelyyn käytettyjen tokenien määrän kohdasta
usage.completion_tokens_details.reasoning_tokens
Päättely kuluttaa lisätokeneita, jotka laskutetaan ulostulon hinnalla. Päättelypyyntö on siis kalliimpi kuin identtinen ei-päättelypyyntö; ero riippuu tehtävästä ja ponnistuksesta, joten mittaa se omalla datallasi.
Päättelytilassa kielletyt parametrit
Tämä on yleinen sudenkuoppa migraation aikana. Päättelymuunnelmat eivät tue tiettyjä parametreja, jotka ovat yleisiä ei-päättelytilassa:
| Parametri | Ei-päättely | Päättely |
|---|---|---|
| presencePenalty | Tuettu | Kielletty (virhe) |
| frequencyPenalty | Tuettu | Kielletty (virhe) |
| stop | Tuettu | Kielletty (virhe) |
| logprobs | Jätetään huomiotta Grok 4.20:sta alkaen | Jätetään huomiotta |
| max_completion_tokens | Tuettu | Tuettu (vain näkyvä vastaus) |
Jos välität parametrit presencePenalty, frequencyPenalty tai stop päättelymuunnelmalle, API palauttaa virheen. Muista poistaa nämä parametrit pyynnöistäsi, kun siirryt käyttämään päättelyä.
Milloin käyttää päättelyä
Päättely tuo selkeää lisäarvoa tietyissä tehtäväluokissa:
- Matematiikka ja formaali logiikka – yhtälöiden ratkaisu, todistukset, optimointi
- Monimutkainen koodianalyysi – vianetsintä riippuvuuksien kanssa, tietoturva-auditoinnit
- Monivaiheiset kysymykset – ongelmat, jotka vaativat päättelyn rakentamista useassa vaiheessa
- Hienovaraiset päätökset – hyötyjen ja haittojen arviointi, perusteellinen vertailuanalyysi
- Kvantitatiivinen asiantuntemus – tilastotiede, rahoitusmallinnus, data-analyysi
Milloin käyttää ei-päättelyä
Ei-päättely on suositeltavaa, kun tehtävä ei vaadi syvällistä pohdintaa:
- Kirjoittaminen ja tiivistäminen – mallin ei tarvitse “ajatella” kirjoittaakseen
- Luokittelu ja tagitus – nopea sisällön kategorisointi
- Tiedon ekstraktio – datan jäsentäminen raakatekstistä
- Kääntäminen – malli osaa kääntää ilman eksplisiittistä päättelyä
- Yksinkertainen keskustelu – chatbotit, usein kysytyt kysymykset, ensimmäisen tason tuki
- Sisällöntuotanto – sähköpostit, kuvaukset, markkinointitekstit
Reititysstrategia
Tuotantoympäristössä optimaalinen strategia on reitittää pyynnöt dynaamisesti oikealle muunnelmalle:
- Analysoi pyyntö – liittyykö siihen laskentaa, analyysiä vai yksinkertaista käsittelyä?
- Oletusreititys ei-päättelyyn – se on nopeampi ja edullisempi
- Vaihda päättelyyn, kun pyyntö vaatii monivaiheista päättelyä
- Seuraa tuloksia – säädä reityskriteerejä havaitun laadun perusteella
Tämä lähestymistapa mahdollistaa päättelyvoiman hyödyntämisen silloin, kun sitä tarvitaan, ilman ylimääräisiä kustannuksia, kun se on tarpeetonta.
max_completion_tokens-parametrin erityistapaus
xAI:n API-oppaan mukaan max_completion_tokens koskee vain näkyvää vastausta: päättelytokenit ja funktiokutsut eivät sisälly tähän raja-arvoon, ja oletusarvo on 128 000 tokenia. Aseta tämä rajoitus odotetun vastauksen pituuden perusteella ja säädä päättelyä ponnistusparametrilla (reasoning_effort) malleissa grok-4.5, 4.6 ja 4.7.
Keskeiset asiat
- Päättelymuunnelmat lisäävät sisäisen ajatteluvaiheen ennen vastaamista
- Päättely on salattua (ei näy selväkielisenä); grok-4.7 kuitenkin paljastaa yhteenvedon, jonka voi tarkistaa suoratoistona
- Parametrit
presencePenalty,frequencyPenaltyjastopovat kiellettyjä päättelytilassa - Päättely maksaa 2–5 kertaa enemmän kuin ei-päättely
- Käytä päättelyä matematiikkaan, logiikkaan ja monivaiheisiin ongelmiin
- Käytä ei-päättelyä kirjoittamiseen, luokitteluun ja tiedon ekstraktioon