Päättelypanostus: Matala, Keskitaso ja Korkea
Tällä sivulla
Päivitetty 3. marraskuuta 2026 xAI:n API-oppaan perusteella:
max_completion_tokensrajoittaa vain näkyvää vastausta; päättelytokenit eivät lasketa tähän raja-arvoon, ja panostus ohjaa niiden määrää. Lähde: Chat Completions. 3. marraskuuta lisätty: Oppitunti linkitti aiemmin panostuksen API:hin (Chat Completions tai Responses) ja sovelsi sitä malliingrok-4.20-0309-reasoning, joka ei tue sitä; xAI:n Reasoning-sivun mukaan se riippuu mallista (grok-4.7,grok-4.6,grok-4.5,grok-4.20-multi-agent). Esimerkissä luki myösusage.completion_tokens, jota ei ole Responses API:n vastauksissa (output_tokens,output_tokens_details.reasoning_tokens). Lähde: Reasoning.
Päättelysyvyyden hallinta
Päättelypanostuksen avulla voit säätää, kuinka paljon malli käyttää aikaa ajatteluun ennen vastaamista. Se on suora vipu laadun, nopeuden ja tokenkulutuksen tasapainottamiseen.
Malli määrittää saatavuuden, ei API. xAI:n dokumentaation mukaan:
| Malli | Panostus | Arvot |
|---|---|---|
grok-4.7, grok-4.6 | Päättelysyvyys | low, medium, high (oletus), xhigh |
grok-4.5 | Päättelysyvyys | low, medium, high (oletus); xhigh käsitellään kuin high |
grok-4.20-multi-agent | Käyttöön otettujen agenttien määrä (4 tai 16), ei syvyys | low, medium, high, xhigh |
grok-4.20-0309-reasoning | Ei konfiguroitavissa: malli päättelee aina | — |
Näissä malleissa päättelyä ei voi ottaa pois käytöstä: ilman määritystä panostus on oletuksena high. Vain parametrin nimi muuttuu APIsta riippuen: reasoning_effort ylemmällä tasolla Chat Completionsissa, reasoning.effort reasoning-objektin sisällä Responses APIssa.
{
"model": "grok-4.7",
"input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
"reasoning": {
"effort": "medium"
}
}
Panostustasot
Dokumentaatio kuvaa kunkin tason ja sen sopivan käyttötarkoituksen:
low: Käyttää jonkin verran päättelyä pysyen nopeana. Sopii viiveherkkiin agenttikäyttötapauksiin ja yksinkertaisiin työkalukutsuihin.medium: Enemmän pohdintaa sovelluksiin, joissa viive ei ole kriittinen. Sopii monimutkaiseen data-analyysiin ja pitkien kontekstien päättelyyn.high(oletus): Paljon enemmän päättelytokeneita. Sopii erittäin vaikeisiin ongelmiin, monimutkaiseen matematiikkaan ja monivaiheiseen logiikkaan.xhigh: Maksimisyvyys vastaavaa viivettä vastaan. Sopii vaikeimpiin ongelmiin, kun laatu on tärkeämpää kuin vasteaika.
xAI:n parhaat käytännöt lisäävät yksinkertaisen säännön: aseta panostus eksplisiittisesti jokaiseen pyyntöön ja kirjaa se jokaisen tuloksen yhteyteen, jotta mittauksesi pysyvät vertailukelpoisina.
Päättelymallit hylkäävät myös kolme parametria: presence_penalty, frequency_penalty ja stop aiheuttavat pyynnön epäonnistumisen.
Vaikutus tokeneihin
Panostustasolla on suora vaikutus päättelytokenien kulutukseen:
low: Vähän päättelytokeneita, nopea vaste, alhainen kustannusmedium: Kohtuullinen kulutus, hyvä kompromissihighjaxhigh: Paljon päättelytokeneita, hitaampi vaste, korkea kustannus
Nämä päättelytokenit laskutetaan output-tokeneina (katso oppitunti 8). Output-katto (max_completion_tokens Chat Completionsissa, max_output_tokens Responses APIssa) rajoittaa vain näkyvää vastausta: päättelyä ei lasketa siihen, joten panostus ohjaa niiden määrää.
Oikean tason valinta
| Tehtävä | Suositeltu panostus |
|---|---|
| Tekstin luokittelu | low |
| Yhteenveto analyysillä | medium |
| Strukturoitu entiteettien poiminta | low |
| Yhtälöiden ratkaisu | high |
| Koodivirheen analyysi | high |
| Tekstin uudelleenmuotoilu | low |
| Vaihtoehtojen vertailu hyvät/huonot puolet | medium |
| Matemaattinen todistus | high |
Käytännön esimerkki: Sama kysymys, kolme panostusta
for effort in ["low", "medium", "high"]:
response = client.responses.create(
model="grok-4.7",
input="Explain why 0.1 + 0.2 != 0.3 in computing.",
reasoning={"effort": effort},
)
usage = response.usage
print(f"Effort {effort}: {usage.output_tokens} output tokens, "
f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")
Ero tasojen välillä riippuu kysymyksestä: mittaa se omilla tapauksillasi äläkä luota yleiseen suhteeseen, ja kirjaa panostus jokaisen tuloksen yhteyteen.
Keskeiset asiat
- Panostus riippuu mallista:
low,medium,high(oletus) jaxhighmalleissagrok-4.7jagrok-4.6, ilmanxhighmallissagrok-4.5;grok-4.20-0309-reasoningei tue sitä reasoning_effortChat Completionsissa,reasoning.effortResponses APIssa; päättelyä ei voi ottaa pois käytöstä- Panostustaso vaikuttaa suoraan päättelytokenien määrään ja siten kustannuksiin
- Ilman määritystä panostus on oletuksena
high: aseta se eksplisiittisesti jokaiseen pyyntöön, kuten xAI suosittelee - Sovita panostus tehtävän todelliseen monimutkaisuuteen kustannusten optimoimiseksi