Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Päättelypanostus: Matala, Keskitaso ja Korkea

Oppitunti 4 / 12 Päivitetty 3. marraskuuta 2026 Kehittäjä
Tällä sivulla
  1. Päättelysyvyyden hallinta
  2. Panostustasot
  3. Vaikutus tokeneihin
  4. Oikean tason valinta
  5. Käytännön esimerkki: Sama kysymys, kolme panostusta
  6. Keskeiset asiat

Päivitetty 3. marraskuuta 2026 xAI:n API-oppaan perusteella: max_completion_tokens rajoittaa vain näkyvää vastausta; päättelytokenit eivät lasketa tähän raja-arvoon, ja panostus ohjaa niiden määrää. Lähde: Chat Completions. 3. marraskuuta lisätty: Oppitunti linkitti aiemmin panostuksen API:hin (Chat Completions tai Responses) ja sovelsi sitä malliin grok-4.20-0309-reasoning, joka ei tue sitä; xAI:n Reasoning-sivun mukaan se riippuu mallista (grok-4.7, grok-4.6, grok-4.5, grok-4.20-multi-agent). Esimerkissä luki myös usage.completion_tokens, jota ei ole Responses API:n vastauksissa (output_tokens, output_tokens_details.reasoning_tokens). Lähde: Reasoning.

Päättelysyvyyden hallinta

Päättelypanostuksen avulla voit säätää, kuinka paljon malli käyttää aikaa ajatteluun ennen vastaamista. Se on suora vipu laadun, nopeuden ja tokenkulutuksen tasapainottamiseen.

Malli määrittää saatavuuden, ei API. xAI:n dokumentaation mukaan:

MalliPanostusArvot
grok-4.7, grok-4.6Päättelysyvyyslow, medium, high (oletus), xhigh
grok-4.5Päättelysyvyyslow, medium, high (oletus); xhigh käsitellään kuin high
grok-4.20-multi-agentKäyttöön otettujen agenttien määrä (4 tai 16), ei syvyyslow, medium, high, xhigh
grok-4.20-0309-reasoningEi konfiguroitavissa: malli päättelee aina—

Näissä malleissa päättelyä ei voi ottaa pois käytöstä: ilman määritystä panostus on oletuksena high. Vain parametrin nimi muuttuu APIsta riippuen: reasoning_effort ylemmällä tasolla Chat Completionsissa, reasoning.effort reasoning-objektin sisällä Responses APIssa.

{
  "model": "grok-4.7",
  "input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
  "reasoning": {
    "effort": "medium"
  }
}

Panostustasot

Dokumentaatio kuvaa kunkin tason ja sen sopivan käyttötarkoituksen:

  • low: Käyttää jonkin verran päättelyä pysyen nopeana. Sopii viiveherkkiin agenttikäyttötapauksiin ja yksinkertaisiin työkalukutsuihin.
  • medium: Enemmän pohdintaa sovelluksiin, joissa viive ei ole kriittinen. Sopii monimutkaiseen data-analyysiin ja pitkien kontekstien päättelyyn.
  • high (oletus): Paljon enemmän päättelytokeneita. Sopii erittäin vaikeisiin ongelmiin, monimutkaiseen matematiikkaan ja monivaiheiseen logiikkaan.
  • xhigh: Maksimisyvyys vastaavaa viivettä vastaan. Sopii vaikeimpiin ongelmiin, kun laatu on tärkeämpää kuin vasteaika.

xAI:n parhaat käytännöt lisäävät yksinkertaisen säännön: aseta panostus eksplisiittisesti jokaiseen pyyntöön ja kirjaa se jokaisen tuloksen yhteyteen, jotta mittauksesi pysyvät vertailukelpoisina.

Päättelymallit hylkäävät myös kolme parametria: presence_penalty, frequency_penalty ja stop aiheuttavat pyynnön epäonnistumisen.

Vaikutus tokeneihin

Panostustasolla on suora vaikutus päättelytokenien kulutukseen:

  • low: Vähän päättelytokeneita, nopea vaste, alhainen kustannus
  • medium: Kohtuullinen kulutus, hyvä kompromissi
  • high ja xhigh: Paljon päättelytokeneita, hitaampi vaste, korkea kustannus

Nämä päättelytokenit laskutetaan output-tokeneina (katso oppitunti 8). Output-katto (max_completion_tokens Chat Completionsissa, max_output_tokens Responses APIssa) rajoittaa vain näkyvää vastausta: päättelyä ei lasketa siihen, joten panostus ohjaa niiden määrää.

Oikean tason valinta

TehtäväSuositeltu panostus
Tekstin luokittelulow
Yhteenveto analyysillämedium
Strukturoitu entiteettien poimintalow
Yhtälöiden ratkaisuhigh
Koodivirheen analyysihigh
Tekstin uudelleenmuotoilulow
Vaihtoehtojen vertailu hyvät/huonot puoletmedium
Matemaattinen todistushigh

Käytännön esimerkki: Sama kysymys, kolme panostusta

for effort in ["low", "medium", "high"]:
    response = client.responses.create(
        model="grok-4.7",
        input="Explain why 0.1 + 0.2 != 0.3 in computing.",
        reasoning={"effort": effort},
    )
    usage = response.usage
    print(f"Effort {effort}: {usage.output_tokens} output tokens, "
          f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")

Ero tasojen välillä riippuu kysymyksestä: mittaa se omilla tapauksillasi äläkä luota yleiseen suhteeseen, ja kirjaa panostus jokaisen tuloksen yhteyteen.

Keskeiset asiat

  • Panostus riippuu mallista: low, medium, high (oletus) ja xhigh malleissa grok-4.7 ja grok-4.6, ilman xhigh mallissa grok-4.5; grok-4.20-0309-reasoning ei tue sitä
  • reasoning_effort Chat Completionsissa, reasoning.effort Responses APIssa; päättelyä ei voi ottaa pois käytöstä
  • Panostustaso vaikuttaa suoraan päättelytokenien määrään ja siten kustannuksiin
  • Ilman määritystä panostus on oletuksena high: aseta se eksplisiittisesti jokaiseen pyyntöön, kuten xAI suosittelee
  • Sovita panostus tehtävän todelliseen monimutkaisuuteen kustannusten optimoimiseksi