Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Reasoning-tokenien laskeminen

Oppitunti 8 / 12 Päivitetty 3. marraskuuta 2026 Kehittäjä
Tällä sivulla
  1. Ymmärrä reasoning-tokenit
  2. usage-objekti Chat Completionsissa
  3. Reasoning-tokenien käyttö koodissa
  4. Laskutus output-hinnan mukaan
  5. max_completion_tokensin rooli
  6. Keskeiset asiat

Oppitunti kirjoitettu uudelleen 3. marraskuuta 2026 xAI:n API-oppaan (Chat Completions ja Responses), Reasoning-oppaan sekä keittokirjan Reasoning Effort Evals -esimerkin perusteella: xAI:ssa completion_tokens (tai output_tokens) laskee vain näkyvän vastauksen, päättely lasketaan erikseen, ja kokonaismäärä on kaikkien kolmen summa; tulostusrajoitus ei rajoita päättelyä. Edellinen versio väitti päinvastaista, käytti Chat Completions -kenttiä Responses API:n vastauksessa, asetti effort-parametrin mallille grok-4.20-0309-reasoning, joka ei hyväksy sitä, ja näytti kuvakaappauksen, joka ei vastannut APIa; nämä kohdat on korjattu tai poistettu. Lähteet: Chat Completions · Responses · Reasoning Effort Evals.

Ymmärrä reasoning-tokenit

Reasoning-mallit tuottavat kahta erityyppistä tokenia: niitä, jotka muodostavat näkyvän vastauksen, ja niitä, jotka kuuluvat mallin sisäiseen ajatteluprosessiin. On välttämätöntä ymmärtää, miten xAI laskee nämä tokenit, jotta hallitset kustannuksiasi ja tulkitset mittaristoja oikein.

Output
Billed at the output rate
usage
Detailed tracking object
Separate
Reasoning counted outside response
Effort
The lever on reasoning

usage-objekti Chat Completionsissa

Jokainen vastaus sisältää usage-objektin, joka erittelee kulutuksen. Tässä on esimerkki xAI:n Chat Completions API -oppaasta:

{
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 9,
    "total_tokens": 135,
    "completion_tokens_details": {
      "reasoning_tokens": 94
    }
  }
}

Tässä esimerkissä:

  • prompt_tokens (32): syöteviestin tokenit
  • completion_tokens (9): näkyvän vastauksen tokenit
  • reasoning_tokens (94): sisäiseen päättelyyn käytetyt tokenit
  • total_tokens (135): kaikkien kolmen summa, 32 + 9 + 94

Päättelyä ei siis sisällytetä completion_tokens-lukuun: se lisätään siihen. Ole tarkkana, jos tulet toisesta APIsta, jossa käytäntö on erilainen, tai jos mittaristosi laskee näkyvän vastauksen vähennyslaskulla.

Reasoning-tokenien käyttö koodissa

Responses API:ssa samat tiedot kulkevat eri nimillä: input_tokens ja output_tokens näkyvälle vastaukselle sekä output_tokens_details.reasoning_tokens päättelylle.

response = client.responses.create(
    model="grok-4.7",
    input="Solve the integral of x^2 * e^x dx.",
    reasoning={"effort": "high"},
)

visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning

print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")

Voit asettaa effort-parametrin malleille grok-4.7, grok-4.6 ja grok-4.5; malli grok-4.20-0309-reasoning päättelee aina, eikä siinä ole effort-parametria.

Laskutus output-hinnan mukaan

Reasoning-tokenit laskutetaan output-tokenien hinnalla, kuten xAI:n keittokirjan Reasoning Effort Evals -esimerkki muistuttaa. Mallille grok-4.7 hinta on 6 dollaria miljoonaa output-tokenia kohden (kun prompt on alle 200 000 tokenia), jolloin jokainen reasoning-token maksaa saman verran kuin vastaus-token.

Effort vaikuttaa siis laskuun, mutta ei aina niin paljon kuin voisit kuvitella. Samassa esimerkissä kolmekymmentä lyhyttä tukipyyntöä, joita grok-4.7 käsitteli effort-tasoilla medium, high ja xhigh, kuluttivat suunnilleen saman verran reasoning-tokeneja – noin 600 tokenia vastausta kohden – kun taas low kulutti noin 140 tokenia ja maksoi puolet vähemmän, vaikka tulospisteet olivat kaikissa tapauksissa 87–93 % välillä. Mittaa vaikutus omalla datallasi ennen valintaa.

Kustannuslaskennan esimerkki

# grok-4.7: 6,00 $/M output-tokenia (prompt < 200k)
cost_per_token = 6.00 / 1_000_000

reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response  # 950

cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}")  # $0.0057

max_completion_tokensin rooli

Tulostusrajoitus – max_completion_tokens Chat Completionsissa ja max_output_tokens Responses API:ssa – koskee vain näkyvää vastausta: API-oppaan mukaan reasoning-tokenit ja funktiokutsut eivät vaikuta tähän raja-arvoon. Ilman määritettyä arvoa oletus on 128 000 tokenia. Jos haluat rajoittaa päättelyä, sinun on asetettava effort (katso oppitunti 10).

{
  "model": "grok-4.7",
  "messages": [
    {"role": "user", "content": "Explain special relativity."}
  ],
  "reasoning_effort": "medium",
  "max_completion_tokens": 2000
}

Hinnoittelu tarkistettu 3. marraskuuta 2026 – hinnat muuttuvat säännöllisesti: ennen budjetin laskemista tarkista nykyinen hinnasto xAI:n viralliselta mallit ja hinnoittelu -sivulta.

Keskeiset asiat

  • Reasoning-tokenit löytyvät kohdasta usage.completion_tokens_details.reasoning_tokens (Chat Completions) tai usage.output_tokens_details.reasoning_tokens (Responses)
  • xAI:ssa completion_tokens ja output_tokens laskevat vain näkyvän vastauksen; kokonaismäärä on syötteen, vastauksen ja päättelyn summa
  • Reasoning-tokenit laskutetaan output-hinnan mukaan
  • Tulostusrajoitus koskee vain näkyvää vastausta; effort ohjaa päättelyä
  • Kustannusero effort-tasojen välillä riippuu tehtävästä: mittaa se omalla datallasi