Reasoning-tokenien laskeminen
Tällä sivulla
Oppitunti kirjoitettu uudelleen 3. marraskuuta 2026 xAI:n API-oppaan (Chat Completions ja Responses), Reasoning-oppaan sekä keittokirjan Reasoning Effort Evals -esimerkin perusteella: xAI:ssa
completion_tokens(taioutput_tokens) laskee vain näkyvän vastauksen, päättely lasketaan erikseen, ja kokonaismäärä on kaikkien kolmen summa; tulostusrajoitus ei rajoita päättelyä. Edellinen versio väitti päinvastaista, käytti Chat Completions -kenttiä Responses API:n vastauksessa, asetti effort-parametrin mallillegrok-4.20-0309-reasoning, joka ei hyväksy sitä, ja näytti kuvakaappauksen, joka ei vastannut APIa; nämä kohdat on korjattu tai poistettu. Lähteet: Chat Completions · Responses · Reasoning Effort Evals.
Ymmärrä reasoning-tokenit
Reasoning-mallit tuottavat kahta erityyppistä tokenia: niitä, jotka muodostavat näkyvän vastauksen, ja niitä, jotka kuuluvat mallin sisäiseen ajatteluprosessiin. On välttämätöntä ymmärtää, miten xAI laskee nämä tokenit, jotta hallitset kustannuksiasi ja tulkitset mittaristoja oikein.
usage-objekti Chat Completionsissa
Jokainen vastaus sisältää usage-objektin, joka erittelee kulutuksen. Tässä on esimerkki xAI:n Chat Completions API -oppaasta:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
Tässä esimerkissä:
- prompt_tokens (32): syöteviestin tokenit
- completion_tokens (9): näkyvän vastauksen tokenit
- reasoning_tokens (94): sisäiseen päättelyyn käytetyt tokenit
- total_tokens (135): kaikkien kolmen summa, 32 + 9 + 94
Päättelyä ei siis sisällytetä completion_tokens-lukuun: se lisätään siihen. Ole tarkkana, jos tulet toisesta APIsta, jossa käytäntö on erilainen, tai jos mittaristosi laskee näkyvän vastauksen vähennyslaskulla.
Reasoning-tokenien käyttö koodissa
Responses API:ssa samat tiedot kulkevat eri nimillä: input_tokens ja output_tokens näkyvälle vastaukselle sekä output_tokens_details.reasoning_tokens päättelylle.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Voit asettaa effort-parametrin malleille grok-4.7, grok-4.6 ja grok-4.5; malli grok-4.20-0309-reasoning päättelee aina, eikä siinä ole effort-parametria.
Laskutus output-hinnan mukaan
Reasoning-tokenit laskutetaan output-tokenien hinnalla, kuten xAI:n keittokirjan Reasoning Effort Evals -esimerkki muistuttaa. Mallille grok-4.7 hinta on 6 dollaria miljoonaa output-tokenia kohden (kun prompt on alle 200 000 tokenia), jolloin jokainen reasoning-token maksaa saman verran kuin vastaus-token.
Effort vaikuttaa siis laskuun, mutta ei aina niin paljon kuin voisit kuvitella. Samassa esimerkissä kolmekymmentä lyhyttä tukipyyntöä, joita grok-4.7 käsitteli effort-tasoilla medium, high ja xhigh, kuluttivat suunnilleen saman verran reasoning-tokeneja – noin 600 tokenia vastausta kohden – kun taas low kulutti noin 140 tokenia ja maksoi puolet vähemmän, vaikka tulospisteet olivat kaikissa tapauksissa 87–93 % välillä. Mittaa vaikutus omalla datallasi ennen valintaa.
Kustannuslaskennan esimerkki
# grok-4.7: 6,00 $/M output-tokenia (prompt < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
max_completion_tokensin rooli
Tulostusrajoitus – max_completion_tokens Chat Completionsissa ja max_output_tokens Responses API:ssa – koskee vain näkyvää vastausta: API-oppaan mukaan reasoning-tokenit ja funktiokutsut eivät vaikuta tähän raja-arvoon. Ilman määritettyä arvoa oletus on 128 000 tokenia. Jos haluat rajoittaa päättelyä, sinun on asetettava effort (katso oppitunti 10).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Hinnoittelu tarkistettu 3. marraskuuta 2026 – hinnat muuttuvat säännöllisesti: ennen budjetin laskemista tarkista nykyinen hinnasto xAI:n viralliselta mallit ja hinnoittelu -sivulta.
Keskeiset asiat
- Reasoning-tokenit löytyvät kohdasta
usage.completion_tokens_details.reasoning_tokens(Chat Completions) taiusage.output_tokens_details.reasoning_tokens(Responses) - xAI:ssa
completion_tokensjaoutput_tokenslaskevat vain näkyvän vastauksen; kokonaismäärä on syötteen, vastauksen ja päättelyn summa - Reasoning-tokenit laskutetaan output-hinnan mukaan
- Tulostusrajoitus koskee vain näkyvää vastausta; effort ohjaa päättelyä
- Kustannusero effort-tasojen välillä riippuu tehtävästä: mittaa se omalla datallasi