Optælling af reasoning-tokens
På denne side
Lektionen er omskrevet den 3. november 2026 baseret på xAI API-referencen (Chat Completions og Responses), Reasoning-guiden og eksemplet Reasoning Effort Evals fra kogebogen: Hos xAI tæller
completion_tokens(elleroutput_tokens) kun det synlige svar, reasoning tælles separat, og totalen lægger alle tre sammen; output-grænsen begrænser ikke reasoning. Den tidligere version påstod det modsatte, brugte felter fra Chat Completions på et Responses API-svar, indstillede effort pågrok-4.20-0309-reasoning, som ikke accepterer det, og viste et skærmbillede, der ikke matchede API’en; disse elementer er rettet eller fjernet. Kilder: Chat Completions · Responses · Reasoning Effort Evals.
Forstå reasoning-tokens
Reasoning-modeller producerer to typer tokens: dem til det synlige svar og dem til modellens interne tankeproces. Det er afgørende at forstå, hvordan xAI tæller dem, hvis du skal styre dine omkostninger og læse dine dashboards korrekt.
Usage-objektet i Chat Completions
Hvert svar indeholder et usage-objekt, der specificerer forbruget. Her er eksemplet fra xAI’s Chat Completions API-reference:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
I dette eksempel:
- prompt_tokens (32): tokens i input-beskeden
- completion_tokens (9): tokens i det synlige svar
- reasoning_tokens (94): tokens brugt til intern reasoning
- total_tokens (135): summen af alle tre, 32 + 9 + 94
Reasoning er derfor ikke inkluderet i completion_tokens: det lægges oveni. Pas på, hvis du kommer fra en anden API, hvor konventionen er anderledes, eller hvis dit dashboard beregner det synlige svar ved subtraktion.
Tilgå reasoning-tokens i kode
I Responses API bærer de samme oplysninger andre navne: input_tokens, output_tokens for det synlige svar og output_tokens_details.reasoning_tokens for reasoning.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Du indstiller effort på grok-4.7, grok-4.6 og grok-4.5; grok-4.20-0309-reasoning ræsonnerer altid uden en effort-parameter.
Fakturering til output-satsen
Reasoning-tokens faktureres til satsen for output-tokens, som eksemplet Reasoning Effort Evals i xAI-kogebogen minder os om. For grok-4.7 til $6 per million output-tokens (prompt under 200.000 tokens) koster hvert reasoning-token det samme som et svar-token.
Effort påvirker derfor regningen, men ikke altid så meget, som du måske tror. I dette samme eksempel, på tværs af tredive korte support-sager håndteret af grok-4.7, brugte medium, high og xhigh efforts omtrent samme mængde reasoning – omkring 600 tokens per svar – mens low brugte omkring 140 og kostede halvt så meget, med scores alle mellem 87 % og 93 %. Mål på dine egne data, før du vælger.
Eksempel på omkostningsberegning
# grok-4.7: $6.00/M output tokens (prompt < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
Rollen for max_completion_tokens
Output-loftet – max_completion_tokens i Chat Completions, max_output_tokens i Responses API – gælder kun for det synlige svar: ifølge API-referencen tæller reasoning-tokens og funktionskald ikke med i denne grænse. Uden en værdi er standarden 128.000 tokens. For at begrænse reasoning skal du indstille effort (lektion 10).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Priser verificeret den 3. november 2026 – priser ændres regelmæssigt: Før enhver budgetberegning skal du tjekke den aktuelle pristabel på den officielle side for xAI-modeller og priser.
Vigtige pointer
- Reasoning-tokens findes i
usage.completion_tokens_details.reasoning_tokens(Chat Completions) ellerusage.output_tokens_details.reasoning_tokens(Responses) - Hos xAI tæller
completion_tokensogoutput_tokenskun det synlige svar; totalen lægger input, svar og reasoning sammen - Reasoning-tokens faktureres til output-satsen
- Output-loftet begrænser kun det synlige svar; effort styrer reasoning
- Omkostningsforskellen mellem efforts afhænger af opgaven: mål den på dine egne data