Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Optælling af reasoning-tokens

Lektion 8 af 12 Opdateret 3. november 2026 Udvikler
På denne side
  1. Forstå reasoning-tokens
  2. Usage-objektet i Chat Completions
  3. Tilgå reasoning-tokens i kode
  4. Fakturering til output-satsen
  5. Rollen for max_completion_tokens
  6. Vigtige pointer

Lektionen er omskrevet den 3. november 2026 baseret på xAI API-referencen (Chat Completions og Responses), Reasoning-guiden og eksemplet Reasoning Effort Evals fra kogebogen: Hos xAI tæller completion_tokens (eller output_tokens) kun det synlige svar, reasoning tælles separat, og totalen lægger alle tre sammen; output-grænsen begrænser ikke reasoning. Den tidligere version påstod det modsatte, brugte felter fra Chat Completions på et Responses API-svar, indstillede effort på grok-4.20-0309-reasoning, som ikke accepterer det, og viste et skærmbillede, der ikke matchede API’en; disse elementer er rettet eller fjernet. Kilder: Chat Completions · Responses · Reasoning Effort Evals.

Forstå reasoning-tokens

Reasoning-modeller producerer to typer tokens: dem til det synlige svar og dem til modellens interne tankeproces. Det er afgørende at forstå, hvordan xAI tæller dem, hvis du skal styre dine omkostninger og læse dine dashboards korrekt.

Output
Faktureres til output-satsen
usage
Detaljeret sporingsobjekt
Separat
Reasoning tælles uden for svaret
Effort
Reguleringen af reasoning

Usage-objektet i Chat Completions

Hvert svar indeholder et usage-objekt, der specificerer forbruget. Her er eksemplet fra xAI’s Chat Completions API-reference:

{
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 9,
    "total_tokens": 135,
    "completion_tokens_details": {
      "reasoning_tokens": 94
    }
  }
}

I dette eksempel:

  • prompt_tokens (32): tokens i input-beskeden
  • completion_tokens (9): tokens i det synlige svar
  • reasoning_tokens (94): tokens brugt til intern reasoning
  • total_tokens (135): summen af alle tre, 32 + 9 + 94

Reasoning er derfor ikke inkluderet i completion_tokens: det lægges oveni. Pas på, hvis du kommer fra en anden API, hvor konventionen er anderledes, eller hvis dit dashboard beregner det synlige svar ved subtraktion.

Tilgå reasoning-tokens i kode

I Responses API bærer de samme oplysninger andre navne: input_tokens, output_tokens for det synlige svar og output_tokens_details.reasoning_tokens for reasoning.

response = client.responses.create(
    model="grok-4.7",
    input="Solve the integral of x^2 * e^x dx.",
    reasoning={"effort": "high"},
)

visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning

print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")

Du indstiller effort på grok-4.7, grok-4.6 og grok-4.5; grok-4.20-0309-reasoning ræsonnerer altid uden en effort-parameter.

Fakturering til output-satsen

Reasoning-tokens faktureres til satsen for output-tokens, som eksemplet Reasoning Effort Evals i xAI-kogebogen minder os om. For grok-4.7 til $6 per million output-tokens (prompt under 200.000 tokens) koster hvert reasoning-token det samme som et svar-token.

Effort påvirker derfor regningen, men ikke altid så meget, som du måske tror. I dette samme eksempel, på tværs af tredive korte support-sager håndteret af grok-4.7, brugte medium, high og xhigh efforts omtrent samme mængde reasoning – omkring 600 tokens per svar – mens low brugte omkring 140 og kostede halvt så meget, med scores alle mellem 87 % og 93 %. Mål på dine egne data, før du vælger.

Eksempel på omkostningsberegning

# grok-4.7: $6.00/M output tokens (prompt < 200k)
cost_per_token = 6.00 / 1_000_000

reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response  # 950

cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}")  # $0.0057

Rollen for max_completion_tokens

Output-loftet – max_completion_tokens i Chat Completions, max_output_tokens i Responses API – gælder kun for det synlige svar: ifølge API-referencen tæller reasoning-tokens og funktionskald ikke med i denne grænse. Uden en værdi er standarden 128.000 tokens. For at begrænse reasoning skal du indstille effort (lektion 10).

{
  "model": "grok-4.7",
  "messages": [
    {"role": "user", "content": "Explain special relativity."}
  ],
  "reasoning_effort": "medium",
  "max_completion_tokens": 2000
}

Priser verificeret den 3. november 2026 – priser ændres regelmæssigt: Før enhver budgetberegning skal du tjekke den aktuelle pristabel på den officielle side for xAI-modeller og priser.

Vigtige pointer

  • Reasoning-tokens findes i usage.completion_tokens_details.reasoning_tokens (Chat Completions) eller usage.output_tokens_details.reasoning_tokens (Responses)
  • Hos xAI tæller completion_tokens og output_tokens kun det synlige svar; totalen lægger input, svar og reasoning sammen
  • Reasoning-tokens faktureres til output-satsen
  • Output-loftet begrænser kun det synlige svar; effort styrer reasoning
  • Omkostningsforskellen mellem efforts afhænger af opgaven: mål den på dine egne data