Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Štetje žetonov za sklepanje

Lekcija 8 od 12 Posodobljeno 3. november 2026 Razvijalec
Na tej strani
  1. Razumevanje žetonov za sklepanje
  2. Objekt uporabe v Chat Completions
  3. Dostop do žetonov za sklepanje v kodi
  4. Obračunavanje po tarifi za izhod
  5. Vloga max_completion_tokens
  6. Ključne ugotovitve

Lekcija ponovno napisana 3. novembra 2026 na podlagi referenčne dokumentacije API xAI (Chat Completions in Responses), vodnika Reasoning in primera Reasoning Effort Evals iz kuharice: pri xAI completion_tokens (ali output_tokens) šteje le vidni odgovor, sklepanje se šteje ločeno, vsota pa zajema vse tri; omejitev izhoda ne omejuje sklepanja. Prejšnja različica je trdila nasprotno, uporabljala polja Chat Completions za odgovor API Responses, nastavljala napor na grok-4.20-0309-reasoning, ki tega ne sprejme, in prikazovala posnetek zaslona, ki se ni ujemal z API; ti elementi so popravljeni ali odstranjeni. Viri: Chat Completions · Responses · Reasoning Effort Evals.

Razumevanje žetonov za sklepanje

Modeli za sklepanje ustvarjajo dve vrsti žetonov: tiste za vidni odgovor in tiste za notranji miselni proces modela. Razumevanje načina, kako jih xAI šteje, je ključno za obvladovanje stroškov in pravilno branje nadzornih plošč.

Izhod
Obračunano po tarifi za izhod
uporaba
Podroben objekt za sledenje
Ločeno
Sklepanje šteto zunaj odgovora
Napor
Vzvod za sklepanje

Objekt uporabe v Chat Completions

Vsak odgovor vključuje objekt usage, ki podrobno opisuje porabo. Tukaj je primer iz referenčne dokumentacije API xAI Chat Completions:

{
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 9,
    "total_tokens": 135,
    "completion_tokens_details": {
      "reasoning_tokens": 94
    }
  }
}

V tem primeru:

  • prompt_tokens (32): žetoni v vhodnem sporočilu
  • completion_tokens (9): žetoni v vidnem odgovoru
  • reasoning_tokens (94): žetoni, namenjeni notranjemu sklepanju
  • total_tokens (135): vsota vseh treh, 32 + 9 + 94

Sklepanje torej ni vključeno v completion_tokens: temu se doda. Bodite pozorni, če prihajate iz drugega API, kjer se konvencija razlikuje, ali če vaša nadzorna plošča izračuna vidni odgovor z odštevanjem.

Dostop do žetonov za sklepanje v kodi

V API Responses isti podatki nosijo drugačna imena: input_tokens, output_tokens za vidni odgovor in output_tokens_details.reasoning_tokens za sklepanje.

response = client.responses.create(
    model="grok-4.7",
    input="Solve the integral of x^2 * e^x dx.",
    reasoning={"effort": "high"},
)

visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning

print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")

Napor nastavite pri grok-4.7, grok-4.6 in grok-4.5; grok-4.20-0309-reasoning vedno sklepa, brez parametra za napor.

Obračunavanje po tarifi za izhod

Žetoni za sklepanje se obračunavajo po tarifi za izhodne žetone, kot nas spominja primer Reasoning Effort Evals v kuharici xAI. Za grok-4.7 pri 6 $ na milijon izhodnih žetonov (poziv pod 200.000 žetoni) stane vsak žeton za sklepanje enako kot žeton za odgovor.

Napor torej vpliva na račun, vendar ne vedno toliko, kot si morda predstavljate. V istem primeru je pri tridesetih kratkih podporih strankam, ki jih je obravnaval grok-4.7, napor medium, high in xhigh porabil približno enako količino sklepanja – okoli 600 žetonov na odgovor –, medtem ko je low porabil okoli 140 in stal polovico manj, pri čemer so bile ocene vse med 87 % in 93 %. Pred izbiro izmerite na svojih podatkih.

Primer izračuna stroškov

# grok-4.7: 6,00 $/M izhodnih žetonov (poziv < 200k)
cost_per_token = 6.00 / 1_000_000

reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response  # 950

cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}")  # $0.0057

Vloga max_completion_tokens

Omejitev izhoda – max_completion_tokens v Chat Completions, max_output_tokens v API Responses – velja samo za vidni odgovor: glede na referenčno dokumentacijo API se žetoni za sklepanje in klici funkcij vanjo ne štejejo. Brez vrednosti je privzeta nastavitev 128.000 žetonov. Za omejitev sklepanja morate nastaviti napor (lekcija 10).

{
  "model": "grok-4.7",
  "messages": [
    {"role": "user", "content": "Explain special relativity."}
  ],
  "reasoning_effort": "medium",
  "max_completion_tokens": 2000
}

Cene preverjene 3. novembra 2026 – cene se redno spreminjajo: pred vsakim izračunom proračuna preverite trenutni cenik na uradni strani modelov in cen xAI.

Ključne ugotovitve

  • Žetoni za sklepanje so v usage.completion_tokens_details.reasoning_tokens (Chat Completions) ali usage.output_tokens_details.reasoning_tokens (Responses)
  • Pri xAI completion_tokens in output_tokens štejeta le vidni odgovor; vsota doda vhod, odgovor in sklepanje
  • Žetoni za sklepanje se obračunavajo po tarifi za izhod
  • Omejitev izhoda omejuje le vidni odgovor; napor nadzira sklepanje
  • Razlika v stroških med napori je odvisna od naloge: izmerite jo na svojih podatkih