Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Põhjendustokenite lugemine

Õppetund 8 / 12 Värskendatud 3. november 2026 Arendajatele
Sellel lehel
  1. Mõista põhjendustokeneid
  2. Kasutusobjekt Chat Completionsis
  3. Põhjendustokenitele juurdepääs koodis
  4. Arveldamine väljundi hinnaga
  5. max_completion_tokensi roll
  6. Peamised punktid

Õppetund kirjutati 3. novembril 2026 ümber, tuginedes xAI API referentsile (Chat Completions ja Responses), Reasoning juhendile ning kokaraamatu Reasoning Effort Evals näitele: xAI süsteemis loeb completion_tokens (või output_tokens) ainult nähtavat vastust, põhjendust loendatakse eraldi ja kogusumma liidab kõik kolm; väljundi piirang ei piira põhjendust. Eelmine versioon väitis vastupidist, kasutas Chat Completionsi välju Responses API vastusel, määras jõupingutuse mudelile grok-4.20-0309-reasoning, mis seda ei aktsepteeri, ja näitas ekraanitõmmist, mis ei vastanud API-le; need elemendid on parandatud või eemaldatud. Allikad: Chat Completions · Responses · Reasoning Effort Evals.

Mõista põhjendustokeneid

Põhjendusmudelid genereerivad kahte tüüpi tokeneid: need nähtava vastuse jaoks ja need mudeli sisemise mõtteprotsessi jaoks. On hädavajalik mõista, kuidas xAI neid loendab, et oma kulusid hallata ja armatuurlaudu õigesti tõlgendada.

Väljund
Arveldatakse väljundi hinnaga
kasutus
Üksikasjalik jälgimisobjekt
Eraldi
Põhjendus loendatakse väljaspool vastust
Jõupingutus
Hoob põhjenduse juhtimiseks

Kasutusobjekt Chat Completionsis

Iga vastus sisaldab usage objekti, mis kirjeldab tarbimist. Siin on näide xAI Chat Completionsi API referentsist:

{
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 9,
    "total_tokens": 135,
    "completion_tokens_details": {
      "reasoning_tokens": 94
    }
  }
}

Selles näites:

  • prompt_tokens (32): tokenid sisendsõnumis
  • completion_tokens (9): tokenid nähtavas vastuses
  • reasoning_tokens (94): tokenid, mis on pühendatud sisemisele põhjendusele
  • total_tokens (135): kõigi kolme summa, 32 + 9 + 94

Seega ei sisaldu põhjendus väärtuses completion_tokens: see liidetakse sellele. Ole ettevaatlik, kui tuled teisest API-st, kus konventsioon erineb, või kui sinu armatuurlaud arvutab nähtava vastuse lahutamise teel.

Põhjendustokenitele juurdepääs koodis

Responses API-s kannab sama teave erinevaid nimesid: input_tokens, output_tokens nähtava vastuse jaoks ja output_tokens_details.reasoning_tokens põhjenduse jaoks.

response = client.responses.create(
    model="grok-4.7",
    input="Solve the integral of x^2 * e^x dx.",
    reasoning={"effort": "high"},
)

visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning

print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")

Sa määrad jõupingutuse mudelitele grok-4.7, grok-4.6 ja grok-4.5; grok-4.20-0309-reasoning põhjendab alati ilma jõupingutuse parameetrita.

Arveldamine väljundi hinnaga

Põhjendustokeneid arveldatakse väljundi tokenite hinnaga, nagu xAI kokaraamatu näide Reasoning Effort Evals meenutab. Mudeli grok-4.7 puhul on hind 6 dollarit miljoni väljunditokeni kohta (sisend alla 200 000 tokeni), seega maksab iga põhjendustoken sama palju kui vastusetoken.

Jõupingutus mõjutab seega arvet, kuid mitte alati nii palju, kui võiksid arvata. Samas näites, kus grok-4.7 käsitles kolmkümmend lühikest tugipiletit, tarbisid jõupingutused medium, high ja xhigh umbes sama palju põhjendust – umbes 600 tokenit vastuse kohta –, samas kui low tarbis umbes 140 ja maksis poole vähem, kusjuures tulemused jäid kõik vahemikku 87–93%. Mõõda oma andmetel enne valiku tegemist.

Kulude arvutamise näide

# grok-4.7: 6,00 $/M väljunditokenit (sisend < 200k)
cost_per_token = 6.00 / 1_000_000

reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response  # 950

cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}")  # $0.0057

max_completion_tokensi roll

Väljundi piirang – max_completion_tokens Chat Completionsis ja max_output_tokens Responses API-s – kehtib ainult nähtava vastuse kohta: vastavalt API referentsile ei arvestata põhjendustokeneid ega funktsioonikutsusid selle piiri alla. Väärtuse määramata jätmisel on vaikimisi väärtus 128 000 tokenit. Põhjenduse piiramiseks pead määrama jõupingutuse (õppetund 10).

{
  "model": "grok-4.7",
  "messages": [
    {"role": "user", "content": "Explain special relativity."}
  ],
  "reasoning_effort": "medium",
  "max_completion_tokens": 2000
}

Hinnad kontrollitud 3. novembril 2026 – hinnad muutuvad regulaarselt: enne eelarve arvutamist kontrolli kehtivat hinnakirja xAI ametlikul mudelite ja hindade lehel.

Peamised punktid

  • Põhjendustokenid asuvad väljal usage.completion_tokens_details.reasoning_tokens (Chat Completions) või usage.output_tokens_details.reasoning_tokens (Responses)
  • xAI süsteemis loevad completion_tokens ja output_tokens ainult nähtavat vastust; kogusumma liidab sisendi, vastuse ja põhjenduse
  • Põhjendustokeneid arveldatakse väljundi hinnaga
  • Väljundi piirang kehtib ainult nähtava vastuse kohta; jõupingutus kontrollib põhjendust
  • Kulude erinevus jõupingutuste vahel sõltub ülesandest: mõõda seda oma andmetel