Brojanje tokena za rezoniranje
Na ovoj stranici
Lekcija je ponovno napisana 3. studenog 2026. na temelju xAI API referenci (Chat Completions i Responses), vodiča Reasoning i primjera Reasoning Effort Evals iz cookbooks: kod xAI-ja,
completion_tokens(ilioutput_tokens) broji samo vidljivi odgovor, rezoniranje se broji odvojeno, a zbroj uključuje sva tri; ograničenje izlaza ne ograničava rezoniranje. Prethodna verzija tvrdila je suprotno, koristila je polja Chat Completions na odgovoru Responses API-ja, postavljala effort nagrok-4.20-0309-reasoningkoji to ne prihvaća i prikazivala snimku zaslona koja se nije podudarala s API-jem; ti su elementi ispravljeni ili uklonjeni. Izvori: Chat Completions · Responses · Reasoning Effort Evals.
Razumijevanje tokena za rezoniranje
Modeli za rezoniranje proizvode dvije vrste tokena: one za vidljivi odgovor i one za interni proces razmišljanja modela. Razumijevanje načina na koji xAI broji te tokene ključno je za kontrolu troškova i ispravno čitanje nadzornih ploča.
Objekt usage u Chat Completions
Svaki odgovor uključuje objekt usage koji detaljno opisuje potrošnju. Evo primjera iz xAI Chat Completions API reference:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
U ovom primjeru:
- prompt_tokens (32): tokeni u ulaznoj poruci
- completion_tokens (9): tokeni u vidljivom odgovoru
- reasoning_tokens (94): tokeni posvećeni internom rezoniranju
- total_tokens (135): zbroj sva tri, 32 + 9 + 94
Rezoniranje stoga nije uključeno u completion_tokens: ono mu se dodaje. Budi oprezan ako dolaziš s drugog API-ja gdje je konvencija drugačija ili ako tvoja nadzorna ploča izračunava vidljivi odgovor oduzimanjem.
Pristup tokenima za rezoniranje u kodu
U Responses API-ju iste informacije nose drugačija imena: input_tokens, output_tokens za vidljivi odgovor i output_tokens_details.reasoning_tokens za rezoniranje.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Effort postavljaš na grok-4.7, grok-4.6 i grok-4.5; grok-4.20-0309-reasoning uvijek rezonira, bez parametra effort.
Naplata po stopi za izlaz
Tokeni za rezoniranje naplaćuju se po stopi za izlazne tokene, kako nas podsjeća primjer Reasoning Effort Evals u xAI cookbooku. Za grok-4.7 po cijeni od 6 USD po milijun izlaznih tokena (upit ispod 200.000 tokena), svaki token za rezoniranje košta isto koliko i token odgovora.
Effort stoga utječe na račun, ali ne uvijek onoliko koliko bi mogao pomisliti. U istom primjeru, kroz trideset kratkih tiketa za podršku koje je obradio grok-4.7, efforti medium, high i xhigh potrošili su otprilike istu količinu rezoniranja – oko 600 tokena po odgovoru – dok je low potrošio oko 140 i koštao upola manje, uz rezultate između 87 % i 93 %. Izmjeri na svojim podacima prije odabira.
Primjer izračuna troška
# grok-4.7: $6.00/M output tokens (prompt < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
Uloga parametra max_completion_tokens
Ograničenje izlaza – max_completion_tokens u Chat Completions, max_output_tokens u Responses API-ju – primjenjuje se samo na vidljivi odgovor: prema API referenci, tokeni za rezoniranje i pozivi funkcija ne uračunavaju se u to ograničenje. Bez zadane vrijednosti, zadana postavka iznosi 128.000 tokena. Da bi ograničio rezoniranje, moraš postaviti effort (lekcija 10).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Cijene verificirane 3. studenog 2026. – cijene se redovito mijenjaju: prije bilo kakvog izračuna proračuna provjeri trenutni cjenik na službenoj stranici xAI modela i cijena.
Ključne točke
- Tokeni za rezoniranje nalaze se u
usage.completion_tokens_details.reasoning_tokens(Chat Completions) iliusage.output_tokens_details.reasoning_tokens(Responses) - Kod xAI-ja,
completion_tokensioutput_tokensbroje samo vidljivi odgovor; ukupni zbroj uključuje ulaz, odgovor i rezoniranje - Tokeni za rezoniranje naplaćuju se po stopi za izlaz
- Ograničenje izlaza ograničava samo vidljivi odgovor; effort kontrolira rezoniranje
- Razlika u trošku između različitih efforta ovisi o zadatku: izmjeri je na svojim podacima