Reasoning tokenų skaičiavimas
Šiame puslapyje
Pamoka perrašyta 2026 m. lapkričio 3 d. remiantis xAI API nuoroda („Chat Completions“ ir „Responses“), Reasoning vadovu ir Reasoning Effort Evals pavyzdžiu iš receptų knygos: xAI sistemoje
completion_tokens(arbaoutput_tokens) skaičiuoja tik matomą atsakymą, samprotavimai skaičiuojami atskirai, o bendra suma apima visus tris dydžius; išvesties limitas neriboja samprotavimų. Ankstesnė versija teigė priešingai, naudojo „Chat Completions“ laukus „Responses“ API atsakyme, nustatė pastangų lygį modeliuigrok-4.20-0309-reasoning, kuris jo nepriima, ir rodė ekrano kopiją, neatitinkančią API; šie elementai yra ištaisyti arba pašalinti. Šaltiniai: Chat Completions · Responses · Reasoning Effort Evals.
Suprask reasoning tokenus
Samprotavimo modeliai generuoja dviejų rūšių tokenus: tuos, kurie skirti matomam atsakymui, ir tuos, kurie skirti vidiniam modelio mąstymo procesui. Suprasti, kaip xAI juos skaičiuoja, yra būtina norint valdyti išlaidas ir teisingai skaityti savo informacines skydelius.
usage objektas „Chat Completions“
Kiekviename atsakyme yra usage objektas, kuris išsamiai aprašo suvartojimą. Štai pavyzdys iš xAI „Chat Completions“ API nuorodos:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
Šiame pavyzdyje:
- prompt_tokens (32): tokenai įvesties žinutėje
- completion_tokens (9): tokenai matomame atsakyme
- reasoning_tokens (94): tokenai, skirti vidiniams samprotavimams
- total_tokens (135): visų trijų suma, 32 + 9 + 94
Taigi samprotavimai nėra įtraukti į completion_tokens: jie yra pridedami prie jų. Būk atsargus, jei ateini iš kitos API, kurioje galioja kitokia konvencija, arba jei tavo informacinis skydelis matomą atsakymą apskaičiuoja atimties būdu.
Reasoning tokenų gavimas kode
„Responses“ API ta pati informacija turi kitus pavadinimus: input_tokens, output_tokens – matomam atsakymui, ir output_tokens_details.reasoning_tokens – samprotavimams.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Pastangų lygį nustatai modeliams grok-4.7, grok-4.6 ir grok-4.5; modelis grok-4.20-0309-reasoning visada samprotauja be jokio pastangų parametro.
Apmokestinimas pagal išvesties tarifą
Samprotavimo tokenai apmokestinami pagal išvesties tokenų tarifą, kaip primena Reasoning Effort Evals pavyzdys xAI receptų knygoje. Modeliui grok-4.7, kainuojančiam 6 USD už milijoną išvesties tokenų (kai užklausa mažesnė nei 200 000 tokenų), kiekvienas samprotavimo tokenas kainuoja tiek pat, kiek ir atsakymo tokenas.
Todėl pastangų lygis daro įtaką sąskaitai, bet ne visada tiek, kiek gali manyti. Tame pačiame pavyzdyje, apdorojant trisdešimt trumpų palaikymo bilietų su grok-4.7, medium, high ir xhigh pastangų lygiai suvartojo maždaug tiek pat samprotavimo tokenų – apie 600 tokenų vienam atsakymui, tuo tarpu low suvartojo apie 140 ir kainavo perpus mažiau, o rezultatai visais atvejais svyravo tarp 87 ir 93 %. Prieš pasirinkdami, atlikite matavimus su savo duomenimis.
Išlaidų skaičiavimo pavyzdys
# grok-4.7: 6,00 USD/M išvesties tokenų (užklausa < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
max_completion_tokens vaidmuo
Išvesties riba – max_completion_tokens „Chat Completions“ arba max_output_tokens „Responses“ API – taikoma tik matomam atsakymui: pagal API nuorodą, samprotavimo tokenai ir funkcijų kvietimai į ją neįskaičiuojami. Jei reikšmė nenustatyta, numatytoji vertė yra 128 000 tokenų. Norėdami apriboti samprotavimus, turite nustatyti pastangų lygį (10 pamoka).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Kainos patikrintos 2026 m. lapkričio 3 d. – kainos keičiasi reguliariai: prieš atlikdami bet kokius biudžeto skaičiavimus, patikrinkite dabartinį kainoraštį oficialiame xAI modelių ir kainų puslapyje.
Svarbiausi punktai
- Samprotavimo tokenai yra
usage.completion_tokens_details.reasoning_tokens(„Chat Completions“) arbausage.output_tokens_details.reasoning_tokens(„Responses“) - xAI sistemoje
completion_tokensiroutput_tokensskaičiuoja tik matomą atsakymą; bendra suma apima įvestį, atsakymą ir samprotavimus - Samprotavimo tokenai apmokestinami pagal išvesties tarifą
- Išvesties riba riboja tik matomą atsakymą; pastangų lygis valdo samprotavimus
- Išlaidų skirtumas tarp skirtingų pastangų lygių priklauso nuo užduoties: išmatuokite jį su savo duomenimis