Skaits spriešanas tokeniem
Šajā lapā
Nodarbība pārrakstīta 2026. gada 3. novembrī, pamatojoties uz xAI API atsauces materiāliem (Chat Completions un Responses), Reasoning rokasgrāmatu un Reasoning Effort Evals piemēru no pavārgrāmatas: pie xAI
completion_tokens(vaioutput_tokens) skaita tikai redzamo atbildi, spriešana tiek skaitīta atsevišķi, un kopsumma apvieno visas trīs daļas; izvades limits neierobežo spriešanu. Iepriekšējā versija apgalvoja pretējo, izmantoja Chat Completions laukus Responses API atbildē, iestatīja piepūli modelimgrok-4.20-0309-reasoning, kas to nepieņem, un parādīja ekrānuzņēmumu, kas neatbilda API; šie elementi ir laboti vai dzēsti. Avoti: Chat Completions · Responses · Reasoning Effort Evals.
Izprast spriešanas tokenus
Spriešanas modeļi ģenerē divu veidu tokenus: tos, kas paredzēti redzamajai atbildei, un tos, kas atbilst modeļa iekšējam domāšanas procesam. Lai pareizi pārvaldītu izmaksas un lasītu savus informācijas paneļus, ir būtiski saprast, kā xAI tos skaita.
Objekts usage pakalpojumā Chat Completions
Katrā atbildē ir iekļauts objekts usage, kas detalizēti apraksta patēriņu. Lūk, piemērs no xAI Chat Completions API atsauces:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
Šajā piemērā:
- prompt_tokens (32): tokeni ievades ziņojumā
- completion_tokens (9): tokeni redzamajā atbildē
- reasoning_tokens (94): tokeni, kas veltīti iekšējai spriešanai
- total_tokens (135): visu trīs summa, 32 + 9 + 94
Tādējādi spriešana nav iekļauta completion_tokens: tā tiek tai pieskaitīta. Esi uzmanīgs, ja esi pieradis pie citas API, kur konvencija atšķiras, vai ja tavs informācijas panelis aprēķina redzamo atbildi, veicot atņemšanu.
Spriešanas tokenu iegūšana kodā
Responses API šī pati informācija ir apzīmēta ar citiem nosaukumiem: input_tokens, output_tokens redzamajai atbildei un output_tokens_details.reasoning_tokens spriešanai.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Tu vari iestatīt piepūli modeļiem grok-4.7, grok-4.6 un grok-4.5; modelis grok-4.20-0309-reasoning spriež vienmēr, tam nav piepūles parametra.
Tarifikācija pēc izvades likmes
Spriešanas tokeni tiek tarifēti pēc izvades tokena likmes, kā atgādina Reasoning Effort Evals piemērs xAI pavārgrāmatā. Modelim grok-4.7 ar cenu 6 USD par miljonu izvades tokenu (pie pieprasījuma, kas mazāks par 200 000 tokeniem), katrs spriešanas tokens maksā tikpat, cik atbildes tokens.
Tādējādi piepūle ietekmē rēķinu, taču ne vienmēr tik ļoti, cik varētu šķist. Šajā pašā piemērā, apstrādājot trīsdesmit īsus atbalsta pieprasījumus ar grok-4.7, piepūles līmeņi medium, high un xhigh patērēja aptuveni vienādu spriešanas apjomu — ap 600 tokeniem uz atbildi, savukārt low patērēja aptuveni 140 tokenus un izmaksāja uz pusi mazāk, lai gan vērtējumi visos gadījumos bija robežās no 87 līdz 93 %. Veic mērījumus uz saviem datiem, pirms izvēlies konkrētu līmeni.
Izmaksu aprēķina piemērs
# grok-4.7: $6.00/M output tokens (prompt < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
Parametra max_completion_tokens loma
Izvades limits — max_completion_tokens pakalpojumā Chat Completions vai max_output_tokens pakalpojumā Responses API — attiecas tikai uz redzamo atbildi: saskaņā ar API atsauces dokumentāciju spriešanas tokeni un funkciju izsaukumi netiek ieskaitīti šajā limitā. Ja vērtība nav norādīta, tā pēc noklusējuma ir 128 000 tokenu. Lai ierobežotu spriešanu, tev ir jāiestata piepūle (10. nodarbība).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Cenas pārbaudītas 2026. gada 3. novembrī — cenas mainās regulāri: pirms jebkādu budžeta aprēķinu veikšanas pārbaudi aktuālo cenu lapu oficiālajā xAI modeļu un cenu lapā.
Galvenās atziņas
- Spriešanas tokeni atrodami
usage.completion_tokens_details.reasoning_tokens(Chat Completions) vaiusage.output_tokens_details.reasoning_tokens(Responses) - Pie xAI
completion_tokensunoutput_tokensskaita tikai redzamo atbildi; kopsumma apvieno ievadi, atbildi un spriešanu - Spriešanas tokeni tiek tarifēti pēc izvades likmes
- Izvades limits ierobežo tikai redzamo atbildi; spriešanu kontrolē piepūle
- Izmaksu starpība starp dažādiem piepūles līmeņiem ir atkarīga no uzdevuma: veic mērījumus uz saviem datiem