Reasoning tokenok számlálása
Ezen az oldalon
A leckét 2026. november 3-án írtuk át az xAI API-hivatkozás (Chat Completions és Responses), a Reasoning útmutató, valamint a szakácskönyv Reasoning Effort Evals példája alapján: az xAI-nál a
completion_tokens(vagyoutput_tokens) csak a látható választ számolja, a reasoninget külön számolják, és a teljes összeg mindhármat tartalmazza; a kimeneti korlát nem vonatkozik a reasoningre. Az előző verzió az ellenkezőjét állította, Chat Completions mezőket használt egy Responses API válaszhoz, effort paramétert állított be agrok-4.20-0309-reasoningmodellen, amely nem fogadja el azt, és olyan képernyőképet mutatott, amely nem egyezett az API-val; ezeket az elemeket kijavítottuk vagy eltávolítottuk. Források: Chat Completions · Responses · Reasoning Effort Evals.
A reasoning tokenok megértése
A reasoning modellek kétféle tokent állítanak elő: azokat, amelyek a látható válaszhoz tartoznak, és azokat, amelyek a modell belső gondolkodási folyamatát képezik. Annak megértése, hogy az xAI hogyan számolja ezeket, elengedhetetlen a költségek kézben tartásához és a műszerfalak helyes olvasásához.
A használati objektum a Chat Completionsben
Minden válasz tartalmaz egy usage objektumot, amely részletezi a fogyasztást. Íme egy példa az xAI Chat Completions API-hivatkozásából:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
Ebben a példában:
- prompt_tokens (32): tokenek a bemeneti üzenetben
- completion_tokens (9): tokenek a látható válaszban
- reasoning_tokens (94): a belső reasoningre fordított tokenek
- total_tokens (135): mindhárom összege, 32 + 9 + 94
A reasoning tehát nem része a completion_tokens-nak: ehhez adják hozzá. Vigyázz, ha olyan másik API-ról jössz, ahol a konvenció eltér, vagy ha a műszerfalad kivonással számolja a látható választ.
A reasoning tokenok elérése kódban
A Responses API-ban ugyanaz az információ más neveket visel: input_tokens, output_tokens a látható válaszhoz, és output_tokens_details.reasoning_tokens a reasoninghez.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Az effort paramétert a grok-4.7, grok-4.6 és grok-4.5 modelleken állíthatod be; a grok-4.20-0309-reasoning mindig reasoninget végez, nincs effort paramétere.
Számlázás a kimeneti díjszabás szerint
A reasoning tokenokat a kimeneti tokenek díjszabása szerint számlázzák, ahogy arra az xAI szakácskönyvében található Reasoning Effort Evals példa is emlékeztet. A grok-4.7 esetében, amely milliónyi kimeneti tokenért 6 dollárba kerül (200 000 token alatti prompt esetén), minden reasoning token annyiba kerül, mint egy választoken.
Az effort tehát terheli a számlát, de nem mindig annyira, mint gondolnád. Ugyanebben a példában, harminc rövid ügyfélszolgálati jegy feldolgozása során a grok-4.7 modellel, a medium, high és xhigh effort szintek körülbelül ugyanannyi reasoninget fogyasztottak – válaszonként kb. 600 tokent –, míg a low körülbelül 140-et fogyasztott, és feleannyiba került, miközben a pontszámok mind 87% és 93% között voltak. Mielőtt döntesz, mérj a saját adataidon.
Költségszámítási példa
# grok-4.7: 6,00 $/M kimeneti token (prompt < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
A max_completion_tokens szerepe
A kimeneti korlát – max_completion_tokens a Chat Completionsben, max_output_tokens a Responses API-ban – csak a látható válaszra vonatkozik: az API-hivatkozás szerint a reasoning tokenek és a függvényhívások nem számítanak bele. Érték hiányában az alapértelmezett érték 128 000 token. A reasoning korlátozásához az effort beállítása szükséges (10. lecke).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Az árakat 2026. november 3-án ellenőriztük – az árak rendszeresen változnak: bármilyen költségvetés-számítás előtt ellenőrizd az aktuális díjszabást a hivatalos xAI modellek és árak oldalon.
Főbb megállapítások
- A reasoning tokenek a
usage.completion_tokens_details.reasoning_tokens(Chat Completions) vagyusage.output_tokens_details.reasoning_tokens(Responses) mezőben találhatók - Az xAI-nál a
completion_tokensés azoutput_tokenscsak a látható választ számolja; a teljes összeg a bemenetet, a választ és a reasoninget adja össze - A reasoning tokeneket a kimeneti díjszabás szerint számlázzák
- A kimeneti korlát csak a látható választ korlátozza; az effort szabályozza a reasoninget
- Az effort szintek közötti költségbeli különbség a feladattól függ: mérd le a saját adataidon