Броене на токени за разсъждение
На тази страница
Урокът е пренаписан на 3 ноември 2026 г. въз основа на справочника за xAI API (Chat Completions и Responses), ръководството Reasoning и примера Reasoning Effort Evals от готварската книга (cookbook): при xAI
completion_tokens(илиoutput_tokens) брои само видимия отговор, разсъждението се брои отделно, а общата сума включва и трите компонента; лимитът за изход не ограничава разсъждението. Предишната версия твърдеше обратното, използваше полета от Chat Completions за отговор на Responses API, задаваше усилие заgrok-4.20-0309-reasoning, което не го приема, и показваше екранна снимка, несъответстваща на API; тези елементи са коригирани или премахнати. Източници: Chat Completions · Responses · Reasoning Effort Evals.
Разберете токените за разсъждение
Моделите за разсъждение генерират два вида токени: такива за видимия отговор и такива за вътрешния мисловен процес на модела. Разбирането на начина, по който xAI ги брои, е от съществено значение, за да овладеете разходите си и да четете правилно таблата си с данни.
Обектът usage в Chat Completions
Всеки отговор включва обект usage, който детайлизира потреблението. Ето пример от справочника за xAI Chat Completions API:
{
"usage": {
"prompt_tokens": 32,
"completion_tokens": 9,
"total_tokens": 135,
"completion_tokens_details": {
"reasoning_tokens": 94
}
}
}
В този пример:
- prompt_tokens (32): токени във входното съобщение
- completion_tokens (9): токени във видимия отговор
- reasoning_tokens (94): токени, отделени за вътрешно разсъждение
- total_tokens (135): сумата от всичките три, 32 + 9 + 94
Следователно разсъждението не е включено в completion_tokens: то се добавя към него. Внимавайте, ако идвате от друго API, където конвенцията е различна, или ако вашето табло изчислява видимия отговор чрез изваждане.
Достъп до токени за разсъждение в кода
В Responses API същата информация носи различни имена: input_tokens, output_tokens за видимия отговор и output_tokens_details.reasoning_tokens за разсъждението.
response = client.responses.create(
model="grok-4.7",
input="Solve the integral of x^2 * e^x dx.",
reasoning={"effort": "high"},
)
visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning
print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")
Задавате усилие за grok-4.7, grok-4.6 и grok-4.5; grok-4.20-0309-reasoning винаги разсъждава, без параметър за усилие.
Таксуване по тарифата за изход
Токените за разсъждение се таксуват по тарифата за изходни токени, както ни напомня примерът Reasoning Effort Evals в готварската книга на xAI. За grok-4.7 при цена от 6 щатски долара за милион изходни токени (промпт под 200 000 токена), всеки токен за разсъждение струва колкото един токен за отговор.
Следователно усилието тежи върху сметката, но не винаги толкова, колкото бихте си представили. В същия този пример, при тридесет кратки тикета за поддръжка, обработени от grok-4.7, усилията medium, high и xhigh са консумирали приблизително едно и също количество разсъждение – около 600 токена на отговор, докато low е консумирало около 140 и е струвало наполовина, като резултатите са били между 87% и 93%. Измервайте върху собствените си данни, преди да изберете.
Пример за изчисляване на разходите
# grok-4.7: $6.00/M изходни токени (промпт < 200k)
cost_per_token = 6.00 / 1_000_000
reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response # 950
cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}") # $0.0057
Ролята на max_completion_tokens
Лимитът за изход – max_completion_tokens в Chat Completions, max_output_tokens в Responses API – се прилага само за видимия отговор: според справочника за API, токените за разсъждение и функциите за извикване не се броят към него. Без зададена стойност той по подразбиране е 128 000 токена. За да ограничите разсъждението, трябва да зададете усилие (урок 10).
{
"model": "grok-4.7",
"messages": [
{"role": "user", "content": "Explain special relativity."}
],
"reasoning_effort": "medium",
"max_completion_tokens": 2000
}
Цените са проверени на 3 ноември 2026 г. – цените се променят редовно: преди всяко изчисление на бюджета проверете актуалния ценови лист на официалната страница за модели и цени на xAI.
Ключови изводи
- Токените за разсъждение се намират в
usage.completion_tokens_details.reasoning_tokens(Chat Completions) илиusage.output_tokens_details.reasoning_tokens(Responses) - При xAI
completion_tokensиoutput_tokensброят само видимия отговор; общата сума добавя входа, отговора и разсъждението - Токените за разсъждение се таксуват по тарифата за изход
- Лимитът за изход ограничава само видимия отговор; усилието контролира разсъждението
- Разликата в разходите между нивата на усилие зависи от задачата: измервайте я върху собствените си данни