Премини към основното съдържание
Български— Изберете език
Меню

Броене на токени за разсъждение

Урок 8 от 12 Обновен 3 ноември 2026 г. Програмист
На тази страница
  1. Разберете токените за разсъждение
  2. Обектът usage в Chat Completions
  3. Достъп до токени за разсъждение в кода
  4. Таксуване по тарифата за изход
  5. Ролята на max_completion_tokens
  6. Ключови изводи

Урокът е пренаписан на 3 ноември 2026 г. въз основа на справочника за xAI API (Chat Completions и Responses), ръководството Reasoning и примера Reasoning Effort Evals от готварската книга (cookbook): при xAI completion_tokens (или output_tokens) брои само видимия отговор, разсъждението се брои отделно, а общата сума включва и трите компонента; лимитът за изход не ограничава разсъждението. Предишната версия твърдеше обратното, използваше полета от Chat Completions за отговор на Responses API, задаваше усилие за grok-4.20-0309-reasoning, което не го приема, и показваше екранна снимка, несъответстваща на API; тези елементи са коригирани или премахнати. Източници: Chat Completions · Responses · Reasoning Effort Evals.

Разберете токените за разсъждение

Моделите за разсъждение генерират два вида токени: такива за видимия отговор и такива за вътрешния мисловен процес на модела. Разбирането на начина, по който xAI ги брои, е от съществено значение, за да овладеете разходите си и да четете правилно таблата си с данни.

Изход
Таксува се по тарифата за изход
usage
Обект за подробно проследяване
Отделно
Разсъждението се брои извън отговора
Усилие
Лостът за контрол на разсъждението

Обектът usage в Chat Completions

Всеки отговор включва обект usage, който детайлизира потреблението. Ето пример от справочника за xAI Chat Completions API:

{
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 9,
    "total_tokens": 135,
    "completion_tokens_details": {
      "reasoning_tokens": 94
    }
  }
}

В този пример:

  • prompt_tokens (32): токени във входното съобщение
  • completion_tokens (9): токени във видимия отговор
  • reasoning_tokens (94): токени, отделени за вътрешно разсъждение
  • total_tokens (135): сумата от всичките три, 32 + 9 + 94

Следователно разсъждението не е включено в completion_tokens: то се добавя към него. Внимавайте, ако идвате от друго API, където конвенцията е различна, или ако вашето табло изчислява видимия отговор чрез изваждане.

Достъп до токени за разсъждение в кода

В Responses API същата информация носи различни имена: input_tokens, output_tokens за видимия отговор и output_tokens_details.reasoning_tokens за разсъждението.

response = client.responses.create(
    model="grok-4.7",
    input="Solve the integral of x^2 * e^x dx.",
    reasoning={"effort": "high"},
)

visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning

print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")

Задавате усилие за grok-4.7, grok-4.6 и grok-4.5; grok-4.20-0309-reasoning винаги разсъждава, без параметър за усилие.

Таксуване по тарифата за изход

Токените за разсъждение се таксуват по тарифата за изходни токени, както ни напомня примерът Reasoning Effort Evals в готварската книга на xAI. За grok-4.7 при цена от 6 щатски долара за милион изходни токени (промпт под 200 000 токена), всеки токен за разсъждение струва колкото един токен за отговор.

Следователно усилието тежи върху сметката, но не винаги толкова, колкото бихте си представили. В същия този пример, при тридесет кратки тикета за поддръжка, обработени от grok-4.7, усилията medium, high и xhigh са консумирали приблизително едно и също количество разсъждение – около 600 токена на отговор, докато low е консумирало около 140 и е струвало наполовина, като резултатите са били между 87% и 93%. Измервайте върху собствените си данни, преди да изберете.

Пример за изчисляване на разходите

# grok-4.7: $6.00/M изходни токени (промпт < 200k)
cost_per_token = 6.00 / 1_000_000

reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response  # 950

cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}")  # $0.0057

Ролята на max_completion_tokens

Лимитът за изход – max_completion_tokens в Chat Completions, max_output_tokens в Responses API – се прилага само за видимия отговор: според справочника за API, токените за разсъждение и функциите за извикване не се броят към него. Без зададена стойност той по подразбиране е 128 000 токена. За да ограничите разсъждението, трябва да зададете усилие (урок 10).

{
  "model": "grok-4.7",
  "messages": [
    {"role": "user", "content": "Explain special relativity."}
  ],
  "reasoning_effort": "medium",
  "max_completion_tokens": 2000
}

Цените са проверени на 3 ноември 2026 г. – цените се променят редовно: преди всяко изчисление на бюджета проверете актуалния ценови лист на официалната страница за модели и цени на xAI.

Ключови изводи

  • Токените за разсъждение се намират в usage.completion_tokens_details.reasoning_tokens (Chat Completions) или usage.output_tokens_details.reasoning_tokens (Responses)
  • При xAI completion_tokens и output_tokens броят само видимия отговор; общата сума добавя входа, отговора и разсъждението
  • Токените за разсъждение се таксуват по тарифата за изход
  • Лимитът за изход ограничава само видимия отговор; усилието контролира разсъждението
  • Разликата в разходите между нивата на усилие зависи от задачата: измервайте я върху собствените си данни