Премини към основното съдържание
Български— Изберете език
Меню

Използване на токени и reasoning_tokens

Урок 9 от 12 Обновен 3 ноември 2026 г. Програмист
На тази страница
  1. Разберете таксуването за токени
  2. Стандартният обект usage
  3. reasoning_tokens: специфични за модели с разсъждения
  4. Стратегии за оптимизиране на разходите
  5. Ключови изводи

Обновено на 3 ноември 2026 г. Въз основа на справочника за Chat Completions API на xAI: max_tokens е остарял в полза на max_completion_tokens, който ограничава само видимия отговор. Източник: Chat Completions.

Разберете таксуването за токени

Всяка заявка към Chat Completions API се таксува въз основа на броя използвани токени. Обектът usage в отговора Ви предоставя точен брой, което е от съществено значение за мониторинг на разходите, оптимизиране на подканите (prompts) и планиране на бюджетите за API.

Стандартният обект usage

Ето структурата на обекта usage, върнат с всеки отговор:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 342,
    "total_tokens": 469
  }
}

Трите основни брояча

  • prompt_tokens: брой токени във Вашата заявка (системно съобщение + история + ново съобщение). Това е страната „вход“ при таксуването.
  • completion_tokens: брой токени, генерирани от модела в неговия отговор. Това е страната „изход“.
  • total_tokens: сбор от предходните две. Това е общата сума, която ще Ви бъде начислена за тази заявка.

Влияние на историята върху разходите

Тъй като крайната точка (endpoint) е без състояние (stateless), историята се изпраща с всяка заявка. Това означава, че prompt_tokens нараства с всяка размяна:

Размяна 1 : prompt_tokens = 50   (система + 1 потребителско съобщение)
Размяна 2 : prompt_tokens = 150  (система + 2 потребителски + 1 асистент)
Размяна 3 : prompt_tokens = 300  (система + 3 потребителски + 2 асистент)
Размяна 10: prompt_tokens = 1500 (система + 10 потребителски + 9 асистент)

При дълги разговори разходите за историята могат бързо да надхвърлят разходите за самия отговор.

reasoning_tokens: специфични за модели с разсъждения

Моделите Grok с възможности за разсъждение (като grok-4.20-0309-reasoning) добавят допълнително поле към обекта usage:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 892,
    "total_tokens": 1019,
    "completion_tokens_details": {
      "reasoning_tokens": 550
    }
  }
}

Какво представляват reasoning_tokens?

reasoning_tokens представляват токените, използвани от модела за неговото вътрешно разсъждение — „мисленето“, което извършва, преди да произведе крайния си отговор. Тези токени се генерират, но не са видими в полето content на отговора.

В горния пример:

  • Моделът генерира общо 892 токена (completion_tokens)
  • Включително 550 вътрешни токена за разсъждение (reasoning_tokens)
  • Остават 342 видими токена за отговор (892 - 550)

Защо това е важно

Токените за разсъждение се таксуват като нормални токени за завършване. При модел с разсъждение видимият отговор може да представлява само част от общата цена:

usage = response.usage

visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens

print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")

Не е необичайно токените за разсъждение да представляват между 50% и 80% от токените за завършване при сложни въпроси.

Стратегии за оптимизиране на разходите

Намалете prompt_tokens

  • Обобщете историята: вместо да изпращате целия разговор, обобщете по-старите размени
  • Ограничете системното съобщение: системна подкана от 500 токена рядко е необходима — стремете се към 100–200 токена
  • Филтрирайте съобщенията: изпращайте само размените, които са релевантни за текущия въпрос

Контролирайте completion_tokens

  • Използвайте max_completion_tokens (max_tokens е остарял): това ограничава видимия отговор, а не разсъждението
  • Посочете формата: „Отговорете в 3 изречения“ струва по-малко от „Обяснете подробно“
  • Изберете правилния модел: модел без разсъждение е по-евтин, ако задачата не изисква сложно мислене

Мониторинг на разходите в продукция

import json

def log_usage(response, requete_id: str):
    usage = response.usage
    log = {
        "id": requete_id,
        "prompt": usage.prompt_tokens,
        "completion": usage.completion_tokens,
        "total": usage.total_tokens,
    }
    if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
        log["reasoning"] = usage.completion_tokens_details.reasoning_tokens

    print(json.dumps(log))

Ключови изводи

  • Обектът usage съдържа prompt_tokens, completion_tokens и total_tokens
  • prompt_tokens нараства с всяка размяна поради изпращаната история
  • Моделите с разсъждение добавят reasoning_tokens в completion_tokens_details
  • Токените за разсъждение се таксуват със ставката за изход, но са невидими в отговора — техният дял от разходите зависи от задачата и усилието, затова го измервайте
  • Оптимизирайте, като обобщавате историята, коригирате усилието за разсъждение, ограничавате max_completion_tokens и избирате правилния модел