Използване на токени и reasoning_tokens
На тази страница
Обновено на 3 ноември 2026 г. Въз основа на справочника за Chat Completions API на xAI:
max_tokensе остарял в полза наmax_completion_tokens, който ограничава само видимия отговор. Източник: Chat Completions.
Разберете таксуването за токени
Всяка заявка към Chat Completions API се таксува въз основа на броя използвани токени. Обектът usage в отговора Ви предоставя точен брой, което е от съществено значение за мониторинг на разходите, оптимизиране на подканите (prompts) и планиране на бюджетите за API.
Стандартният обект usage
Ето структурата на обекта usage, върнат с всеки отговор:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 342,
"total_tokens": 469
}
}
Трите основни брояча
prompt_tokens: брой токени във Вашата заявка (системно съобщение + история + ново съобщение). Това е страната „вход“ при таксуването.completion_tokens: брой токени, генерирани от модела в неговия отговор. Това е страната „изход“.total_tokens: сбор от предходните две. Това е общата сума, която ще Ви бъде начислена за тази заявка.
Влияние на историята върху разходите
Тъй като крайната точка (endpoint) е без състояние (stateless), историята се изпраща с всяка заявка. Това означава, че prompt_tokens нараства с всяка размяна:
Размяна 1 : prompt_tokens = 50 (система + 1 потребителско съобщение)
Размяна 2 : prompt_tokens = 150 (система + 2 потребителски + 1 асистент)
Размяна 3 : prompt_tokens = 300 (система + 3 потребителски + 2 асистент)
Размяна 10: prompt_tokens = 1500 (система + 10 потребителски + 9 асистент)
При дълги разговори разходите за историята могат бързо да надхвърлят разходите за самия отговор.
reasoning_tokens: специфични за модели с разсъждения
Моделите Grok с възможности за разсъждение (като grok-4.20-0309-reasoning) добавят допълнително поле към обекта usage:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 892,
"total_tokens": 1019,
"completion_tokens_details": {
"reasoning_tokens": 550
}
}
}
Какво представляват reasoning_tokens?
reasoning_tokens представляват токените, използвани от модела за неговото вътрешно разсъждение — „мисленето“, което извършва, преди да произведе крайния си отговор. Тези токени се генерират, но не са видими в полето content на отговора.
В горния пример:
- Моделът генерира общо 892 токена (
completion_tokens) - Включително 550 вътрешни токена за разсъждение (
reasoning_tokens) - Остават 342 видими токена за отговор (892 - 550)
Защо това е важно
Токените за разсъждение се таксуват като нормални токени за завършване. При модел с разсъждение видимият отговор може да представлява само част от общата цена:
usage = response.usage
visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens
print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")
Не е необичайно токените за разсъждение да представляват между 50% и 80% от токените за завършване при сложни въпроси.
Стратегии за оптимизиране на разходите
Намалете prompt_tokens
- Обобщете историята: вместо да изпращате целия разговор, обобщете по-старите размени
- Ограничете системното съобщение: системна подкана от 500 токена рядко е необходима — стремете се към 100–200 токена
- Филтрирайте съобщенията: изпращайте само размените, които са релевантни за текущия въпрос
Контролирайте completion_tokens
- Използвайте
max_completion_tokens(max_tokensе остарял): това ограничава видимия отговор, а не разсъждението - Посочете формата: „Отговорете в 3 изречения“ струва по-малко от „Обяснете подробно“
- Изберете правилния модел: модел без разсъждение е по-евтин, ако задачата не изисква сложно мислене
Мониторинг на разходите в продукция
import json
def log_usage(response, requete_id: str):
usage = response.usage
log = {
"id": requete_id,
"prompt": usage.prompt_tokens,
"completion": usage.completion_tokens,
"total": usage.total_tokens,
}
if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
log["reasoning"] = usage.completion_tokens_details.reasoning_tokens
print(json.dumps(log))
Ключови изводи
- Обектът
usageсъдържаprompt_tokens,completion_tokensиtotal_tokens prompt_tokensнараства с всяка размяна поради изпращаната история- Моделите с разсъждение добавят
reasoning_tokensвcompletion_tokens_details - Токените за разсъждение се таксуват със ставката за изход, но са невидими в отговора — техният дял от разходите зависи от задачата и усилието, затова го измервайте
- Оптимизирайте, като обобщавате историята, коригирате усилието за разсъждение, ограничавате
max_completion_tokensи избирате правилния модел