Фактуриране и управление на разходите
На тази страница
Разберете за какво плащате
API за отговори (Responses API) има важна подробност във фактурирането: при верижни разговори Ви се таксува за цялата история, дори ако не я изпращате изрично отново. Разбирането на този механизъм е от съществено значение за контрол на разходите Ви в продукционна среда.
Капанът на кумулативната история
С параметъра previous_response_id сървърът автоматично възстановява пълния контекст. Това е удобно за разработчика, но означава, че токените се натрупват:
| Ред | Вашето съобщение | Таксувани токени (вход) |
|---|---|---|
| 1 | 50 токена | 50 |
| 2 | 30 токена + история от ред 1 | 130 |
| 3 | 40 токена + история от редове 1–2 | 350 |
| 4 | 25 токена + история от редове 1–3 | 725 |
Растежът е квадратичен. Към 10-ия ред на разговора входните токени могат да бъдат от 10 до 50 пъти по-високи от първоначалното Ви съобщение.
Преглед на разходите в отговора
Всеки отговор включва обект usage с точната стойност на разхода:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
Полето cost_in_nano_usd предоставя разхода в нано-долари:
1 000 000 000 нано-USD = 1 USD
За конвертиране:
cost_usd = response.usage.cost_in_nano_usd / 1_000 000_000
print(f"Cost of this request: ${cost_usd:.6f}")
Токени за разсъждение (Reasoning Tokens)
Полето reasoning_tokens в output_tokens_details се таксува със ставката за изходни токени. При моделите за разсъждение те могат да представляват от 50% до 80% от изходните токени.
Стратегии за оптимизация
Ограничаване на дължината на разговора
Вместо да верижите безкрайно, правете периодично обобщение:
# След N реда, обобщете и рестартирайте
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Summarize this conversation in 3 key points.",
previous_response_id=last_id
)
# Рестартирайте с обобщението като нов контекст
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Previous context: {summary.output[0].content[0].text}",
input=user_message
)
Избор на подходящия модел
Не всички модели струват еднакво. За прости задачи използвайте по-малко мощен (и по-евтин) модел. Запазете моделите за разсъждение за сложни проблеми.
Контрол на max_output_tokens
Ограничете изхода, когато не са необходими дълги отговори:
{
"model": "grok-4.20-0309-reasoning",
"input": "Answer in one sentence: what is the capital of Japan?",
"max_output_tokens": 100
}
Използвайте store: false, когато е възможно
Незапазените отговори не се съхраняват на сървъра. Това не намалява директния разход, но избягва натрупването на ненужни данни.
Проследяване на разходите в продукционна среда
Внедрете систематично проследяване:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Запазване във Вашата система за логиране
save_to_db(log_entry)
Известия за разходи
Настройте прагове за известяване:
MAX_COST_PER_REQUEST = 0.05 # 5 цента щатски долара
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Expensive request detected: ${cost:.4f} (user: {user_id})")
Ключови изводи
- Верижните разговори таксуват цялата история при всеки ред – квадратичен растеж
cost_in_nano_usd/ 1 милиард = разход в щатски долари- Токените за разсъждение се таксуват, но са невидими в отговора
- Обобщавайте дългите разговори, за да ограничите разходите
- Внедрете систематично проследяване на разходите за всеки потребител и функция