Rēķinu sagatavošana un izmaksu pārvaldība
Šajā lapā
Saproti, par ko tu maksā
Responses API ir svarīga rēķinu sagatavošanas nianse: ķēdētā sarunā tev tiek aprēķināta maksa par visu vēsturi, pat ja tu to eksplicīti nenosūti atkārtoti. Šī mehānisma izpratne ir būtiska, lai ražošanas vidē kontrolētu savas izmaksas.
Kumulatīvās vēstures slazds
Izmantojot previous_response_id, serveris automātiski atjauno pilnu kontekstu. Tas ir ērti izstrādātājam, taču tas nozīmē, ka tokeni uzkrājas:
| Gājiens | Tavs ziņojums | Apmaksātie tokeni (ievade) |
|---|---|---|
| 1 | 50 tokeni | 50 |
| 2 | 30 tokeni + 1. gājiena vēsture | 130 |
| 3 | 40 tokeni + 1.–2. gājiena vēsture | 350 |
| 4 | 25 tokeni + 1.–3. gājiena vēsture | 725 |
Pieaugums ir kvadrātisks. Sākot ar sarunas 10. gājienu, ievades tokeni var būt 10 līdz 50 reizes vairāk nekā tavs sākotnējais ziņojums.
Izmaksu lasīšana atbildē
Katrā atbildē ir iekļauts objekts usage ar precīzām izmaksām:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
Lauks cost_in_nano_usd norāda izmaksas nano-dolāros:
1 000 000 000 nano-USD = 1 USD
Lai konvertētu:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Cost of this request: ${cost_usd:.6f}")
Spriešanas tokeni (Reasoning Tokens)
reasoning_tokens laukā output_tokens_details tiek apmaksāti pēc izvades tokena likmes. Spriešanas modeļos tie var veidot 50 līdz 80 % no visiem izvades tokeniem.
Optimizācijas stratēģijas
Ierobežo sarunas garumu
Tā vietā, lai ķēdētu bezgalīgi, periodiski veic kopsavilkumu:
# Pēc N gājieniem izveido kopsavilkumu un sāc no jauna
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Summarize this conversation in 3 key points.",
previous_response_id=last_id
)
# Sāc no jauna, izmantojot kopsavilkumu kā jauno kontekstu
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Previous context: {summary.output[0].content[0].text}",
input=user_message
)
Izvēlies pareizo modeli
Ne visi modeļi maksā vienādi. Vienkāršiem uzdevumiem izmanto mazāk jaudīgu (un lētāku) modeli. Spriešanas modeļus atstāj sarežģītām problēmām.
Kontrolē max_output_tokens
Ierobežo izvadi, ja tev nav nepieciešamas garas atbildes:
{
"model": "grok-4.20-0309-reasoning",
"input": "Answer in one sentence: what is the capital of Japan?",
"max_output_tokens": 100
}
Izmanto store: false, kad tas ir iespējams
Nesaglabātās atbildes netiek glabātas serverī. Tas tieši nesamazina izmaksas, taču novērš lieku datu uzkrāšanos.
Izmaksu izsekošana ražošanas vidē
Ievies sistemātisku izsekošanu:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Saglabā savā žurnālēšanas sistēmā
save_to_db(log_entry)
Izmaksu brīdinājumi
Iestatī brīdinājumu sliekšņus:
MAX_COST_PER_REQUEST = 0.05 # 5 USD centi
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Expensive request detected: ${cost:.4f} (user: {user_id})")
Galvenās atziņas
- Ķēdētās sarunās katrā gājienā tiek apmaksāta visa vēsture – pieaugums ir kvadrātisks
cost_in_nano_usd/ 1 miljards = izmaksas USD- Spriešanas tokeni tiek apmaksāti, bet atbildē tie nav redzami
- Veic garu sarunu kopsavilkumus, lai ierobežotu izmaksas
- Ievies sistemātisku izmaksu izsekošanu katram lietotājam un katrai funkcijai