Laskutus ja kustannusten hallinta
Tällä sivulla
Ymmärrä, mistä maksat
Responses API:ssä on tärkeä laskutusyksityiskohta: ketjutetussa keskustelussa sinulta veloitetaan koko historia, vaikka et lähettäisi sitä uudelleen eksplisiittisesti. Tämän mekanismin ymmärtäminen on välttämätöntä kustannusten hallitsemiseksi tuotantoympäristössä.
Kumuloituvan historian ansa
Kun käytät parametria previous_response_id, palvelin rekonstruoi automaattisesti koko kontekstin. Tämä on kehittäjälle kätevää, mutta se tarkoittaa, että tokenit kumuloituvat:
| Kierros | Viestisi | Veloitettavat tokenit (syöte) |
|---|---|---|
| 1 | 50 tokenia | 50 |
| 2 | 30 tokenia + kierroksen 1 historia | 130 |
| 3 | 40 tokenia + kierrosten 1–2 historia | 350 |
| 4 | 25 tokenia + kierrosten 1–3 historia | 725 |
Kasvu on kvadrattista. Keskustelun 10. kierrokseen mennessä syötetokenit voivat olla 10–50 kertaa suuremmat kuin alkuperäinen viestisi.
Kustannusten lukeminen vastauksesta
Jokainen vastaus sisältää usage-objektin, jossa on tarkat kustannustiedot:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
Kenttä cost_in_nano_usd ilmoittaa hinnan nanodollareina:
1 000 000 000 nano-USD = 1 USD
Muunnos tapahtuu näin:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Tämän pyynnön hinta: ${cost_usd:.6f}")
Päättelytokenit
Kentän output_tokens_details sisältämät reasoning_tokens veloitetaan output-tokenien hinnalla. Ne voivat muodostaa 50–80 % output-tokeneista päättelymalleissa.
Optimointistrategiat
Rajoita keskustelun pituutta
Älä ketjuta keskustelua loputtomiin, vaan tee yhteenvetoja säännöllisesti:
# N kierroksen jälkeen tee yhteenveto ja aloita alusta
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Summarize this conversation in 3 key points.",
previous_response_id=last_id
)
# Aloita uudelleen käyttäen yhteenvetoa uutena kontekstina
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Previous context: {summary.output[0].content[0].text}",
input=user_message
)
Valitse oikea malli
Kaikki mallit eivät maksa samaa. Käytä yksinkertaisiin tehtäviin vähemmän tehokasta (ja halvempaa) mallia. Varaa päättelymallit monimutkaisiin ongelmiin.
Hallitse parametria max_output_tokens
Rajoita outputia, kun et tarvitse pitkiä vastauksia:
{
"model": "grok-4.20-0309-reasoning",
"input": "Answer in one sentence: what is the capital of Japan?",
"max_output_tokens": 100
}
Käytä arvoa store: false kun mahdollista
Tallentamattomia vastauksia ei säilytetä palvelimella. Tämä ei pienennä suoraa kustannusta, mutta välttää tarpeettoman datan kertymisen.
Kustannusten seuranta tuotannossa
Toteuta systemaattinen seuranta:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Tallenna lokijärjestelmääsi
save_to_db(log_entry)
Kustannushälytykset
Määritä hälytysrajat:
MAX_COST_PER_REQUEST = 0.05 # 5 USD senttiä
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Kallis pyyntö havaittu: ${cost:.4f} (käyttäjä: {user_id})")
Keskeiset asiat
- Ketjutetuista keskusteluista veloitetaan koko historia joka kierroksella – kasvu on kvadrattista
cost_in_nano_usd/ 1 miljardi = hinta USD:ssä- Päättelytokenit veloitetaan, vaikka niitä ei näy suoraan vastauksessa
- Tee pitkistä keskusteluista yhteenvetoja kustannusten hillitsemiseksi
- Toteuta systemaattinen kustannusten seuranta käyttäjä- ja ominaisuuskohtaisesti