Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Laskutus ja kustannusten hallinta

Oppitunti 14 / 16 Päivitetty 30. heinäkuuta 2026 Kehittäjä
Tällä sivulla
  1. Ymmärrä, mistä maksat
  2. Kumuloituvan historian ansa
  3. Kustannusten lukeminen vastauksesta
  4. Optimointistrategiat
  5. Kustannusten seuranta tuotannossa
  6. Kustannushälytykset
  7. Keskeiset asiat

Ymmärrä, mistä maksat

Responses API:ssä on tärkeä laskutusyksityiskohta: ketjutetussa keskustelussa sinulta veloitetaan koko historia, vaikka et lähettäisi sitä uudelleen eksplisiittisesti. Tämän mekanismin ymmärtäminen on välttämätöntä kustannusten hallitsemiseksi tuotantoympäristössä.

Kumuloituvan historian ansa

Kun käytät parametria previous_response_id, palvelin rekonstruoi automaattisesti koko kontekstin. Tämä on kehittäjälle kätevää, mutta se tarkoittaa, että tokenit kumuloituvat:

KierrosViestisiVeloitettavat tokenit (syöte)
150 tokenia50
230 tokenia + kierroksen 1 historia130
340 tokenia + kierrosten 1–2 historia350
425 tokenia + kierrosten 1–3 historia725

Kasvu on kvadrattista. Keskustelun 10. kierrokseen mennessä syötetokenit voivat olla 10–50 kertaa suuremmat kuin alkuperäinen viestisi.

Kustannusten lukeminen vastauksesta

Jokainen vastaus sisältää usage-objektin, jossa on tarkat kustannustiedot:

{
  "usage": {
    "input_tokens": 450,
    "output_tokens": 280,
    "total_tokens": 730,
    "output_tokens_details": {
      "reasoning_tokens": 200
    },
    "cost_in_nano_usd": 1500000
  }
}

cost_in_nano_usd

Kenttä cost_in_nano_usd ilmoittaa hinnan nanodollareina:

1 000 000 000 nano-USD = 1 USD

Muunnos tapahtuu näin:

cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Tämän pyynnön hinta: ${cost_usd:.6f}")

Päättelytokenit

Kentän output_tokens_details sisältämät reasoning_tokens veloitetaan output-tokenien hinnalla. Ne voivat muodostaa 50–80 % output-tokeneista päättelymalleissa.

Optimointistrategiat

Rajoita keskustelun pituutta

Älä ketjuta keskustelua loputtomiin, vaan tee yhteenvetoja säännöllisesti:

# N kierroksen jälkeen tee yhteenveto ja aloita alusta
if turn_count > 5:
    summary = client.responses.create(
        model="grok-4.20-0309-reasoning",
        input="Summarize this conversation in 3 key points.",
        previous_response_id=last_id
    )
    # Aloita uudelleen käyttäen yhteenvetoa uutena kontekstina
    new_start = client.responses.create(
        model="grok-4.20-0309-reasoning",
        instructions=f"Previous context: {summary.output[0].content[0].text}",
        input=user_message
    )

Valitse oikea malli

Kaikki mallit eivät maksa samaa. Käytä yksinkertaisiin tehtäviin vähemmän tehokasta (ja halvempaa) mallia. Varaa päättelymallit monimutkaisiin ongelmiin.

Hallitse parametria max_output_tokens

Rajoita outputia, kun et tarvitse pitkiä vastauksia:

{
  "model": "grok-4.20-0309-reasoning",
  "input": "Answer in one sentence: what is the capital of Japan?",
  "max_output_tokens": 100
}

Käytä arvoa store: false kun mahdollista

Tallentamattomia vastauksia ei säilytetä palvelimella. Tämä ei pienennä suoraa kustannusta, mutta välttää tarpeettoman datan kertymisen.

Kustannusten seuranta tuotannossa

Toteuta systemaattinen seuranta:

import json
from datetime import datetime

def log_usage(response, user_id, feature):
    log_entry = {
        "timestamp": datetime.now().isoformat(),
        "user_id": user_id,
        "feature": feature,
        "response_id": response.id,
        "model": response.model,
        "input_tokens": response.usage.input_tokens,
        "output_tokens": response.usage.output_tokens,
        "reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
        "cost_nano_usd": response.usage.cost_in_nano_usd,
        "cost_usd": response.usage.cost_in_nano_usd / 1e9
    }
    # Tallenna lokijärjestelmääsi
    save_to_db(log_entry)

Kustannushälytykset

Määritä hälytysrajat:

MAX_COST_PER_REQUEST = 0.05  # 5 USD senttiä

cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
    alert(f"Kallis pyyntö havaittu: ${cost:.4f} (käyttäjä: {user_id})")

Keskeiset asiat

  • Ketjutetuista keskusteluista veloitetaan koko historia joka kierroksella – kasvu on kvadrattista
  • cost_in_nano_usd / 1 miljardi = hinta USD:ssä
  • Päättelytokenit veloitetaan, vaikka niitä ei näy suoraan vastauksessa
  • Tee pitkistä keskusteluista yhteenvetoja kustannusten hillitsemiseksi
  • Toteuta systemaattinen kustannusten seuranta käyttäjä- ja ominaisuuskohtaisesti