Fatturar u Ġestjoni tal-Ispejjeż
F'din il-paġna
Ifhem għal xiex qed tħallas
L-API tar-Risposti għandha dettall importanti dwar il-fatturar: f’konversazzjoni mqaqqda (chained), inti tiġi ffatturat għall-istorja kollha, anke jekk ma tibgħathiex espliċitament mill-ġdid. Li tifhem dan il-mekkaniżmu huwa essenzjali biex tikkontrolla l-ispejjeż tiegħek fil-produzzjoni.
Il-Faħla tal-Istorja Kumulattiva
Ma’ previous_response_id, is-server jirrikostruwixxi awtomatikament il-kuntest sħiħ. Dan huwa konvenjenti għall-iżviluppatur, iżda jfisser li t-tokens jakkumulaw:
| Dawra | Il-messaġġ tiegħek | Tokens iffatturati (input) |
|---|---|---|
| 1 | 50 token | 50 |
| 2 | 30 token + istorja tad-dawra 1 | 130 |
| 3 | 40 token + istorja tad-dawriet 1–2 | 350 |
| 4 | 25 token + istorja tad-dawriet 1–3 | 725 |
It-tkabbir huwa kwadratiku. Sal-għaxar dawra ta’ konversazzjoni, it-tokens tal-input jistgħu jkunu 10 sa 50 darba ogħla mill-messaġġ inizjali tiegħek.
Qari tal-Ispejjeż fir-Risposta
Kull risposta tinkludi oġġett usage bl-ispiża eżatta:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
Il-qasam cost_in_nano_usd jagħti l-ispiża f’nano-dollars:
1,000,000,000 nano-USD = 1 USD
Biex tikkonverti:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Cost of this request: ${cost_usd:.6f}")
Tokens tar-Raġunament
It-reasoning_tokens f’output_tokens_details huma ffatturati bir-rata tat-token tal-output. Jistgħu jammontaw għal 50 sa 80% tat-tokens tal-output fuq mudelli tar-raġunament.
Strateġiji ta’ Ottimizzazzjoni
Illimita t-Tul tal-Konversazzjoni
Minflok ma tkompli tqaqqad indefinittivament, agħmel sommarju perjodikament:
# Wara N dawriet, agħmel sommarju u ibda mill-ġdid
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Summarize this conversation in 3 key points.",
previous_response_id=last_id
)
# Ibda mill-ġdid bis-sommarju bħala l-kuntest il-ġdid
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Previous context: {summary.output[0].content[0].text}",
input=user_message
)
Agħżel il-Mudell It-Tajjeb
Mhux il-mudelli kollha jiswew l-istess. Għal kompiti sempliċi, uża mudell inqas qawwi (u irħas). Irriżerva l-mudelli tar-raġunament għal problemi kumplessi.
Ikkontrolla max_output_tokens
Illimita l-output meta ma tkunx teħtieġ tweġibiet twal:
{
"model": "grok-4.20-0309-reasoning",
"input": "Answer in one sentence: what is the capital of Japan?",
"max_output_tokens": 100
}
Uża store: false Meta Possibbli
Ir-risposti mhux maħżuna ma jinżammux fuq is-server. Dan ma jnaqqasx l-ispiża diretta iżda jevita l-akkumulazzjoni ta’ data mhux meħtieġa.
Traċċar tal-Ispejjeż fil-Produzzjoni
Implimenta traċċar sistematiku:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Iħżen fis-sistema tal-logging tiegħek
save_to_db(log_entry)
Avviżi tal-Ispejjeż
Ippara limiti ta’ avviż:
MAX_COST_PER_REQUEST = 0.05 # 5 ċenteżmi ta' USD
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Expensive request detected: ${cost:.4f} (user: {user_id})")
Punti Ewlenin
- Il-konversazzjonijiet imqaqqda jiffatturaw għall-istorja kollha f’kull dawra—tkabbir kwadratiku
cost_in_nano_usd/ 1 biljun = spiża f’USD- It-tokens tar-raġunament huma ffatturati iżda inviżibbli fir-risposta
- Agħmel sommarju ta’ konversazzjonijiet twal biex iżżomm l-ispejjeż taħt kontroll
- Implimenta traċċar sistematiku tal-ispejjeż għal kull utent u għal kull funzjoni