Χρέωση και Διαχείριση Κόστους
Σε αυτήν τη σελίδα
Κατανοήστε Τι Πληρώνετε
Το API Responses έχει μια σημαντική λεπτομέρεια χρέωσης: σε μια αλυσιδωτή συνομιλία, χρεώνεστε για ολόκληρο το ιστορικό, ακόμα και αν δεν το στείλετε ρητά εκ νέου. Η κατανόηση αυτού του μηχανισμού είναι απαραίτητη για τον έλεγχο του κόστους σας στην παραγωγή.
Η Παγίδα του Αθροιστικού Ιστορικού
Με το previous_response_id, ο διακομιστής ανακατασκευάζει αυτόματα το πλήρες πλαίσιο. Αυτό είναι βολικό για τον προγραμματιστή, αλλά σημαίνει ότι τα tokens συσσωρεύονται:
| Γύρος | Το μήνυμά σας | Χρεούμενα tokens (εισόδου) |
|---|---|---|
| 1 | 50 tokens | 50 |
| 2 | 30 tokens + ιστορικό γύρου 1 | 130 |
| 3 | 40 tokens + ιστορικό γύρων 1–2 | 350 |
| 4 | 25 tokens + ιστορικό γύρων 1–3 | 725 |
Η ανάπτυξη είναι τετραγωνική. Στον 10ο γύρο μιας συνομιλίας, τα tokens εισόδου μπορεί να είναι 10 έως 50 φορές υψηλότερα από το αρχικό σας μήνυμα.
Ανάγνωση Κόστους στην Απόκριση
Κάθε απόκριση περιλαμβάνει ένα αντικείμενο usage με το ακριβές κόστος:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
Το πεδίο cost_in_nano_usd δίνει το κόστος σε νανο-δολάρια:
1.000.000.000 nano-USD = 1 USD
Για τη μετατροπή:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Cost of this request: ${cost_usd:.6f}")
Tokens Συλλογισμού
Τα reasoning_tokens στο output_tokens_details χρεώνονται με την τιμή των tokens εξόδου. Μπορούν να αντιπροσωπεύουν το 50% έως 80% των tokens εξόδου στα μοντέλα συλλογισμού.
Στρατηγικές Βελτιστοποίησης
Περιορισμός του Μήκους Συνομιλίας
Αντί να κάνετε αλυσιδωτές κλήσεις επ’ αόριστον, κάντε περιοδική σύνοψη:
# Μετά από N γύρους, συνοψίστε και ξεκινήστε εκ νέου
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Summarize this conversation in 3 key points.",
previous_response_id=last_id
)
# Επανεκκίνηση με τη σύνοψη ως νέο πλαίσιο
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Previous context: {summary.output[0].content[0].text}",
input=user_message
)
Επιλογή του Κατάλληλου Μοντέλου
Δεν κοστίζουν όλα τα μοντέλα το ίδιο. Για απλές εργασίες, χρησιμοποιήστε ένα λιγότερο ισχυρό (και φθηνότερο) μοντέλο. Κρατήστε τα μοντέλα συλλογισμού για σύνθετα προβλήματα.
Έλεγχος του max_output_tokens
Περιορίστε την έξοδο όταν δεν χρειάζεστε μεγάλες απαντήσεις:
{
"model": "grok-4.20-0309-reasoning",
"input": "Answer in one sentence: what is the capital of Japan?",
"max_output_tokens": 100
}
Χρήση του store: false Όταν Είναι Εφικτό
Οι μη αποθηκευμένες απαντήσεις δεν διατηρούνται στον διακομιστή. Αυτό δεν μειώνει το άμεσο κόστος, αλλά αποφεύγει τη συσσώρευση περιττών δεδομένων.
Παρακολούθηση Κόστους στην Παραγωγή
Υλοποιήστε συστηματική παρακολούθηση:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Αποθήκευση στο σύστημα καταγραφής σας
save_to_db(log_entry)
Ειδοποιήσεις Κόστους
Ορίστε κατώφλια ειδοποιήσεων:
MAX_COST_PER_REQUEST = 0.05 # 5 σεντς δολαρίου ΗΠΑ
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Expensive request detected: ${cost:.4f} (user: {user_id})")
Βασικά σημεία
- Οι αλυσιδωτές συνομιλίες χρεώνουν ολόκληρο το ιστορικό σε κάθε γύρο—τετραγωνική ανάπτυξη
cost_in_nano_usd/ 1 δισεκατομμύριο = κόστος σε USD- Τα tokens συλλογισμού χρεώνονται αλλά είναι αόρατα στην απόκριση
- Συνοψίστε τις μεγάλες συνομιλίες για να περιορίσετε το κόστος
- Υλοποιήστε συστηματική παρακολούθηση κόστους ανά χρήστη και ανά λειτουργία