Πεδία Κόστους στις Αποκρίσεις
Σε αυτήν τη σελίδα
Παρακολούθηση Κόστους σε Πραγματικό Χρόνο
Κάθε απόκριση του Grok API περιλαμβάνει τις λεπτομέρειες του κόστους που μόλις incurred. Πολλές ομάδες ανακαλύπτουν αυτές τις πληροφορίες πολύ αργά, όταν φτάνει ο μηνιαίος λογαριασμός, παρόλο που είναι διαθέσιμες αίτημα προς αίτημα. Εκμεταλλευόμενοι τες από την αρχή της ενσωμάτωσης, εντοπίζετε αποκλίσεις μέσα σε μία ώρα από την εμφάνισή τους: ένα prompt συστήματος που διπλασιάστηκε σε μέγεθος μετά από μια ανάπτυξη, ένας κακώς βαθμονομημένος βρόχος επανάληψης που επαναλαμβάνει τις ίδιες κλήσεις, ή ένα context που ξεπερνά ένα κατώφλι χρέωσης. Χωρίς αυτή την παρακολούθηση, αυτά τα περιστατικά παραμένουν αόρατα μέχρι την έκδοση του τιμολογίου.
Το Αντικείμενο usage
Κάθε απόκριση περιλαμβάνει ένα αντικείμενο usage που λεπτομερεί την κατανάλωση tokens και το σχετικό κόστος:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
Τα τέσσερα πεδία μέτρησης ερμηνεύονται ως εξής.
| Πεδίο | Σημασία |
|---|---|
prompt_tokens | αριθμός tokens εισόδου (το πλήρες prompt σας) |
completion_tokens | αριθμός tokens εξόδου (η απόκριση του μοντέλου) |
total_tokens | άθροισμα των tokens εισόδου και εξόδου |
cached_tokens | tokens εισόδου που εξυπηρετήθηκαν από την cache |
Μια λεπτομέρεια αποτρέπει ένα συχνό λάθος: τα cached_tokens περιλαμβάνονται στα prompt_tokens, δεν προστίθενται σε αυτά. Στο παραπάνω παράδειγμα, 1.250 tokens εισήλθαν στο μοντέλο, 800 προήλθαν από την cache και μόνο 450 χρεώθηκαν με τον πλήρη συντελεστή. Αν ο συσσωρευτής σας προσθέσει και τα δύο πεδία, θα μετρήσει διπλά το τμήμα της cache και θα διογκώσει τεχνητά τα στατιστικά όγκου σας.
Δύο Κλίμακες για το Ίδιο Κόστος
Το κόστος του αιτήματος παρέχεται σε δύο ακέραιες μονάδες. Αυτή η επιλογή δεν είναι τυχαία: η έκφραση κλασμάτων του cent σε αριθμούς κινητής υποδιαστολής εισάγει σφάλματα στρογγυλοποίησης που γίνονται ορατά κατά τη συσσώρευση εκατομμυρίων κλήσεων. Οι ακέραιοι αριθμοί αποφεύγουν εντελώς αυτό το πρόβλημα.
Το πεδίο cost_in_usd_ticks μετρά σε “ticks”, με 10 δισεκατομμύρια ticks ανά δολάριο. Η τιμή 5.000.000.000 στο παράδειγμα αντιστοιχεί επομένως σε 0,50 $, και ένα εκατομμύριο ticks ισούται με 0,0001 $. Η μετατροπή χωράει σε μία γραμμή:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Το πεδίο cost_in_nano_usd μετρά σε νανο-δολάρια, με ένα δισεκατομμύριο νανο-δολάρια ανά δολάριο. Τα 500.000.000 στο παράδειγμα αντιπροσωπεύουν το ίδιο ποσό, 0,50 $, και χίλια νανο-δολάρια ισούται με 0,000001 $. Η μετατροπή ακολουθεί την ίδια λογική:
cost_usd = cost_in_nano_usd / 1_000_000_000
Και τα δύο πεδία περιγράφουν το ίδιο ποσό σε διαφορετικές κλίμακες. Το cost_in_nano_usd είναι πιο διαισθητικό στη διαχείριση, ενώ το cost_in_usd_ticks προσφέρει ελαφρώς μεγαλύτερη ακρίβεια. Επιλέξτε το ένα και μείνετε σε αυτό σε όλη την αλυσίδα μέτρησής σας: η ανάμειξη και των δύο στον ίδιο συσσωρευτή είναι ο καλύτερος τρόπος για να λάβετε ασυνεπή σύνολα.
Δημιουργία ενός Ιχνηλάτη Κόστους
Σε περιβάλλον παραγωγής, ένας μοναδικός συσσωρευτής αρκεί για να μετατρέψει αυτά τα πεδία σε έναν πίνακα ελέγχου. Η κλάση παρακάτω καταγράφει κάθε αντικείμενο usage και εκθέτει το σωρευτικό κόστος μαζί με τον ρυθμό cache:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
Στη συνέχεια, συνδέστε κατώφλια στο total_cost_usd. Ένα πρώτο κατώφλι στο 80% του ημερήσιου προϋπολογισμού ενεργοποιεί μια ενημερωτική ειδοποίηση για την τεχνική ομάδα· ένα δεύτερο στο 95% γίνεται κρίσιμη ειδοποίηση που απαιτεί ανθρώπινη απόφαση· στο 100%, η εφαρμογή διακόπτει αυτόματα τα μη κρίσιμα αιτήματα—ομαδικές εργασίες, προ-υπολογισμούς, καθυστερημένες εμπλουτίσεις—και επιτρέπει μόνο την άμεση κίνηση χρηστών. Αυτή η κομψή υποβάθμιση είναι καλύτερη από μια ξαφνική διακοπή υπηρεσίας σε μια ημέρα αιχμής.
Ανάλυση του Ρυθμού Cache
Η ιδιότητα cache_rate αξίζει έναν δικό της πίνακα ελέγχου, καθώς αντανακλά άμεσα την ποιότητα της δομής του prompt σας.
| Ρυθμός Cache | Ερμηνεία |
|---|---|
| 0 έως 20% | δεν υπάρχει αποτελεσματική cache, αναθεωρήστε τη δομή του prompt |
| 20 έως 50% | μερική cache, ελέγξτε τη σταθερότητα των system prompts σας |
| 50 έως 80% | καλός ρυθμός για συνομιλίες |
| 80% και άνω | εξαιρετικός, τυπικός για μακρά, σταθερά prompts |
Ένας ρυθμός που πέφτει απότομα από τη μία εβδομάδα στην άλλη είναι σχεδόν πάντα σημάδι μιας ανάπτυξης που εισήγαγε μια μεταβλητή στην αρχή του prompt. Το επόμενο μάθημα λεπτομερεί τον μηχανισμό· προς το παρόν, θυμηθείτε ότι αυτός ο αριθμός είναι ένας δείκτης παλινδρόμησης τόσο πολύτιμος όσο και ένας ρυθμός σφάλματος.
Τιμές της 5ης Αυγούστου 2026 — οι τιμές εξελίσσονται τακτικά: πριν από οποιοδήποτε υπολογισμό προϋπολογισμού, ελέγξτε τον τρέχοντα τιμοκατάλογο στη επίσημη σελίδα μοντέλων και τιμολόγησης της xAI.
Βασικά σημεία
- Κάθε απόκριση API περιέχει ένα αντικείμενο
usageμε λεπτομέρειες tokens και κόστος cost_in_usd_ticks: 10 δισεκατομμύρια ticks = 1 $ ΗΠΑcost_in_nano_usd: 1 δισεκατομμύριο νανο-δολάρια ΗΠΑ = 1 $ ΗΠΑ- Το πεδίο
cached_tokensμετρά την αποδοτικότητα της cache - Δημιουργήστε έναν ιχνηλάτη κόστους σε παραγωγή με ειδοποιήσεις προϋπολογισμού