Χρήση tokens και reasoning_tokens
Σε αυτήν τη σελίδα
Ενημερώθηκε στις 3 Νοεμβρίου 2026. Με βάση την αναφορά API Chat Completions της xAI: το
max_tokensέχει καταργηθεί υπέρ τουmax_completion_tokens, το οποίο περιορίζει μόνο την ορατή απάντηση. Πηγή: Chat Completions.
Κατανόηση της χρέωσης tokens
Κάθε αίτημα στο API Chat Completions χρεώνεται με βάση τον αριθμό των tokens που καταναλώνονται. Το αντικείμενο usage στην απάντηση σάς παρέχει έναν ακριβή αριθμό, ο οποίος είναι απαραίτητος για την παρακολούθηση του κόστους, τη βελτιστοποίηση των prompts και τον καθορισμό του προϋπολογισμού του API σας.
Το πρότυπο αντικείμενο usage
Ακολουθεί η δομή του αντικειμένου usage που επιστρέφεται με κάθε απάντηση:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 342,
"total_tokens": 469
}
}
Οι τρεις βασικοί μετρητές
prompt_tokens: ο αριθμός των tokens στο αίτημά σας (μήνυμα συστήματος + ιστορικό + νέο μήνυμα). Αυτή είναι η πλευρά «εισόδου» της χρέωσης.completion_tokens: ο αριθμός των tokens που παρήγαγε το μοντέλο στην απάντησή του. Αυτή είναι η πλευρά «εξόδου».total_tokens: το άθροισμα των δύο προηγούμενων. Αυτό είναι το συνολικό ποσό που χρεώνεται για αυτό το αίτημα.
Επίδραση του ιστορικού στο κόστος
Επειδή το endpoint είναι χωρίς κατάσταση (stateless), το ιστορικό αποστέλλεται με κάθε αίτημα. Αυτό σημαίνει ότι τα prompt_tokens αυξάνονται με κάθε ανταλλαγή:
Ανταλλαγή 1 : prompt_tokens = 50 (σύστημα + 1 μήνυμα χρήστη)
Ανταλλαγή 2 : prompt_tokens = 150 (σύστημα + 2 χρήστη + 1 βοηθός)
Ανταλλαγή 3 : prompt_tokens = 300 (σύστημα + 3 χρήστη + 2 βοηθός)
Ανταλλαγή 10: prompt_tokens = 1500 (σύστημα + 10 χρήστη + 9 βοηθός)
Σε μεγάλες συνομιλίες, το κόστος του ιστορικού μπορεί γρήγορα να υπερβεί το κόστος της ίδιας της απάντησης.
reasoning_tokens: ειδικό για μοντέλα συλλογισμού
Τα μοντέλα Grok με δυνατότητες συλλογισμού (όπως το grok-4.20-0309-reasoning) προσθέτουν ένα επιπλέον πεδίο στο αντικείμενο usage:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 892,
"total_tokens": 1019,
"completion_tokens_details": {
"reasoning_tokens": 550
}
}
}
Τι είναι τα reasoning_tokens;
Τα reasoning_tokens αντιπροσωπεύουν τα tokens που χρησιμοποιεί το μοντέλο για τον εσωτερικό του συλλογισμό — τη «σκέψη» που κάνει πριν παράγει την τελική του απάντηση. Αυτά τα tokens παράγονται, αλλά δεν είναι ορατά στο πεδίο content της απάντησης.
Στο παραπάνω παράδειγμα:
- Το μοντέλο παρήγαγε συνολικά 892 tokens (
completion_tokens) - Συμπεριλαμβανομένων 550 εσωτερικών tokens συλλογισμού (
reasoning_tokens) - Απομένουν 342 tokens ορατής απάντησης (892 - 550)
Γιατί έχει σημασία αυτό
Τα tokens συλλογισμού χρεώνονται όπως τα κανονικά tokens ολοκλήρωσης. Για ένα μοντέλο συλλογισμού, η ορατή απάντηση μπορεί να αντιπροσωπεύει μόνο ένα κλάσμα του συνολικού κόστους:
usage = response.usage
visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens
print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")
Δεν είναι ασυνήθιστο τα tokens συλλογισμού να αντιπροσωπεύουν το 50 έως 80% των tokens ολοκλήρωσης για σύνθετες ερωτήσεις.
Στρατηγικές βελτιστοποίησης κόστους
Μείωση των prompt_tokens
- Συνοψίστε το ιστορικό: αντί να στέλνετε ολόκληρη τη συνομιλία, συνοψίστε τις παλαιότερες ανταλλαγές
- Περιορίστε το μήνυμα συστήματος: ένα prompt συστήματος 500 tokens σπάνια είναι απαραίτητο — στοχεύστε σε 100–200 tokens
- Φιλτράρετε τα μηνύματα: στείλτε μόνο τις ανταλλαγές που σχετίζονται με την τρέχουσα ερώτηση
Έλεγχος των completion_tokens
- Χρησιμοποιήστε το
max_completion_tokens(τοmax_tokensέχει καταργηθεί): περιορίζει την ορατή απάντηση, όχι τον συλλογισμό - Καθορίστε τη μορφή: η «Απάντηση σε 3 προτάσεις» κοστίζει λιγότερο από την «Αναλυτική εξήγηση»
- Επιλέξτε το κατάλληλο μοντέλο: ένα μοντέλο χωρίς συλλογισμό είναι λιγότερο δαπανηρό εάν η εργασία δεν απαιτεί σύνθετη σκέψη
Παρακολούθηση του κόστους σε παραγωγή
import json
def log_usage(response, requete_id: str):
usage = response.usage
log = {
"id": requete_id,
"prompt": usage.prompt_tokens,
"completion": usage.completion_tokens,
"total": usage.total_tokens,
}
if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
log["reasoning"] = usage.completion_tokens_details.reasoning_tokens
print(json.dumps(log))
Βασικά σημεία
- Το αντικείμενο
usageπεριέχει ταprompt_tokens,completion_tokensκαιtotal_tokens - Τα
prompt_tokensαυξάνονται με κάθε ανταλλαγή λόγω του ιστορικού που αποστέλλεται - Τα μοντέλα συλλογισμού προσθέτουν τα
reasoning_tokensστοcompletion_tokens_details - Τα tokens συλλογισμού χρεώνονται με τον συντελεστή εξόδου αλλά είναι αόρατα στην απάντηση — το μερίδιό τους στο κόστος εξαρτάται από την εργασία και την προσπάθεια, οπότε μετρήστε το
- Βελτιστοποιήστε συνοψίζοντας το ιστορικό, προσαρμόζοντας την προσπάθεια συλλογισμού, περιορίζοντας το
max_completion_tokensκαι επιλέγοντας το κατάλληλο μοντέλο