max_completion_tokens και προϋπολογισμός tokens
Σε αυτήν τη σελίδα
Μάθημα αναθεωρημένο στις 3 Νοεμβρίου 2026 με βάση την αναφορά API της xAI (Chat Completions και Responses), τον οδηγό Reasoning και τις βέλτιστες πρακτικές της xAI: τα
max_completion_tokensκαιmax_output_tokensπεριορίζουν μόνο την ορατή απάντηση—τα tokens συλλογισμού και τα tokens κλήσεων συναρτήσεων δεν προσμετρώνται σε αυτό το όριο—και έχουν προεπιλογή τα 128.000. Η προηγούμενη έκδοση υποστήριζε το αντίθετο και καθόριζε το όριο με βάση τον συλλογισμό· όριζε επίσης μια προσπάθεια στοgrok-4.20-0309-reasoning, το οποίο δεν το δέχεται. Πηγές: Chat Completions · Responses · Reasoning.
Τι περιορίζει πραγματικά το όριο
Για ένα μοντέλο συλλογισμού, μπορεί να νομίζετε ότι το όριο εξόδου μοιράζεται τον προϋπολογισμό του μεταξύ σκέψης και απάντησης. Αυτό δεν ισχύει στην xAI. Η αναφορά API είναι ρητή: τα max_completion_tokens (Chat Completions) και τα max_output_tokens (Responses API) εφαρμόζονται μόνο στα ορατά tokens εξόδου· τα tokens συλλογισμού και τα tokens κλήσεων συναρτήσεων δεν προσμετρώνται.
max_completion_tokens → μόνο ορατή απάντηση
tokens συλλογισμού → εκτός ορίου, ορίζονται από την προσπάθεια
Χωρίς τιμή, αυτό το όριο έχει προεπιλογή 128.000 tokens. Όσον αφορά το παλιό max_tokens, έχει καταργηθεί υπέρ του max_completion_tokens.
Καθοδήγηση συλλογισμού: προσπάθεια, όχι όριο
Επειδή το όριο δεν επηρεάζει τον συλλογισμό, η ποσότητά του ρυθμίζεται από την προσπάθεια. Στα grok-4.7, grok-4.6 και grok-4.5, η παράμετρος είναι reasoning_effort στο Chat Completions και reasoning.effort στο Responses API· έχει προεπιλογή το high, δέχεται τα low και medium, και το xhigh από το Grok 4.6 και μετά. Ο συλλογισμός δεν μπορεί να απενεργοποιηθεί.
Το grok-4.20-0309-reasoning δεν δέχεται αυτή την παράμετρο: κάνει πάντα συλλογισμό, ενώ η παραλλαγή του grok-4.20-0309-non-reasoning απαντά χωρίς συλλογισμό. Τέλος, στο grok-4.20-multi-agent, η προσπάθεια δεν ορίζει το βάθος του συλλογισμού, αλλά τον αριθμό των πρακτόρων που κινητοποιούνται (4 ή 16).
response = client.chat.completions.create(
model="grok-4.7",
reasoning_effort="low", # απλή εργασία: λίγος συλλογισμός
messages=[{"role": "user", "content": "Classify this ticket: billing, access, or bug?"}],
)
print(response.usage.completion_tokens_details.reasoning_tokens)
Ο αριθμός των tokens συλλογισμού εμφανίζεται στη χρήση της απάντησης: usage.completion_tokens_details.reasoning_tokens στο Chat Completions, usage.output_tokens_details.reasoning_tokens στο Responses API. Προσμετρώνται στα χρεώσιμα tokens: επομένως, είναι η προσπάθεια και όχι το όριο εξόδου που επιβαρύνει αυτή τη γραμμή χρέωσης.
Διαστασιολόγηση του ορίου εξόδου
Το όριο χρησιμεύει μόνο για τον περιορισμό του μήκους της ίδιας της απάντησης. Οι βέλτιστες πρακτικές της xAI δίνουν έναν απλό κανόνα: ορίστε το πάνω από την μεγαλύτερη απάντηση που αναμένετε, ή αφήστε την προεπιλεγμένη τιμή των 128.000 tokens. Ένα πολύ αυστηρό όριο κόβει την ορατή απάντηση, ανεξάρτητα από την προσπάθεια συλλογισμού.
| Αναμενόμενη απάντηση | Εύλογο όριο εξόδου |
|---|---|
| Μια ετικέτα, ένας αριθμός | μερικές δεκάδες tokens |
| Μια παράγραφος | 500 έως 1.000 tokens |
| Μια δομημένη αναφορά | αρκετές χιλιάδες tokens |
| Καμία ακριβής ιδέα | η προεπιλεγμένη τιμή |
Εντοπισμός περικοπής
Όταν η ορατή απάντηση φτάνει στο όριο, το Chat Completions επιστρέφει "length" στο finish_reason αντί για "stop", και το Responses API επιστρέφει μια κατάσταση incomplete. Μπορείτε να εντοπίσετε αυτή την κατάσταση και να επαναλάβετε την κλήση με υψηλότερο όριο:
response = client.chat.completions.create(
model="grok-4.7",
messages=[{"role": "user", "content": question}],
max_completion_tokens=2000,
)
if response.choices[0].finish_reason == "length":
# Η ορατή απάντηση κόπηκε: επανάληψη με υψηλότερο όριο
response = client.chat.completions.create(
model="grok-4.7",
messages=[{"role": "user", "content": question}],
max_completion_tokens=8000,
)
Να μην συγχέεται με το όριο συμφραζομένων
Το όριο εξόδου είναι ανεξάρτητο από το παράθυρο συμφραζομένων του μοντέλου—500.000 tokens για το grok-4.7, 1 εκατομμύριο για το grok-4.20-0309-reasoning—το οποίο περιορίζει ολόκληρη τη συνομιλία. Επιπλέον, ένα αίτημα βαθύ συλλογισμού μπορεί να διαρκέσει αρκετά λεπτά: η xAI συνιστά να επιτρέπετε τουλάχιστον 900 δευτερόλεπτα ανά αίτημα και να προτιμάτε τη ροή δεδομένων (streaming).
Βασικά σημεία
- Τα
max_completion_tokensκαιmax_output_tokensπεριορίζουν μόνο την ορατή απάντηση: ο συλλογισμός δεν προσμετράται σε αυτό - Χωρίς τιμή, το όριο εξόδου έχει προεπιλογή τα 128.000 tokens· το
max_tokensέχει καταργηθεί - Η ποσότητα συλλογισμού ορίζεται από την προσπάθεια (
reasoning_effortήreasoning.effort) στα grok-4.5 έως 4.7· τοgrok-4.20-0309-reasoningδεν διαθέτει αυτή την παράμετρο - Τα tokens συλλογισμού εμφανίζονται στη χρήση και αποτελούν μέρος της χρέωσης
- Μια κομμένη απάντηση εντοπίζεται μέσω του
finish_reason: "length"ή της κατάστασηςincomplete