Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

max_completion_tokens και προϋπολογισμός tokens

Μάθημα 10 / 12 Ενημερώθηκε 3 Νοεμβρίου 2026 Για developers
Σε αυτήν τη σελίδα
  1. Τι περιορίζει πραγματικά το όριο
  2. Καθοδήγηση συλλογισμού: προσπάθεια, όχι όριο
  3. Διαστασιολόγηση του ορίου εξόδου
  4. Εντοπισμός περικοπής
  5. Να μην συγχέεται με το όριο συμφραζομένων
  6. Βασικά σημεία

Μάθημα αναθεωρημένο στις 3 Νοεμβρίου 2026 με βάση την αναφορά API της xAI (Chat Completions και Responses), τον οδηγό Reasoning και τις βέλτιστες πρακτικές της xAI: τα max_completion_tokens και max_output_tokens περιορίζουν μόνο την ορατή απάντηση—τα tokens συλλογισμού και τα tokens κλήσεων συναρτήσεων δεν προσμετρώνται σε αυτό το όριο—και έχουν προεπιλογή τα 128.000. Η προηγούμενη έκδοση υποστήριζε το αντίθετο και καθόριζε το όριο με βάση τον συλλογισμό· όριζε επίσης μια προσπάθεια στο grok-4.20-0309-reasoning, το οποίο δεν το δέχεται. Πηγές: Chat Completions · Responses · Reasoning.

Τι περιορίζει πραγματικά το όριο

Για ένα μοντέλο συλλογισμού, μπορεί να νομίζετε ότι το όριο εξόδου μοιράζεται τον προϋπολογισμό του μεταξύ σκέψης και απάντησης. Αυτό δεν ισχύει στην xAI. Η αναφορά API είναι ρητή: τα max_completion_tokens (Chat Completions) και τα max_output_tokens (Responses API) εφαρμόζονται μόνο στα ορατά tokens εξόδου· τα tokens συλλογισμού και τα tokens κλήσεων συναρτήσεων δεν προσμετρώνται.

max_completion_tokens → μόνο ορατή απάντηση
tokens συλλογισμού → εκτός ορίου, ορίζονται από την προσπάθεια

Χωρίς τιμή, αυτό το όριο έχει προεπιλογή 128.000 tokens. Όσον αφορά το παλιό max_tokens, έχει καταργηθεί υπέρ του max_completion_tokens.

Καθοδήγηση συλλογισμού: προσπάθεια, όχι όριο

Επειδή το όριο δεν επηρεάζει τον συλλογισμό, η ποσότητά του ρυθμίζεται από την προσπάθεια. Στα grok-4.7, grok-4.6 και grok-4.5, η παράμετρος είναι reasoning_effort στο Chat Completions και reasoning.effort στο Responses API· έχει προεπιλογή το high, δέχεται τα low και medium, και το xhigh από το Grok 4.6 και μετά. Ο συλλογισμός δεν μπορεί να απενεργοποιηθεί.

Το grok-4.20-0309-reasoning δεν δέχεται αυτή την παράμετρο: κάνει πάντα συλλογισμό, ενώ η παραλλαγή του grok-4.20-0309-non-reasoning απαντά χωρίς συλλογισμό. Τέλος, στο grok-4.20-multi-agent, η προσπάθεια δεν ορίζει το βάθος του συλλογισμού, αλλά τον αριθμό των πρακτόρων που κινητοποιούνται (4 ή 16).

response = client.chat.completions.create(
    model="grok-4.7",
    reasoning_effort="low",  # απλή εργασία: λίγος συλλογισμός
    messages=[{"role": "user", "content": "Classify this ticket: billing, access, or bug?"}],
)
print(response.usage.completion_tokens_details.reasoning_tokens)

Ο αριθμός των tokens συλλογισμού εμφανίζεται στη χρήση της απάντησης: usage.completion_tokens_details.reasoning_tokens στο Chat Completions, usage.output_tokens_details.reasoning_tokens στο Responses API. Προσμετρώνται στα χρεώσιμα tokens: επομένως, είναι η προσπάθεια και όχι το όριο εξόδου που επιβαρύνει αυτή τη γραμμή χρέωσης.

Διαστασιολόγηση του ορίου εξόδου

Το όριο χρησιμεύει μόνο για τον περιορισμό του μήκους της ίδιας της απάντησης. Οι βέλτιστες πρακτικές της xAI δίνουν έναν απλό κανόνα: ορίστε το πάνω από την μεγαλύτερη απάντηση που αναμένετε, ή αφήστε την προεπιλεγμένη τιμή των 128.000 tokens. Ένα πολύ αυστηρό όριο κόβει την ορατή απάντηση, ανεξάρτητα από την προσπάθεια συλλογισμού.

Αναμενόμενη απάντησηΕύλογο όριο εξόδου
Μια ετικέτα, ένας αριθμόςμερικές δεκάδες tokens
Μια παράγραφος500 έως 1.000 tokens
Μια δομημένη αναφοράαρκετές χιλιάδες tokens
Καμία ακριβής ιδέαη προεπιλεγμένη τιμή

Εντοπισμός περικοπής

Όταν η ορατή απάντηση φτάνει στο όριο, το Chat Completions επιστρέφει "length" στο finish_reason αντί για "stop", και το Responses API επιστρέφει μια κατάσταση incomplete. Μπορείτε να εντοπίσετε αυτή την κατάσταση και να επαναλάβετε την κλήση με υψηλότερο όριο:

response = client.chat.completions.create(
    model="grok-4.7",
    messages=[{"role": "user", "content": question}],
    max_completion_tokens=2000,
)

if response.choices[0].finish_reason == "length":
    # Η ορατή απάντηση κόπηκε: επανάληψη με υψηλότερο όριο
    response = client.chat.completions.create(
        model="grok-4.7",
        messages=[{"role": "user", "content": question}],
        max_completion_tokens=8000,
    )

Να μην συγχέεται με το όριο συμφραζομένων

Το όριο εξόδου είναι ανεξάρτητο από το παράθυρο συμφραζομένων του μοντέλου—500.000 tokens για το grok-4.7, 1 εκατομμύριο για το grok-4.20-0309-reasoning—το οποίο περιορίζει ολόκληρη τη συνομιλία. Επιπλέον, ένα αίτημα βαθύ συλλογισμού μπορεί να διαρκέσει αρκετά λεπτά: η xAI συνιστά να επιτρέπετε τουλάχιστον 900 δευτερόλεπτα ανά αίτημα και να προτιμάτε τη ροή δεδομένων (streaming).

Βασικά σημεία

  • Τα max_completion_tokens και max_output_tokens περιορίζουν μόνο την ορατή απάντηση: ο συλλογισμός δεν προσμετράται σε αυτό
  • Χωρίς τιμή, το όριο εξόδου έχει προεπιλογή τα 128.000 tokens· το max_tokens έχει καταργηθεί
  • Η ποσότητα συλλογισμού ορίζεται από την προσπάθεια (reasoning_effort ή reasoning.effort) στα grok-4.5 έως 4.7· το grok-4.20-0309-reasoning δεν διαθέτει αυτή την παράμετρο
  • Τα tokens συλλογισμού εμφανίζονται στη χρήση και αποτελούν μέρος της χρέωσης
  • Μια κομμένη απάντηση εντοπίζεται μέσω του finish_reason: "length" ή της κατάστασης incomplete