Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Ολοκληρώσεις Συνομιλίας και Αποκρίσεις σε Παρτίδες

Μάθημα 8 / 12 Ενημερώθηκε 3 Νοεμβρίου 2026 Για developers
Σε αυτήν τη σελίδα
  1. Τα δύο σημεία πρόσβασης κειμένου σε λειτουργία παρτίδας
  2. Αποκρίσεις σε παρτίδα
  3. Ολοκληρώσεις Συνομιλίας σε παρτίδα
  4. Διαφορές σε παρτίδα
  5. Κοινές προηγμένες παράμετροι
  6. Συνδυασμός των δύο σημείων πρόσβασης
  7. Βασικά σημεία

Ενημερώθηκε στις 3 Νοεμβρίου 2026. Βάσει των βέλτιστων πρακτικών της xAI: συνιστάται τιμή temperature στο 0.7 και top_p στο 0.95, αντί για χαμηλή θερμοκρασία. Πηγή: Βέλτιστες πρακτικές.

Ενημερώθηκε στις 2 Νοεμβρίου 2026. Σύμφωνα με την τεκμηρίωση της xAI: η έκπτωση παρτίδας είναι 20% στα επιλέξιμα μοντέλα κειμένου (όχι 50%), τα παραδείγματα ακολουθούν το REST API και το επίσημο xai-sdk (client.batch.*· το Batch API της xAI δεν χρησιμοποιεί τη μορφή της OpenAI, οπότε το SDK της OpenAI δεν εφαρμόζεται), και το API Responses έχει προτεραιότητα έναντι του Chat Completions, το οποίο αποτελεί παρωχημένο σημείο πρόσβασης στην xAI. Πηγές: Batch API · Αναφορά REST · Τιμολόγηση Παρτίδων.

Τα δύο σημεία πρόσβασης κειμένου σε λειτουργία παρτίδας

Τα σημεία πρόσβασης /v1/responses και /v1/chat/completions διαχειρίζονται τις περισσότερες παρτίδες κειμένου. Στα επιλέξιμα μοντέλα, και τα δύο επωφελούνται από την έκπτωση 20%. Ωστόσο, η xAI δεν τα κατατάσσει εξίσου: το Responses είναι το συνιστώμενο API, ενώ το Chat Completions αποτελεί παρωχημένο σημείο πρόσβασης που διατηρείται για υπάρχοντα κώδικα. Αυτό το μάθημα αναλύει τις ιδιαιτερότητές τους στο πλαίσιο μιας παρτίδας.

Αποκρίσεις σε παρτίδα

Σε λειτουργία παρτίδας, το API Responses δέχεται τις ίδιες παραμέτρους όπως και στον σύγχρονο τρόπο λειτουργίας· αλλάζει μόνο ο φάκελος JSONL:

{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}

Παρέχει πρόσβαση στα εργαλεία διακομιστή του Grok—αναζήτηση στον ιστό, αναζήτηση στο X, εκτέλεση κώδικα, MCP—τα οποία εκτελούνται κατά την επεξεργασία της παρτίδας:

{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}

Τυπικές περιπτώσεις χρήσης

  • Ταξινόμηση κειμένου (συναισθηματικός τόνος, κατηγορία, επείγον)
  • Δομημένη εξαγωγή πληροφοριών (οντότητες, ημερομηνίες, ποσά)
  • Περιλήψεις, διατύπωση εκ νέου και μεταφράσεις σε μεγάλη κλίμακα
  • Εμπλουτισμός δεδομένων μέσω αναζήτησης στον ιστό

Ολοκληρώσεις Συνομιλίας σε παρτίδα

Το Chat Completions παραμένει αποδεκτό, με τη μορφή messages του:

{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}

Το όριο μήκους ονομάζεται max_completion_tokens· το παλιό max_tokens έχει καταργηθεί. Κρατήστε αυτό το σημείο πρόσβασης για αιτήματα από κώδικα που έχει ήδη γραφτεί γι’ αυτό: οι νέες λειτουργίες φτάνουν πρώτα στο Responses.

Διαφορές σε παρτίδα

ΛειτουργίαResponsesChat Completions
Κατάσταση στην xAIΣυνιστώμενοΠαρωχημένο
Μορφή εισόδουinput (κείμενο ή λίστα μηνυμάτων), instructionsmessages
Εργαλεία διακομιστήΝαι (ιστός, X, κώδικας, MCP)Μη τεκμηριωμένα
Κλήση συναρτήσεωνΝαιΝαι
Δομημένες έξοδοιtext.formatresponse_format
Όριο εξόδουmax_output_tokensmax_completion_tokens
Έκπτωση παρτίδας (επιλέξιμα μοντέλα)20%20%

Κοινές προηγμένες παράμετροι

Η temperature κυμαίνεται από 0 έως 2 στην xAI, με τιμές άνω του 1 να δειγματοληπτούνται ως 1. Ωστόσο, οι βέλτιστες πρακτικές της xAI συνιστούν να ορίζεται στο 0.7, με το top_p στο 0.95, και να μην αποκλίνετε πολύ από αυτό: η συνοχή της παρτίδας εξαρτάται πρωτίστως από ακριβείς οδηγίες και δομημένες εξόδους.

Το όριο εξόδου (max_output_tokens ή max_completion_tokens) πρέπει να ορίζεται ρητά: χωρίς αυτό, ένα αίτημα μπορεί να παράγει μια πολύ μεγάλη απάντηση και να καταναλώνει tokens περιττά. Ισχύει μόνο για το ορατό κείμενο, όχι για τα tokens συλλογισμού.

Οι δομημένες έξοδοι επιβάλλουν ένα σχήμα JSON στην απάντηση, καθιστώντας τα αποτελέσματα άμεσα usable προγραμματιστικά χωρίς εύθραυστη ανάλυση. Με το Responses, το σχήμα τοποθετείται στο text.format:

{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}

Με το Chat Completions, το ισοδύναμο είναι το response_format, τύπου json_schema (ή json_object για έγκυρο JSON χωρίς επιβαλλόμενο σχήμα).

Συνδυασμός των δύο σημείων πρόσβασης

Μπορείτε να συνδυάσετε τα Responses και το Chat Completions στην ίδια παρτίδα, με κάθε γραμμή να ορίζει το σημείο πρόσβασής της στο πεδίο url:

{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}

Αυτή η ευελιξία επιτρέπει στα παλιά αιτήματα Chat Completions και στα νέα αιτήματα Responses να συνυπάρχουν κατά τη διάρκεια μιας μετάβασης.

Βασικά σημεία

  • Το Responses είναι το συνιστώμενο σημείο πρόσβασης, το Chat Completions είναι παρωχημένο· και τα δύο επωφελούνται από την έκπτωση 20% στα επιλέξιμα μοντέλα
  • Το Responses είναι απαραίτητο για τα εργαλεία διακομιστή (ιστός, X, κώδικας, MCP)
  • Ορίστε το temperature στο 0.7 και το top_p στο 0.95, όπως συνιστά η xAI, και ένα κατάλληλο όριο εξόδου
  • Οι δομημένες έξοδοι γίνονται μέσω του text.format (Responses) ή του response_format (Chat Completions)
  • Και τα δύο σημεία πρόσβασης μπορούν να συνυπάρχουν στην ίδια παρτίδα