Ροή δεδομένων SSE
Σε αυτήν τη σελίδα
Λήψη απαντήσεων σε πραγματικό χρόνο
Εξ ορισμού, το API περιμένει έως ότου παραχθεί ολόκληρη η απάντηση πριν την επιστρέψει. Με τη ροή δεδομένων (streaming), λαμβάνετε τα tokens καθώς παράγονται. Αυτή η τεχνική μειώνει τον χρόνο αναμονής που αντιλαμβάνεται ο χρήστης και σας επιτρέπει να εμφανίζετε τις απαντήσεις προοδευτικά, ακριβώς όπως κάνει η διεπαφή του Grok.
Πώς λειτουργεί η ροή δεδομένων
Η ροή δεδομένων χρησιμοποιεί το πρωτόκολλο Server-Sent Events (SSE). Αντί για μια μοναδική απόκριση HTTP, ο διακομιστής στέλνει μια συνεχή ροή συμβάντων. Κάθε συμβάν περιέχει ένα τμήμα της απάντησης και ο πελάτης τα συναρμολογεί για να ανακατασκευάσει το πλήρες κείμενο.
Η παράμετρος stream: true ενεργοποιεί αυτή τη λειτουργία για οποιοδήποτε σημείο τελικού δημιουργίας (generation endpoint).
Ροή δεδομένων σε Python με το OpenAI SDK
from openai import OpenAI
import os
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
stream = client.chat.completions.create(
model="grok-4.5",
messages=[
{"role": "user", "content": "Explain the SOLID principles in programming."}
],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
print() # Final line break
Πώς λειτουργεί ο κώδικας
- Το
stream=Trueενεργοποιεί τη ροή δεδομένων - Η απόκριση είναι ένας επαναλήπτης (iterator) αντικειμένων
chunk(θραυσμάτων) - Κάθε θραύσμα περιέχει ένα
deltaμε το νέο περιεχόμενο - Το
end=""αποτρέπει τις αλλαγές γραμμής μεταξύ των θραυσμάτων - Το
flush=Trueεξαναγκάζει την άμεση εμφάνιση
Ροή δεδομένων με το σημείο τελικού /v1/responses
stream = client.responses.create(
model="grok-4.5",
input="Describe the steps to deploy a web application.",
stream=True
)
for event in stream:
if hasattr(event, 'type') and event.type == 'response.output_text.delta':
print(event.delta, end="", flush=True)
print()
Το σημείο τελικού /v1/responses χρησιμοποιεί συμβάντα με τύπους. Ο τύπος response.output_text.delta περιέχει τα θραύσματα κειμένου.
Ροή δεδομένων με cURL
Το cURL υποστηρίζει εγγενώς τη ροή δεδομένων SSE. Προσθέστε "stream": true στο σώμα του αιτήματος:
curl -N https://api.x.ai/v1/chat/completions \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "grok-4.5",
"messages": [{"role": "user", "content": "Hello"}],
"stream": true
}'
Η επιλογή -N απενεργοποιεί τη buffering του cURL, ώστε τα συμβάντα να εμφανίζονται μόλις φτάνουν.
Κάθε γραμμή της ροής SSE ξεκινά με data: ακολουθούμενη από ένα αντικείμενο JSON. Το τελευταίο συμβάν είναι data: [DONE], το οποίο σηματοδοτεί το τέλος της δημιουργίας.
Πότε να χρησιμοποιείτε ροή δεδομένων
Η απόφαση εξαρτάται από ένα ερώτημα: παρακολουθεί κάποιος την άφιξη της απάντησης; Εάν ναι (chatbot, βοηθός, εργαλείο συγγραφής), η ροή δεδομένων είναι σχεδόν υποχρεωτική: οι χρήστες βλέπουν το κείμενο να εμφανίζεται λέξη προς λέξη αντί να κοιτούν μια παγωμένη οθόνη, και σε μια μακρά απάντηση, η διαφορά μεταξύ «πρώτη λέξη στα 300 ms» και «όλο το κείμενο μετά από 8 δευτερόλεπτα» αλλάζει ολόκληρη την εμπειρία που αντιλαμβάνεται ο χρήστης.
Εάν κανείς δεν παρακολουθεί, η ροή δεδομένων δεν προσφέρει τίποτα και περιπλέκει τον κώδικα. Μια ομαδική εργασία (batch job) που γεμίζει μια βάση δεδομένων, ένας αυτοματοποιημένος αγωγός που πρέπει να αναλύσει την πλήρη απάντηση πριν ενεργήσει, ή μια κλήση που επιστρέφει μόνο λίγες λέξεις: σε όλες αυτές τις περιπτώσεις, η κλασική κλήση (ένα αίτημα, μία πλήρης απόκριση) παραμένει απλούστερη στην υλοποίηση, τον έλεγχο και την αποσφαλμάτωση.
Διαχείριση σφαλμάτων στη ροή δεδομένων
Στη λειτουργία ροής, τα σφάλματα μπορεί να εμφανιστούν στη μέση της ροής. Ο κώδικάς σας πρέπει να χειρίζεται αυτές τις διακοπές:
try:
stream = client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Test"}],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
except Exception as e:
print(f"\nError during streaming: {e}")
Βασικά σημεία
- Προσθέστε
stream=Trueγια να λαμβάνετε tokens καθώς παράγονται - Το πρωτόκολλο που χρησιμοποιείται είναι το SSE (Server-Sent Events)
- Σε Python, κάντε επανάληψη στα θραύσματα και εκτυπώστε το
delta.content - Με cURL, χρησιμοποιήστε
-Nγια να απενεργοποιήσετε τη buffering - Χρησιμοποιήστε τη ροή δεδομένων μόνο σε περιπτώσεις όπου η προοδευτική εμφάνιση προσφέρει αξία