Ροή δεδομένων SSE
Σε αυτήν τη σελίδα
Αποκρίσεις σε πραγματικό χρόνο
Στην κανονική λειτουργία, περιμένετε έως ότου το μοντέλο ολοκληρώσει τη δημιουργία της πλήρους απάντησης πριν την λάβετε. Με τη ροή δεδομένων SSE (Server-Sent Events), τα tokens φτάνουν καθώς παράγονται. Αυτό είναι απαραίτητο για διαλογικές διεπαφές όπου οι χρήστες επιθυμούν να βλέπουν την απάντηση να εμφανίζεται σταδιακά.
Ενεργοποίηση ροής δεδομένων
Προσθέστε το "stream": true στο αίτημά σας:
curl https://api.x.ai/v1/responses \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "grok-4.20-0309-reasoning",
"input": "Write a poem about programming.",
"stream": true
}'
Η απάντηση φτάνει ως ροή SSE:
data: {"type": "response.created", "response": {...}}
data: {"type": "response.output_item.added", ...}
data: {"type": "response.content_part.added", ...}
data: {"type": "response.output_text.delta", "delta": "La "}
data: {"type": "response.output_text.delta", "delta": "programmation "}
data: {"type": "response.output_text.delta", "delta": "est "}
...
data: {"type": "response.completed", "response": {...}}
Τύποι συμβάντων
| Συμβάν | Περιγραφή |
|---|---|
response.created | Έναρξη δημιουργίας |
response.output_item.added | Νέο στοιχείο στην έξοδο |
response.content_part.added | Νέο τμήμα περιεχομένου |
response.output_text.delta | Θραύσμα κειμένου (το πιο συχνό) |
response.output_text.done | Πλήρες κείμενο ενός στοιχείου |
response.completed | Ολοκλήρωση απάντησης με στατιστικά χρήσης |
response.failed | Σφάλμα κατά τη δημιουργία |
Ροή δεδομένων σε Python
stream = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Explain how a compiler works.",
stream=True
)
full_text = ""
for event in stream:
if event.type == "response.output_text.delta":
print(event.delta, end="", flush=True)
full_text += event.delta
elif event.type == "response.completed":
usage = event.response.usage
print(f"\n\nTokens: {usage.total_tokens}")
print(f"Cost: {usage.cost_in_nano_usd / 1e9:.6f} USD")
Το flush=True εξαναγκάζει την άμεση εμφάνιση κάθε θραύσματος.
Ροή δεδομένων με εργαλεία
Όταν το μοντέλο χρησιμοποιεί εργαλεία σε λειτουργία ροής, λαμβάνετε επιπλέον συμβάντα:
data: {"type": "response.output_item.added", "item": {"type": "web_search_call"}}
data: {"type": "response.web_search_call.in_progress", ...}
data: {"type": "response.web_search_call.completed", ...}
data: {"type": "response.output_text.delta", "delta": "Selon les résultats..."}
Για κλήσεις συναρτήσεων από τον πελάτη, λαμβάνετε τα ορίσματα σταδιακά:
data: {"type": "response.function_call.arguments.delta", "delta": "{\"city\""}
data: {"type": "response.function_call.arguments.delta", "delta": ": \"Paris\"}"}
data: {"type": "response.function_call.arguments.done", ...}
Ενσωμάτωση στο Frontend
Για μια web εφαρμογή, στείλτε τη ροή SSE στον browser μέσω ενός endpoint διακομιστή:
const response = await fetch('/api/chat', {
method: 'POST',
body: JSON.stringify({ message: userInput })
});
const reader = response.body.getReader();
const decoder = new TextDecoder();
while (true) {
const { done, value } = await reader.read();
if (done) break;
const text = decoder.decode(value);
outputElement.textContent += text;
}
Ροή δεδομένων και χρέωση
Η ροή δεδομένων δεν αλλάζει τη χρέωση. Το κόστος είναι ίδιο είτε είναι ενεργοποιημένη είτε όχι· διαφέρει μόνο ο τρόπος παράδοσης. Το πλήρες αντικείμενο usage είναι διαθέσιμο στο συμβάν response.completed.
Βασικά σημεία
- Το
stream: trueενεργοποιεί τη ροή SSE· τα tokens φτάνουν καθώς παράγονται - Το συμβάν
response.output_text.deltaπεριέχει κάθε θραύσμα κειμένου - Το συμβάν
response.completedπεριέχει την τελική απάντηση με μεταδεδομένα χρήσης - Η ροή δεδομένων λειτουργεί με εργαλεία (web_search, functions)
- Το κόστος είναι ίδιο με ή χωρίς ροή δεδομένων