Przejdź do głównej treści
Polski— Wybierz język
Menu

Strumieniowanie SSE

Lekcja 13 z 16 Zaktualizowano 30 lipca 2026 Programista
Na tej stronie
  1. Odpowiedzi w czasie rzeczywistym
  2. Włączanie strumieniowania
  3. Typy zdarzeń
  4. Strumieniowanie w Pythonie
  5. Strumieniowanie z narzędziami
  6. Integracja z frontendem
  7. Strumieniowanie a rozliczenia
  8. Kluczowe wnioski

Odpowiedzi w czasie rzeczywistym

W trybie normalnym czekasz, aż model zakończy generowanie całej odpowiedzi, zanim ją otrzymasz. Dzięki strumieniowaniu SSE (Server-Sent Events) tokeny docierają w miarę ich generowania. Jest to kluczowe w interfejsach konwersacyjnych, gdzie użytkownicy chcą widzieć pojawianie się odpowiedzi stopniowo.

SSE
Server-Sent Events
~50ms
Pierwszy token widoczny
text/event-stream
Content-Type
stream: true
Pojedynczy parametr

Włączanie strumieniowania

Dodaj "stream": true do swojego żądania:

curl https://api.x.ai/v1/responses \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.20-0309-reasoning",
    "input": "Write a poem about programming.",
    "stream": true
  }'

Odpowiedź dociera jako strumień SSE:

data: {"type": "response.created", "response": {...}}
data: {"type": "response.output_item.added", ...}
data: {"type": "response.content_part.added", ...}
data: {"type": "response.output_text.delta", "delta": "La "}
data: {"type": "response.output_text.delta", "delta": "programmation "}
data: {"type": "response.output_text.delta", "delta": "est "}
...
data: {"type": "response.completed", "response": {...}}

Typy zdarzeń

ZdarzenieOpis
response.createdRozpoczęcie generowania
response.output_item.addedNowy element w wyjściu
response.content_part.addedNowa część treści
response.output_text.deltaFragment tekstu (najczęstszy)
response.output_text.donePełny tekst elementu
response.completedOdpowiedź sfinalizowana wraz ze statystykami zużycia
response.failedBłąd podczas generowania

Strumieniowanie w Pythonie

stream = client.responses.create(
    model="grok-4.20-0309-reasoning",
    input="Explain how a compiler works.",
    stream=True
)

full_text = ""
for event in stream:
    if event.type == "response.output_text.delta":
        print(event.delta, end="", flush=True)
        full_text += event.delta
    elif event.type == "response.completed":
        usage = event.response.usage
        print(f"\n\nTokens: {usage.total_tokens}")
        print(f"Cost: {usage.cost_in_nano_usd / 1e9:.6f} USD")

flush=True wymusza natychmiastowe wyświetlanie każdego fragmentu.

Strumieniowanie z narzędziami

Gdy model używa narzędzi w trybie strumieniowym, otrzymujesz dodatkowe zdarzenia:

data: {"type": "response.output_item.added", "item": {"type": "web_search_call"}}
data: {"type": "response.web_search_call.in_progress", ...}
data: {"type": "response.web_search_call.completed", ...}
data: {"type": "response.output_text.delta", "delta": "Selon les résultats..."}

W przypadku wywołań funkcji klienckich argumenty otrzymujesz stopniowo:

data: {"type": "response.function_call.arguments.delta", "delta": "{\"city\""}
data: {"type": "response.function_call.arguments.delta", "delta": ": \"Paris\"}"}
data: {"type": "response.function_call.arguments.done", ...}

Integracja z frontendem

W aplikacji internetowej przekaż strumień SSE do przeglądarki poprzez punkt końcowy serwera:

const response = await fetch('/api/chat', {
  method: 'POST',
  body: JSON.stringify({ message: userInput })
});

const reader = response.body.getReader();
const decoder = new TextDecoder();

while (true) {
  const { done, value } = await reader.read();
  if (done) break;
  const text = decoder.decode(value);
  outputElement.textContent += text;
}

Strumieniowanie a rozliczenia

Strumieniowanie nie zmienia sposobu rozliczania. Koszt jest identyczny, niezależnie od tego, czy jest włączone, czy nie – różni się jedynie tryb dostarczania danych. Kompletny obiekt usage jest dostępny w zdarzeniu response.completed.

Kluczowe wnioski

  • stream: true włącza strumieniowanie SSE – tokeny docierają w miarę ich generowania
  • Zdarzenie response.output_text.delta zawiera każdy fragment tekstu
  • Zdarzenie response.completed zawiera końcową odpowiedź wraz z metadanymi zużycia
  • Strumieniowanie działa z narzędziami (web_search, funkcje)
  • Koszt jest identyczny z włączonym lub wyłączonym strumieniowaniem