Ga naar hoofdinhoud
Nederlands— Kies een taal
Menu

SSE-streaming

Les 10 van 14 Bijgewerkt op 30 juli 2026 Ontwikkelaar
Op deze pagina
  1. Antwoorden in realiteit ontvangen
  2. Hoe streaming werkt
  3. Streaming in Python met de OpenAI SDK
  4. Streaming met het /v1/responses-eindpunt
  5. Streaming met cURL
  6. Wanneer u streaming moet gebruiken
  7. Foutafhandeling bij streaming
  8. Belangrijkste punten

Antwoorden in realiteit ontvangen

Standaard wacht de API tot het volledige antwoord is gegenereerd voordat het wordt teruggezonden. Met streaming ontvangt u tokens zodra ze worden gegenereerd. Deze techniek verkort de wachttijd die gebruikers ervaren en stelt u in staat om antwoorden progressief weer te geven, precies zoals de Grok-interface doet.

Hoe streaming werkt

Streaming maakt gebruik van het Server-Sent Events (SSE)-protocol. In plaats van één enkele HTTP-respons, verzendt de server een continue stroom van events. Elk event bevat een fragment van het antwoord en de client voegt deze samen om de volledige tekst te reconstrueren.

De parameter stream: true schakelt deze modus in voor elk generatie-eindpunt.

Streaming in Python met de OpenAI SDK

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.getenv("XAI_API_KEY"),
    base_url="https://api.x.ai/v1"
)

stream = client.chat.completions.create(
    model="grok-4.5",
    messages=[
        {"role": "user", "content": "Explain the SOLID principles in programming."}
    ],
    stream=True
)

for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

print()  # Final line break

Hoe de code werkt

  • stream=True schakelt streaming in
  • De respons is een iterator van chunk-objecten (fragmenten)
  • Elk chunk bevat een delta met de nieuwe inhoud
  • end="" voorkomt regeleinden tussen fragmenten
  • flush=True forceert directe weergave

Streaming met het /v1/responses-eindpunt

stream = client.responses.create(
    model="grok-4.5",
    input="Describe the steps to deploy a web application.",
    stream=True
)

for event in stream:
    if hasattr(event, 'type') and event.type == 'response.output_text.delta':
        print(event.delta, end="", flush=True)

print()

Het /v1/responses-eindpunt gebruikt getypte events. Het type response.output_text.delta bevat de tekstfragmenten.

Streaming met cURL

cURL ondersteunt SSE-streaming native. Voeg "stream": true toe aan de request-body:

curl -N https://api.x.ai/v1/chat/completions \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.5",
    "messages": [{"role": "user", "content": "Hello"}],
    "stream": true
  }'

De -N-optie schakelt de buffering van cURL uit, zodat events direct worden weergegeven zodra ze binnenkomen.

Elke regel van de SSE-stroom begint met data: gevolgd door een JSON-object. Het laatste event is data: [DONE], wat het einde van de generatie aangeeft.

Wanneer u streaming moet gebruiken

De beslissing draait om één vraag: kijkt er iemand toe terwijl het antwoord binnenkomt? Als dat zo is (een chatbot, een assistent, een schrijftool), is streaming vrijwel verplicht: gebruikers zien de tekst woord voor woord verschijnen in plaats van naar een bevroren scherm te staren. Bij een lang antwoord maakt het verschil tussen “eerste woord in 300 ms” en “alle tekst na 8 seconden” de hele waargenomen ervaring.

Als er niemand kijkt, voegt streaming niets toe en maakt het de code alleen maar ingewikkelder. Een batchjob die een database vult, een geautomatiseerde pipeline die het volledige antwoord moet parseren voordat deze actie onderneemt, of een aanroep die slechts een paar woorden retourneert: in al deze gevallen blijft de klassieke aanroep (één request, één volledige respons) eenvoudiger om te schrijven, te testen en te debuggen.

Foutafhandeling bij streaming

In streaming-modus kunnen fouten midden in de stroom optreden. Uw code moet deze onderbrekingen afhandelen:

try:
    stream = client.chat.completions.create(
        model="grok-4.5",
        messages=[{"role": "user", "content": "Test"}],
        stream=True
    )
    for chunk in stream:
        if chunk.choices[0].delta.content:
            print(chunk.choices[0].delta.content, end="")
except Exception as e:
    print(f"\nError during streaming: {e}")

Belangrijkste punten

  • Voeg stream=True toe om tokens te ontvangen terwijl ze worden gegenereerd
  • Het gebruikte protocol is SSE (Server-Sent Events)
  • In Python iterert u over de chunks en print u delta.content
  • Gebruik bij cURL -N om buffering uit te schakelen
  • Bewaar streaming voor gevallen waarin progressieve weergave meerwaarde biedt