Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

SSE streaming

13. lecke 16 közül Frissítve 2026. július 30. Fejlesztő
Ezen az oldalon
  1. Valós idejű válaszok
  2. Streaming engedélyezése
  3. Eseménytípusok
  4. Streaming Pythonban
  5. Streaming eszközökkel
  6. Integráció frontenddel
  7. Streaming és számlázás
  8. Főbb megállapítások

Valós idejű válaszok

Normál módban megvárod, amíg a modell befejezi a teljes válasz generálását, mielőtt megkapnád azt. SSE streaming (Server-Sent Events) használatakor a tokenek generálás közben érkeznek. Ez elengedhetetlen olyan beszélgetés alapú felületeknél, ahol a felhasználók látni szeretnék a válasz fokozatos megjelenését.

SSE
Server-Sent Events
~50ms
Első token láthatóvá válik
text/event-stream
Content-Type
stream: true
Egyetlen paraméter

Streaming engedélyezése

Add hozzá a "stream": true paramétert a kérésedhez:

curl https://api.x.ai/v1/responses \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.20-0309-reasoning",
    "input": "Write a poem about programming.",
    "stream": true
  }'

A válasz SSE streamként érkezik:

data: {"type": "response.created", "response": {...}}
data: {"type": "response.output_item.added", ...}
data: {"type": "response.content_part.added", ...}
data: {"type": "response.output_text.delta", "delta": "La "}
data: {"type": "response.output_text.delta", "delta": "programmation "}
data: {"type": "response.output_text.delta", "delta": "est "}
...
data: {"type": "response.completed", "response": {...}}

Eseménytípusok

EseményLeírás
response.createdA generálás elindul
response.output_item.addedÚj elem kerül a kimenetbe
response.content_part.addedÚj tartalmi rész
response.output_text.deltaSzövegrészlet (leggyakoribb)
response.output_text.doneEgy elem teljes szövege
response.completedA válasz lezárult, használati adatokkal
response.failedHiba történt a generálás során

Streaming Pythonban

stream = client.responses.create(
    model="grok-4.20-0309-reasoning",
    input="Explain how a compiler works.",
    stream=True
)

full_text = ""
for event in stream:
    if event.type == "response.output_text.delta":
        print(event.delta, end="", flush=True)
        full_text += event.delta
    elif event.type == "response.completed":
        usage = event.response.usage
        print(f"\n\nTokens: {usage.total_tokens}")
        print(f"Cost: {usage.cost_in_nano_usd / 1e9:.6f} USD")

A flush=True biztosítja, hogy minden egyes szövegrészlet azonnal megjelenjen.

Streaming eszközökkel

Amikor a modell streaming módban eszközöket használ, további eseményeket kapsz:

data: {"type": "response.output_item.added", "item": {"type": "web_search_call"}}
data: {"type": "response.web_search_call.in_progress", ...}
data: {"type": "response.web_search_call.completed", ...}
data: {"type": "response.output_text.delta", "delta": "Selon les résultats..."}

Ügyféloldali függvényhívások esetén az argumentumokat fokozatosan kapod meg:

data: {"type": "response.function_call.arguments.delta", "delta": "{\"city\""}
data: {"type": "response.function_call.arguments.delta", "delta": ": \"Paris\"}"}
data: {"type": "response.function_call.arguments.done", ...}

Integráció frontenddel

Webes alkalmazás esetén küldd az SSE streamet a böngészőnek egy szerveroldali végponton keresztül:

const response = await fetch('/api/chat', {
  method: 'POST',
  body: JSON.stringify({ message: userInput })
});

const reader = response.body.getReader();
const decoder = new TextDecoder();

while (true) {
  const { done, value } = await reader.read();
  if (done) break;
  const text = decoder.decode(value);
  outputElement.textContent += text;
}

Streaming és számlázás

A streaming nem változtat a számlázáson. A költség ugyanaz, függetlenül attól, hogy engedélyezve van-e vagy sem – csupán a kézbesítési mód tér el. A teljes usage objektum a response.completed eseményben érhető el.

Főbb megállapítások

  • A stream: true engedélyezi az SSE streaminget – a tokenek generálás közben érkeznek
  • A response.output_text.delta esemény tartalmazza az egyes szövegrészleteket
  • A response.completed esemény tartalmazza a végleges választ a használati metaadatokkal
  • A streaming működik eszközökkel (web_search, functions)
  • A költség streaminggel és anélkül is ugyanaz