Salt la conținutul principal
Română— Alege o limbă
Meniu

Streaming SSE

Lecția 13 din 16 Actualizată 30 iulie 2026 Dezvoltator
Pe această pagină
  1. Răspunsuri în timp real
  2. Activarea streaming-ului
  3. Tipuri de evenimente
  4. Streaming în Python
  5. Streaming cu instrumente (tools)
  6. Integrare frontend
  7. Streaming și facturare
  8. Puncte cheie

Răspunsuri în timp real

În modul normal, așteptați ca modelul să termine de generat întregul răspuns înainte de a-l primi. Cu streaming-ul SSE (Server-Sent Events), tokenii sosesc pe măsură ce sunt generați. Acest lucru este esențial pentru interfețele conversaționale, unde utilizatorii doresc să vadă răspunsul apărând progresiv.

SSE
Server-Sent Events
~50ms
Primul token vizibil
text/event-stream
Content-Type
stream: true
Un singur parametru

Activarea streaming-ului

Adăugați "stream": true în cererea dumneavoastră:

curl https://api.x.ai/v1/responses \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.20-0309-reasoning",
    "input": "Write a poem about programming.",
    "stream": true
  }'

Răspunsul sosește sub formă de flux SSE:

data: {"type": "response.created", "response": {...}}
data: {"type": "response.output_item.added", ...}
data: {"type": "response.content_part.added", ...}
data: {"type": "response.output_text.delta", "delta": "La "}
data: {"type": "response.output_text.delta", "delta": "programmation "}
data: {"type": "response.output_text.delta", "delta": "est "}
...
data: {"type": "response.completed", "response": {...}}

Tipuri de evenimente

EvenimentDescriere
response.createdÎnceperea generării
response.output_item.addedAdăugarea unui nou element în ieșire
response.content_part.addedAdăugarea unei noi părți de conținut
response.output_text.deltaFragment de text (cel mai frecvent)
response.output_text.doneText complet al unui element
response.completedRăspuns finalizat cu detalii de utilizare
response.failedEroare în timpul generării

Streaming în Python

stream = client.responses.create(
    model="grok-4.20-0309-reasoning",
    input="Explain how a compiler works.",
    stream=True
)

full_text = ""
for event in stream:
    if event.type == "response.output_text.delta":
        print(event.delta, end="", flush=True)
        full_text += event.delta
    elif event.type == "response.completed":
        usage = event.response.usage
        print(f"\n\nTokens: {usage.total_tokens}")
        print(f"Cost: {usage.cost_in_nano_usd / 1e9:.6f} USD")

flush=True forțează afișarea imediată a fiecărui fragment.

Streaming cu instrumente (tools)

Când modelul utilizează instrumente în modul streaming, primiți evenimente suplimentare:

data: {"type": "response.output_item.added", "item": {"type": "web_search_call"}}
data: {"type": "response.web_search_call.in_progress", ...}
data: {"type": "response.web_search_call.completed", ...}
data: {"type": "response.output_text.delta", "delta": "Selon les résultats..."}

Pentru apelurile de funcții din partea clientului, primiți argumentele progresiv:

data: {"type": "response.function_call.arguments.delta", "delta": "{\"city\""}
data: {"type": "response.function_call.arguments.delta", "delta": ": \"Paris\"}"}
data: {"type": "response.function_call.arguments.done", ...}

Integrare frontend

Pentru o aplicație web, trimiteți fluxul SSE către browser printr-un endpoint al serverului:

const response = await fetch('/api/chat', {
  method: 'POST',
  body: JSON.stringify({ message: userInput })
});

const reader = response.body.getReader();
const decoder = new TextDecoder();

while (true) {
  const { done, value } = await reader.read();
  if (done) break;
  const text = decoder.decode(value);
  outputElement.textContent += text;
}

Streaming și facturare

Streaming-ul nu modifică facturarea. Costul este identic, fie că este activat sau nu; diferă doar modul de livrare. Obiectul complet usage este disponibil în evenimentul response.completed.

Puncte cheie

  • stream: true activează streaming-ul SSE – tokenii sosesc pe măsură ce sunt generați
  • Evenimentul response.output_text.delta conține fiecare fragment de text
  • Evenimentul response.completed conține răspunsul final cu metadatele de utilizare
  • Streaming-ul funcționează cu instrumente (web_search, functions)
  • Costul este identic cu sau fără streaming