Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Fluss SSE

Lezzjoni 10 / 14 Aġġornat 30 ta’ Lulju 2026 Zviluppatur
F'din il-paġna
  1. Irċievi tweġibiet f’ħin reali
  2. Kif jaħdem il-fluss
  3. Il-fluss f’Python bl-SDK ta’ OpenAI
  4. Il-fluss bl-endpoint /v1/responses
  5. Il-fluss b’cURL
  6. Meta tuża l-fluss
  7. Ġestjoni tal-iżbalji fil-fluss
  8. Punti Ewlenin

Irċievi tweġibiet f’ħin reali

B’mod predefinit, l-API jistenna sakemm it-tweġiba kollha tiġi ġġenerata qabel ma jirritornaha. Bil-fluss (streaming), tirċievi t-tokens hekk kif jiġu ġġenerati. Din it-teknika tnaqqas il-wait li jħoss l-utent u tippermettilek turi t-tweġibiet progressivament, eżattament kif jagħmel l-interfaċċa ta’ Grok.

Kif jaħdem il-fluss

Il-fluss juża l-protokoll Server-Sent Events (SSE). Minflok tweġiba HTTP waħda, is-server jibgħat fluss kontinwu ta’ avvenimenti. Kull avveniment fih framment tat-tweġiba, u l-klijent jgħaqqadhom biex jerġa’ jibni t-test sħiħ.

Il-parametru stream: true jattiva din il-modalità għal kwalunkwe endpoint ta’ ġenerazzjoni.

Il-fluss f’Python bl-SDK ta’ OpenAI

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.getenv("XAI_API_KEY"),
    base_url="https://api.x.ai/v1"
)

stream = client.chat.completions.create(
    model="grok-4.5",
    messages=[
        {"role": "user", "content": "Spjega l-prinċipji SOLID fil-programmazzjoni."}
    ],
    stream=True
)

for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

print()  # Linja finali vojta

Kif jaħdem il-kodiċi

  • stream=True jattiva l-fluss
  • It-tweġiba hija iteratur ta’ oġġetti chunk (frammenti)
  • Kull chunk fih delta bit-test il-ġdid
  • end="" jipprevjeni linji ġodda bejn il-frammenti
  • flush=True jifforza l-wiri immedjat

Il-fluss bl-endpoint /v1/responses

stream = client.responses.create(
    model="grok-4.5",
    input="Iddeskrivi l-passi biex tiddispjega applikazzjoni web.",
    stream=True
)

for event in stream:
    if hasattr(event, 'type') and event.type == 'response.output_text.delta':
        print(event.delta, end="", flush=True)

print()

L-endpoint /v1/responses juża avvenimenti ttajpjati. It-tip response.output_text.delta fih il-frammenti tat-test.

Il-fluss b’cURL

cURL jappoġġja l-fluss SSE nativament. Żid "stream": true mal-korp tat-talba:

curl -N https://api.x.ai/v1/chat/completions \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.5",
    "messages": [{"role": "user", "content": "Hello"}],
    "stream": true
  }'

L-għażla -N titfi l-buffering ta’ cURL sabiex l-avvenimenti jintwerew hekk kif jaslu.

Kull linja tal-fluss SSE tibda b’data: segwita minn oġġett JSON. L-aħħar avveniment huwa data: [DONE], li jissinjala t-tmiem tal-ġenerazzjoni.

Meta tuża l-fluss

Id-deċiżjoni tiddependi fuq mistoqsija waħda: hemm persuna qed tara t-tweġiba tasal? Jekk iva (chatbot, assistent, għodda tal-kitba), il-fluss huwa kważi obbligatorju: l-utenti jaraw it-test jidher kelma b’kelma minflok ma jħarsu lejn skrin iffriżat, u f’tweġiba twila, id-differenza bejn “l-ewwel kelma f’300 ms” u “it-test kollu wara 8 sekondi” tibdel l-esperjenza kollha li jħoss l-utent.

Jekk ħadd ma qed iħares, il-fluss ma jżid xejn u jikkumplika l-kodiċi. Xogħol bil-batch li jimla database, pipeline awtomatizzata li trid tanalizza t-tweġiba sħiħa qabel ma taġixxi, sejħa li tirritorna ftit kliem biss: f’dawn il-każijiet kollha, is-sejħa klassika (talba waħda, tweġiba sħiħa waħda) tibqa’ aktar sempliċi biex tiktebha, tittestjaha u tiddibbuggjaha.

Ġestjoni tal-iżbalji fil-fluss

Fil-modalità ta’ fluss, l-iżbalji jistgħu jseħħu f’nofs il-fluss. Il-kodiċi tiegħek irid jimmaniġġja dawn l-interruzzjonijiet:

try:
    stream = client.chat.completions.create(
        model="grok-4.5",
        messages=[{"role": "user", "content": "Test"}],
        stream=True
    )
    for chunk in stream:
        if chunk.choices[0].delta.content:
            print(chunk.choices[0].delta.content, end="")
except Exception as e:
    print(f"\nŻball waqt il-fluss: {e}")

Punti Ewlenin

  • Żid stream=True biex tirċievi t-tokens hekk kif jiġu ġġenerati
  • Il-protokoll użat huwa SSE (Server-Sent Events)
  • F’Python, ittra fuq il-chunk u stampa delta.content
  • Ma’ cURL, uża -N biex titfi l-buffering
  • Iżżomm il-fluss għal każijiet fejn il-wiri progressiv iżid valur