Fluss SSE
F'din il-paġna
Irċievi tweġibiet f’ħin reali
B’mod predefinit, l-API jistenna sakemm it-tweġiba kollha tiġi ġġenerata qabel ma jirritornaha. Bil-fluss (streaming), tirċievi t-tokens hekk kif jiġu ġġenerati. Din it-teknika tnaqqas il-wait li jħoss l-utent u tippermettilek turi t-tweġibiet progressivament, eżattament kif jagħmel l-interfaċċa ta’ Grok.
Kif jaħdem il-fluss
Il-fluss juża l-protokoll Server-Sent Events (SSE). Minflok tweġiba HTTP waħda, is-server jibgħat fluss kontinwu ta’ avvenimenti. Kull avveniment fih framment tat-tweġiba, u l-klijent jgħaqqadhom biex jerġa’ jibni t-test sħiħ.
Il-parametru stream: true jattiva din il-modalità għal kwalunkwe endpoint ta’ ġenerazzjoni.
Il-fluss f’Python bl-SDK ta’ OpenAI
from openai import OpenAI
import os
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
stream = client.chat.completions.create(
model="grok-4.5",
messages=[
{"role": "user", "content": "Spjega l-prinċipji SOLID fil-programmazzjoni."}
],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
print() # Linja finali vojta
Kif jaħdem il-kodiċi
stream=Truejattiva l-fluss- It-tweġiba hija iteratur ta’ oġġetti
chunk(frammenti) - Kull
chunkfihdeltabit-test il-ġdid end=""jipprevjeni linji ġodda bejn il-frammentiflush=Truejifforza l-wiri immedjat
Il-fluss bl-endpoint /v1/responses
stream = client.responses.create(
model="grok-4.5",
input="Iddeskrivi l-passi biex tiddispjega applikazzjoni web.",
stream=True
)
for event in stream:
if hasattr(event, 'type') and event.type == 'response.output_text.delta':
print(event.delta, end="", flush=True)
print()
L-endpoint /v1/responses juża avvenimenti ttajpjati. It-tip response.output_text.delta fih il-frammenti tat-test.
Il-fluss b’cURL
cURL jappoġġja l-fluss SSE nativament. Żid "stream": true mal-korp tat-talba:
curl -N https://api.x.ai/v1/chat/completions \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "grok-4.5",
"messages": [{"role": "user", "content": "Hello"}],
"stream": true
}'
L-għażla -N titfi l-buffering ta’ cURL sabiex l-avvenimenti jintwerew hekk kif jaslu.
Kull linja tal-fluss SSE tibda b’data: segwita minn oġġett JSON. L-aħħar avveniment huwa data: [DONE], li jissinjala t-tmiem tal-ġenerazzjoni.
Meta tuża l-fluss
Id-deċiżjoni tiddependi fuq mistoqsija waħda: hemm persuna qed tara t-tweġiba tasal? Jekk iva (chatbot, assistent, għodda tal-kitba), il-fluss huwa kważi obbligatorju: l-utenti jaraw it-test jidher kelma b’kelma minflok ma jħarsu lejn skrin iffriżat, u f’tweġiba twila, id-differenza bejn “l-ewwel kelma f’300 ms” u “it-test kollu wara 8 sekondi” tibdel l-esperjenza kollha li jħoss l-utent.
Jekk ħadd ma qed iħares, il-fluss ma jżid xejn u jikkumplika l-kodiċi. Xogħol bil-batch li jimla database, pipeline awtomatizzata li trid tanalizza t-tweġiba sħiħa qabel ma taġixxi, sejħa li tirritorna ftit kliem biss: f’dawn il-każijiet kollha, is-sejħa klassika (talba waħda, tweġiba sħiħa waħda) tibqa’ aktar sempliċi biex tiktebha, tittestjaha u tiddibbuggjaha.
Ġestjoni tal-iżbalji fil-fluss
Fil-modalità ta’ fluss, l-iżbalji jistgħu jseħħu f’nofs il-fluss. Il-kodiċi tiegħek irid jimmaniġġja dawn l-interruzzjonijiet:
try:
stream = client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Test"}],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
except Exception as e:
print(f"\nŻball waqt il-fluss: {e}")
Punti Ewlenin
- Żid
stream=Truebiex tirċievi t-tokens hekk kif jiġu ġġenerati - Il-protokoll użat huwa SSE (Server-Sent Events)
- F’Python, ittra fuq il-
chunku stampadelta.content - Ma’ cURL, uża
-Nbiex titfi l-buffering - Iżżomm il-fluss għal każijiet fejn il-wiri progressiv iżid valur