Sruthú SSE
Ar an leathanach seo
Freagraí a fháil i bhfíor-am
De réir réamhshocraithe, fanann an API go dtí go bhfuil an freagra iomlán ginte sula dtugtar ar ais é. Le sruthú, faigheann tú comharthaí de réir mar a ghintear iad. Gearrann an teicníc seo an t-am fanachta a mhothaíonn úsáideoirí agus ligeann sé duit freagraí a thaispeáint go céimniúil, díreach mar a dhéanann an comhéadan Grok.
Conas a oibríonn sruthú
Baineann sruthú úsáid as an bprótacal Server-Sent Events (SSE). In ionad freagra HTTP amháin, seolann an freastalaí sruth leanúnach imeachtaí. Tá blúire den fhreagra i ngach imeacht, agus déanann an cliant iad a chur le chéile chun an téacs iomlán a athchruthú.
Cuirtear an mód seo ar siúl d’aon chríochphointe giniúna leis an bparaiméadar stream: true.
Sruthú i Python leis an OpenAI SDK
from openai import OpenAI
import os
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
stream = client.chat.completions.create(
model="grok-4.5",
messages=[
{"role": "user", "content": "Explain the SOLID principles in programming."}
],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
print() # Final line break
Conas a oibríonn an cód
- Casann
stream=Truean sruthú air - Is iterátor d’objectí
chunk(blúirí) é an freagra - Tá
deltai ngach chunk leis an ábhar nua - Cuireann
end=""cosc ar bhriseadh líne idir blúirí - Cuirfidh
flush=Truean taispeáint ar siúl láithreach
Sruthú leis an gcríochphointe /v1/responses
stream = client.responses.create(
model="grok-4.5",
input="Describe the steps to deploy a web application.",
stream=True
)
for event in stream:
if hasattr(event, 'type') and event.type == 'response.output_text.delta':
print(event.delta, end="", flush=True)
print()
Úsáideann an críochphointe /v1/responses imeachtaí chineálaithe. Tá na blúirí téacs sa chineál response.output_text.delta.
Sruthú le cURL
Tacaíonn cURL le sruthú SSE go dúchasach. Cuir "stream": true le corp an iarratais:
curl -N https://api.x.ai/v1/chat/completions \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "grok-4.5",
"messages": [{"role": "user", "content": "Hello"}],
"stream": true
}'
Múchann an rogha -N maolánú cURL ionas go dtaispeántar imeachtaí chomh luath agus a thagann siad.
Tosaíonn gach líne den sruth SSE le data: agus leanann object JSON é. Is é data: [DONE] an t-imeacht deireanach, a chuireann in iúl go bhfuil deireadh leis an nginiúint.
Cathain sruthú a úsáid
Braitheann an cinneadh ar cheist amháin: an bhfuil duine ag breathnú ar an bhfreagra ag teacht? Má tá (chatbot, cúntóir, uirlis scríbhneoireachta), tá sruthú beagnach éigeantach: feiceann úsáideoirí an téacs ag teacht focal ar fhocal in ionad scáileán reoite a stareáil, agus ar fhreagra fada, déanann an difríocht idir “an chéad fhocal i 300 ms” agus “an téacs go léir tar éis 8 soicind” difear mór don taithí iomlán a mhothaítear.
Mura bhfuil aon duine ag breathnú, ní chuireann sruthú aon rud leis agus déanann sé an cód níos casta. Post baisce a líonann bunachar sonraí, píblíne uathoibrithe a chaithfidh an freagra iomlán a pharsáil sula ngníomhaíonn sé, gla a thugann cúpla focal ar ais amháin: sna cásanna seo go léir, fanann an gla clasaiceach (iaratas amháin, freagra iomlán amháin) níos simplí le scríobh, le tástáil agus le dífhabhtú.
Láimhseáil earráidí i sruthú
I mód sruthaithe, féadfaidh earráidí tarlú i lár an tsrutha. Caithfidh do chód na bristeacha sin a láimhseáil:
try:
stream = client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Test"}],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
except Exception as e:
print(f"\nError during streaming: {e}")
Príomhphointí
- Cuir
stream=Trueleis chun comharthaí a fháil de réir mar a ghintear iad - Is é SSE (Server-Sent Events) an prótacal a úsáidtear
- I Python, déan iteráil thar na chunks agus priontáil
delta.content - Le cURL, úsáid
-Nchun maolánú a mhúchadh - Coinnigh sruthú do chásanna ina gcuireann taispeáint chéimniúil luach leis