Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Sruthú SSE

Ceacht 10 as 14 Nuashonraithe 30 Iúil 2026 Forbróir
Ar an leathanach seo
  1. Freagraí a fháil i bhfíor-am
  2. Conas a oibríonn sruthú
  3. Sruthú i Python leis an OpenAI SDK
  4. Sruthú leis an gcríochphointe /v1/responses
  5. Sruthú le cURL
  6. Cathain sruthú a úsáid
  7. Láimhseáil earráidí i sruthú
  8. Príomhphointí

Freagraí a fháil i bhfíor-am

De réir réamhshocraithe, fanann an API go dtí go bhfuil an freagra iomlán ginte sula dtugtar ar ais é. Le sruthú, faigheann tú comharthaí de réir mar a ghintear iad. Gearrann an teicníc seo an t-am fanachta a mhothaíonn úsáideoirí agus ligeann sé duit freagraí a thaispeáint go céimniúil, díreach mar a dhéanann an comhéadan Grok.

Conas a oibríonn sruthú

Baineann sruthú úsáid as an bprótacal Server-Sent Events (SSE). In ionad freagra HTTP amháin, seolann an freastalaí sruth leanúnach imeachtaí. Tá blúire den fhreagra i ngach imeacht, agus déanann an cliant iad a chur le chéile chun an téacs iomlán a athchruthú.

Cuirtear an mód seo ar siúl d’aon chríochphointe giniúna leis an bparaiméadar stream: true.

Sruthú i Python leis an OpenAI SDK

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.getenv("XAI_API_KEY"),
    base_url="https://api.x.ai/v1"
)

stream = client.chat.completions.create(
    model="grok-4.5",
    messages=[
        {"role": "user", "content": "Explain the SOLID principles in programming."}
    ],
    stream=True
)

for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

print()  # Final line break

Conas a oibríonn an cód

  • Casann stream=True an sruthú air
  • Is iterátor d’objectí chunk (blúirí) é an freagra
  • Tá delta i ngach chunk leis an ábhar nua
  • Cuireann end="" cosc ar bhriseadh líne idir blúirí
  • Cuirfidh flush=True an taispeáint ar siúl láithreach

Sruthú leis an gcríochphointe /v1/responses

stream = client.responses.create(
    model="grok-4.5",
    input="Describe the steps to deploy a web application.",
    stream=True
)

for event in stream:
    if hasattr(event, 'type') and event.type == 'response.output_text.delta':
        print(event.delta, end="", flush=True)

print()

Úsáideann an críochphointe /v1/responses imeachtaí chineálaithe. Tá na blúirí téacs sa chineál response.output_text.delta.

Sruthú le cURL

Tacaíonn cURL le sruthú SSE go dúchasach. Cuir "stream": true le corp an iarratais:

curl -N https://api.x.ai/v1/chat/completions \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.5",
    "messages": [{"role": "user", "content": "Hello"}],
    "stream": true
  }'

Múchann an rogha -N maolánú cURL ionas go dtaispeántar imeachtaí chomh luath agus a thagann siad.

Tosaíonn gach líne den sruth SSE le data: agus leanann object JSON é. Is é data: [DONE] an t-imeacht deireanach, a chuireann in iúl go bhfuil deireadh leis an nginiúint.

Cathain sruthú a úsáid

Braitheann an cinneadh ar cheist amháin: an bhfuil duine ag breathnú ar an bhfreagra ag teacht? Má tá (chatbot, cúntóir, uirlis scríbhneoireachta), tá sruthú beagnach éigeantach: feiceann úsáideoirí an téacs ag teacht focal ar fhocal in ionad scáileán reoite a stareáil, agus ar fhreagra fada, déanann an difríocht idir “an chéad fhocal i 300 ms” agus “an téacs go léir tar éis 8 soicind” difear mór don taithí iomlán a mhothaítear.

Mura bhfuil aon duine ag breathnú, ní chuireann sruthú aon rud leis agus déanann sé an cód níos casta. Post baisce a líonann bunachar sonraí, píblíne uathoibrithe a chaithfidh an freagra iomlán a pharsáil sula ngníomhaíonn sé, gla a thugann cúpla focal ar ais amháin: sna cásanna seo go léir, fanann an gla clasaiceach (iaratas amháin, freagra iomlán amháin) níos simplí le scríobh, le tástáil agus le dífhabhtú.

Láimhseáil earráidí i sruthú

I mód sruthaithe, féadfaidh earráidí tarlú i lár an tsrutha. Caithfidh do chód na bristeacha sin a láimhseáil:

try:
    stream = client.chat.completions.create(
        model="grok-4.5",
        messages=[{"role": "user", "content": "Test"}],
        stream=True
    )
    for chunk in stream:
        if chunk.choices[0].delta.content:
            print(chunk.choices[0].delta.content, end="")
except Exception as e:
    print(f"\nError during streaming: {e}")

Príomhphointí

  • Cuir stream=True leis chun comharthaí a fháil de réir mar a ghintear iad
  • Is é SSE (Server-Sent Events) an prótacal a úsáidtear
  • I Python, déan iteráil thar na chunks agus priontáil delta.content
  • Le cURL, úsáid -N chun maolánú a mhúchadh
  • Coinnigh sruthú do chásanna ina gcuireann taispeáint chéimniúil luach leis