xAI SDK AsyncClient
F'din il-paġna
Għaliex tibdel għall-modalità asinkrona
Meta tistaqsi lill-API ta’ xAI b’mod sinkronu, kull sejħa timblokka l-eżekuzzjoni tal-programm tiegħek sakemm tasal ir-risposta. Għal mudell ta’ raġunar bħal grok-4.5, talba waħda tista’ tieħu diversi għexieren ta’ sekondi. Jekk ikollok bżonn tipproċessa 100 talba, il-ħin totali ta’ stennija jsir proibittiv.
Il-modalità asinkrona ssolvi din il-problema. Minflok ma tistenna kull risposta, il-programm tiegħek jniedi t-talba u jkompli bl-eżekuzzjoni. Tirriżulta r-riżultat iktar tard, meta jkun disponibbli. Dan l-approċċ jippermettilek tipproċessa talbiet multipli b’mod parallel u tuża b’mod sħiħ il-bandwidth tiegħek lejn l-API.
Inizjalizza l-AsyncClient
L-SDK ta’ xAI jipprovdi l-klassi AsyncClient iddedikata għas-sejħiet asinkroni. L-inizjalizzazzjoni hija simili għall-klijent sinkronu, b’parametru timeout li dejjem trikkonfigura:
import os
from xai_sdk import AsyncClient
from xai_sdk.chat import user
client = AsyncClient(
api_key=os.getenv("XAI_API_KEY"),
timeout=3600,
)
timeout=3600 huwa ekwivalenti għal siegħa. Dan il-valur jista’ jidher għoli, iżda huwa meħtieġ għal mudelli ta’ raġunar li jwettqu raġunar estiż qabel ma jwieġbu. Timeout qosir wisq jikkawża żbalji ta’ qatgħa tal-konnessjoni fuq talbiet kumplessi.
Ibgħat talba asinkrona
Ladarba tinizjalizza l-klijent, tibgħat it-talbiet billi tuża s-sintassi await ta’ Python:
import asyncio
async def ask_grok(question: str) -> str:
chat = client.chat.create(
model="grok-4.20-0309-reasoning",
max_tokens=500
)
chat.append(user(question))
response = await chat.sample()
return response.text
# Entry point
result = asyncio.run(ask_grok("Explain the algorithmic complexity of quicksort"))
print(result)
Il-funzjoni ask_grok tuża async def, u b’hekk issir korutina. Is-sejħa await chat.sample() tissospendi din il-korutina sakemm tasal ir-risposta, mingħajr ma timblokka kompiti potenzjali oħra.
Differenza mill-klijent sinkronu
Il-klijent sinkronu jimblokka t-thread attwali għat-tul kollu tat-talba. Il-klijent asinkronu jħalli t-thread ħieles biex jeżegwixxi korutini oħra. Din id-distinzjoni ma tgħodd xejn jekk tibgħat talba waħda biss, iżda ssir kritika meta tipproċessa talbiet multipli b’mod parallel.
# Sync: each call waits for the response
for question in questions:
response = client.chat.completions.create(...) # blocking
process(response)
# Async: calls run in parallel
async def main():
tasks = [ask_grok(q) for q in questions]
responses = await asyncio.gather(*tasks) # parallel
for r in responses:
process(r)
Fl-eżempju sinkronu, jekk kull talba tieħu 10 sekondi u għandek 20, il-ħin totali huwa 200 sekonda. Fil-modalità asinkrona b’semaforu ta’ 5 (li se tiskopri f’lezzjonijiet sussegwenti), il-ħin jinżel għal madwar 40 sekonda.
Punti Ewlenin
- L-
AsyncClienttal-SDK ta’ xAI jippermettilek tibgħat talbiet mingħajr ma timblokka l-eżekuzzjoni - Il-parametru
timeout=3600huwa essenzjali għal mudelli ta’ raġunar - L-
xai-sdkjeħtieġ Python 3.10 jew aktar (verżjoni 1.21.0 sal-2 ta’ Novembru 2026, skont PyPI) - Il-benefiċċju reali jidher meta tipproċessa talbiet multipli b’mod parallel
asyncio.run()iservi bħala l-punt tad-dħul biex teżegwixxi korutina minn kodiċi sinkronu