Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

xAI SDK AsyncClient

Lezzjoni 1 / 12 Aġġornat 2 ta’ Novembru 2026 Avvanzat
F'din il-paġna
  1. Għaliex tibdel għall-modalità asinkrona
  2. Inizjalizza l-AsyncClient
  3. Ibgħat talba asinkrona
  4. Differenza mill-klijent sinkronu
  5. Punti Ewlenin

Għaliex tibdel għall-modalità asinkrona

Meta tistaqsi lill-API ta’ xAI b’mod sinkronu, kull sejħa timblokka l-eżekuzzjoni tal-programm tiegħek sakemm tasal ir-risposta. Għal mudell ta’ raġunar bħal grok-4.5, talba waħda tista’ tieħu diversi għexieren ta’ sekondi. Jekk ikollok bżonn tipproċessa 100 talba, il-ħin totali ta’ stennija jsir proibittiv.

Il-modalità asinkrona ssolvi din il-problema. Minflok ma tistenna kull risposta, il-programm tiegħek jniedi t-talba u jkompli bl-eżekuzzjoni. Tirriżulta r-riżultat iktar tard, meta jkun disponibbli. Dan l-approċċ jippermettilek tipproċessa talbiet multipli b’mod parallel u tuża b’mod sħiħ il-bandwidth tiegħek lejn l-API.

3600s
Recommended timeout
5x
Parallel throughput
-50%
Batch API alternative
RPM
Rate limit to respect

Inizjalizza l-AsyncClient

L-SDK ta’ xAI jipprovdi l-klassi AsyncClient iddedikata għas-sejħiet asinkroni. L-inizjalizzazzjoni hija simili għall-klijent sinkronu, b’parametru timeout li dejjem trikkonfigura:

import os
from xai_sdk import AsyncClient
from xai_sdk.chat import user

client = AsyncClient(
    api_key=os.getenv("XAI_API_KEY"),
    timeout=3600,
)

timeout=3600 huwa ekwivalenti għal siegħa. Dan il-valur jista’ jidher għoli, iżda huwa meħtieġ għal mudelli ta’ raġunar li jwettqu raġunar estiż qabel ma jwieġbu. Timeout qosir wisq jikkawża żbalji ta’ qatgħa tal-konnessjoni fuq talbiet kumplessi.

Ibgħat talba asinkrona

Ladarba tinizjalizza l-klijent, tibgħat it-talbiet billi tuża s-sintassi await ta’ Python:

import asyncio

async def ask_grok(question: str) -> str:
    chat = client.chat.create(
        model="grok-4.20-0309-reasoning",
        max_tokens=500
    )
    chat.append(user(question))
    response = await chat.sample()
    return response.text

# Entry point
result = asyncio.run(ask_grok("Explain the algorithmic complexity of quicksort"))
print(result)

Il-funzjoni ask_grok tuża async def, u b’hekk issir korutina. Is-sejħa await chat.sample() tissospendi din il-korutina sakemm tasal ir-risposta, mingħajr ma timblokka kompiti potenzjali oħra.

Differenza mill-klijent sinkronu

Il-klijent sinkronu jimblokka t-thread attwali għat-tul kollu tat-talba. Il-klijent asinkronu jħalli t-thread ħieles biex jeżegwixxi korutini oħra. Din id-distinzjoni ma tgħodd xejn jekk tibgħat talba waħda biss, iżda ssir kritika meta tipproċessa talbiet multipli b’mod parallel.

# Sync: each call waits for the response
for question in questions:
    response = client.chat.completions.create(...)  # blocking
    process(response)

# Async: calls run in parallel
async def main():
    tasks = [ask_grok(q) for q in questions]
    responses = await asyncio.gather(*tasks)  # parallel
    for r in responses:
        process(r)

Fl-eżempju sinkronu, jekk kull talba tieħu 10 sekondi u għandek 20, il-ħin totali huwa 200 sekonda. Fil-modalità asinkrona b’semaforu ta’ 5 (li se tiskopri f’lezzjonijiet sussegwenti), il-ħin jinżel għal madwar 40 sekonda.

Punti Ewlenin

  • L-AsyncClient tal-SDK ta’ xAI jippermettilek tibgħat talbiet mingħajr ma timblokka l-eżekuzzjoni
  • Il-parametru timeout=3600 huwa essenzjali għal mudelli ta’ raġunar
  • L-xai-sdk jeħtieġ Python 3.10 jew aktar (verżjoni 1.21.0 sal-2 ta’ Novembru 2026, skont PyPI)
  • Il-benefiċċju reali jidher meta tipproċessa talbiet multipli b’mod parallel
  • asyncio.run() iservi bħala l-punt tad-dħul biex teżegwixxi korutina minn kodiċi sinkronu