Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

xAI SDK AsyncClient

Μάθημα 1 / 12 Ενημερώθηκε 2 Νοεμβρίου 2026 Προχωρημένος
Σε αυτήν τη σελίδα
  1. Γιατί να μεταβείτε σε ασύγχρονη λειτουργία
  2. Αρχικοποίηση του AsyncClient
  3. Αποστολή ασύγχρονου αιτήματος
  4. Διαφορά από τον συγχρονικό client
  5. Βασικά σημεία

Γιατί να μεταβείτε σε ασύγχρονη λειτουργία

Όταν καλείτε το API της xAI συγχρονικά, κάθε κλήση δεσμεύει την εκτέλεση του προγράμματός σας μέχρι να φτάσει η απάντηση. Για ένα μοντέλο συλλογισμού όπως το grok-4.5, ένα μόνο αίτημα μπορεί να διαρκέσει αρκετά δευτερόλεπτα. Αν χρειάζεται να επεξεργαστείτε 100 αιτήματα, ο συνολικός χρόνος αναμονής γίνεται απαγορευτικός.

Η ασύγχρονη λειτουργία λύνει αυτό το πρόβλημα. Αντί να περιμένετε κάθε απάντηση, το πρόγραμμά σας εκκινεί το αίτημα και συνεχίζει την εκτέλεσή του. Ανακτάτε το αποτέλεσμα αργότερα, όταν είναι διαθέσιμο. Αυτή η προσέγγιση σας επιτρέπει να επεξεργάζεστε πολλαπλά αιτήματα παράλληλα και να αξιοποιείτε πλήρες το εύρος ζώνης σας προς το API.

3600s
Συνιστώμενο χρονικό όριο
5x
Παράλληλη απόδοση
-50%
Εναλλακτική Batch API
RPM
Όριο ρυθμού προς τήρηση

Αρχικοποίηση του AsyncClient

Το SDK της xAI παρέχει την κλάση AsyncClient, αφιερωμένη σε ασύγχρονες κλήσεις. Η αρχικοποίηση είναι παρόμοια με αυτή του συγχρονικού client, με την παράμετρο timeout που πρέπει πάντα να ρυθμίζετε:

import os
from xai_sdk import AsyncClient
from xai_sdk.chat import user

client = AsyncClient(
    api_key=os.getenv("XAI_API_KEY"),
    timeout=3600,
)

Η τιμή timeout=3600 ισούται με μία ώρα. Αυτή η τιμή μπορεί να φαίνεται υψηλή, αλλά είναι απαραίτητη για τα μοντέλα συλλογισμού που εκτελούν εκτεταμένο συλλογισμό πριν απαντήσουν. Ένα πολύ μικρό χρονικό όριο προκαλεί σφάλματα διακοπής σύνδεσης σε σύνθετα αιτήματα.

Αποστολή ασύγχρονου αιτήματος

Αφού αρχικοποιήσετε τον client, στέλνετε αιτήματα χρησιμοποιώντας τη σύνταξη await της Python:

import asyncio

async def ask_grok(question: str) -> str:
    chat = client.chat.create(
        model="grok-4.20-0309-reasoning",
        max_tokens=500
    )
    chat.append(user(question))
    response = await chat.sample()
    return response.text

# Σημείο εισόδου
result = asyncio.run(ask_grok("Explain the algorithmic complexity of quicksort"))
print(result)

Η συνάρτηση ask_grok χρησιμοποιεί async def, καθιστώντας την μια coroutine. Η κλήση await chat.sample() αναστέλλει αυτή την coroutine μέχρι να φτάσει η απάντηση, χωρίς να δεσμεύει άλλες πιθανές εργασίες.

Διαφορά από τον συγχρονικό client

Ο συγχρονικός client δεσμεύει το τρέχον νήμα για όλη τη διάρκεια του αιτήματος. Ο ασύγχρονος client ελευθερώνει το νήμα για να εκτελέσει άλλες coroutines. Αυτή η διάκριση δεν έχει σημασία αν στέλνετε μόνο ένα αίτημα, αλλά γίνεται κρίσιμη όταν επεξεργάζεστε πολλαπλά αιτήματα παράλληλα.

# Sync: κάθε κλήση περιμένει την απάντηση
for question in questions:
    response = client.chat.completions.create(...)  # blocking
    process(response)

# Async: οι κλήσεις εκτελούνται παράλληλα
async def main():
    tasks = [ask_grok(q) for q in questions]
    responses = await asyncio.gather(*tasks)  # parallel
    for r in responses:
        process(r)

Στο συγχρονικό παράδειγμα, αν κάθε αίτημα διαρκεί 10 δευτερόλεπτα και έχετε 20, ο συνολικός χρόνος είναι 200 δευτερόλεπτα. Σε ασύγχρονη λειτουργία με semaphore 5 (το οποίο θα ανακαλύψετε σε επόμενα μαθήματα), ο χρόνος μειώνεται σε περίπου 40 δευτερόλεπτα.

Βασικά σημεία

  • Το AsyncClient του xAI SDK σας επιτρέπει να στέλνετε αιτήματα χωρίς να δεσμεύετε την εκτέλεση
  • Η παράμετρος timeout=3600 είναι απαραίτητη για τα μοντέλα συλλογισμού
  • Το xai-sdk απαιτεί Python 3.10 ή νεότερη έκδοση (έκδοση 1.21.0 στις 2 Νοεμβρίου 2026, σύμφωνα με το PyPI)
  • Το πραγματικό όφελος εμφανίζεται κατά την επεξεργασία πολλαπλών αιτημάτων παράλληλα
  • Το asyncio.run() λειτουργεί ως σημείο εισόδου για την εκτέλεση μιας coroutine από συγχρονικό κώδικα