Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Χρονικά όρια και ανθεκτικότητα σε περιβάλλον παραγωγής

Μάθημα 15 / 16 Ενημερώθηκε 30 Ιουλίου 2026 Για developers
Σε αυτήν τη σελίδα
  1. Προετοιμάστε την εφαρμογή σας για τον πραγματικό κόσμο
  2. Το χρονικό όριο των 3600 δευτερολέπτων
  3. Διαχείριση σφαλμάτων
  4. Ασύγχρονη αρχιτεκτονική
  5. Διακόπτης κυκλώματος (Circuit Breaker)
  6. Βασικά σημεία

Προετοιμάστε την εφαρμογή σας για τον πραγματικό κόσμο

Σε περιβάλλον παραγωγής, τα αιτήματα προς το API Responses ενδέχεται να απαιτούν χρόνο—ειδικά όταν χρησιμοποιείτε μοντέλα συλλογισμού που «σκέφτονται» εκτενώς πριν απαντήσουν. Ο κακός χειρισμός των χρονικών ορίων (timeouts) μπορεί να προκαλέσει σιωπηλές αστοχίες ή υποβάθμιση της εμπειρίας του χρήστη.

Το χρονικό όριο των 3600 δευτερολέπτων

Η xAI συνιστά ελάχιστο χρονικό όριο 3600 δευτερολέπτων (1 ώρα) για αιτήματα προς μοντέλα συλλογισμού. Αυτό είναι σημαντικά μεγαλύτερο από τα τυπικά APIs και επηρεάζει την αρχιτεκτονική σας.

Γιατί τόσο μεγάλο;

Τα μοντέλα συλλογισμού Grok-4.5 μπορούν να χρησιμοποιήσουν εκατοντάδες χιλιάδες εσωτερικά tokens συλλογισμού πριν παράγουν μια απάντηση. Σε πολύπλοκα προβλήματα (προχωρημένα μαθηματικά, ανάλυση κώδικα, συλλογισμός πολλαπλών βημάτων), το μοντέλο μπορεί να «σκέφτεται» για αρκετά λεπτά.

Ρύθμιση στην πλευρά του πελάτη

import httpx
from openai import OpenAI

# OpenAI SDK με εκτεταμένο χρονικό όριο
client = OpenAI(
    api_key="xai-...",
    base_url="https://api.x.ai/v1",
    timeout=httpx.Timeout(3600.0, connect=10.0)
)

Σε curl:

curl --max-time 3600 https://api.x.ai/v1/responses \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{...}'

Διαχείριση σφαλμάτων

Συχνά σφάλματα

Κωδικός HTTPΑιτίαΕνέργεια
401Μη έγκυρο κλειδί APIΕπαληθεύστε το κλειδί
429Επιτεύχθηκε το όριο ρυθμούΕπαναλάβετε με εκθετική καθυστέρηση (exponential backoff)
500Σφάλμα διακομιστή xAIΕπαναλάβετε μετά από λίγα δευτερόλεπτα
503Υπηρεσία μη διαθέσιμηΕπαναλάβετε μετά από 30 δευτερόλεπτα
TimeoutΤο αίτημα είναι πολύ μεγάλοΑυξήστε το χρονικό όριο ή απλοποιήστε την εντολή (prompt)

Πρότυπο επανάληψης με εκθετική καθυστέρηση

import time

def call_with_retry(client, max_retries=3, **kwargs):
    for attempt in range(max_retries):
        try:
            return client.responses.create(**kwargs)
        except Exception as e:
            if attempt == max_retries - 1:
                raise
            wait = 2 ** attempt  # 1s, 2s, 4s
            print(f"Error: {e}. Retrying in {wait}s...")
            time.sleep(wait)

Περιορισμός ρυθμού (Rate Limiting)

Η xAI επιβάλλει όρια ρυθμού βάσει του συνδρομητικού σας πλάνου. Υλοποιήστε έναν περιοριστή ρυθμού στην πλευρά του πελάτη:

import time
from collections import deque

class RateLimiter:
    def __init__(self, max_requests_per_minute=60):
        self.max_rpm = max_requests_per_minute
        self.timestamps = deque()

    def wait_if_needed(self):
        now = time.time()
        # Αφαίρεση χρονοσημάτων παλαιότερων του ενός λεπτού
        while self.timestamps and self.timestamps[0] < now - 60:
            self.timestamps.popleft()
        if len(self.timestamps) >= self.max_rpm:
            sleep_time = 60 - (now - self.timestamps[0])
            time.sleep(max(0, sleep_time))
        self.timestamps.append(time.time())

Ασύγχρονη αρχιτεκτονική

Για web εφαρμογές, μην μπλοκάρετε το κύριο νήμα για 3600 δευτερόλεπτα. Χρησιμοποιήστε μια ασύγχρονη αρχιτεκτονική:

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(
    api_key="xai-...",
    base_url="https://api.x.ai/v1"
)

async def process_request(user_input):
    response = await client.responses.create(
        model="grok-4.20-0309-reasoning",
        input=user_input,
        stream=True
    )
    async for event in response:
        if event.type == "response.output_text.delta":
            yield event.delta

Η ροή δεδομένων (streaming) είναι η βέλτιστη προσέγγιση για διαδραστικές εφαρμογές: οι χρήστες βλέπουν τα πρώτα tokens μέσα σε δευτερόλεπτα, ακόμα κι αν η πλήρης παραγωγή διαρκεί περισσότερο.

Διακόπτης κυκλώματος (Circuit Breaker)

Για να προστατεύσετε την εφαρμογή σας από διακοπές λειτουργίας του API της xAI:

class CircuitBreaker:
    def __init__(self, failure_threshold=5, reset_timeout=60):
        self.failures = 0
        self.threshold = failure_threshold
        self.reset_timeout = reset_timeout
        self.last_failure = 0
        self.is_open = False

    def call(self, func, *args, **kwargs):
        if self.is_open:
            if time.time() - self.last_failure > self.reset_timeout:
                self.is_open = False
                self.failures = 0
            else:
                raise Exception("Circuit open — API unavailable")

        try:
            result = func(*args, **kwargs)
            self.failures = 0
            return result
        except Exception as e:
            self.failures += 1
            self.last_failure = time.time()
            if self.failures >= self.threshold:
                self.is_open = True
            raise

Βασικά σημεία

  • Ρυθμίστε ελάχιστο χρονικό όριο 3600 δευτερολέπτων για τα μοντέλα συλλογισμού
  • Υλοποιήστε μηχανισμό επανάληψης με εκθετική καθυστέρηση για τα σφάλματα 429 και 500
  • Χρησιμοποιήστε streaming για διαδραστικές εφαρμογές — οι χρήστες βλέπουν τα tokens άμεσα
  • Διαχειριστείτε τον περιορισμό ρυθμού στην πλευρά του πελάτη για να αποφύγετε τα σφάλματα 429
  • Εξετάστε τη χρήση διακόπτη κυκλώματος (circuit breaker) για την προστασία της εφαρμογής σας από διακοπές του API