Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Λειτουργία παρασκηνίου

Μάθημα 9 / 20 Ενημερώθηκε 28 Ιουλίου 2026 Προχωρημένος
Σε αυτήν τη σελίδα
  1. Μια τρίτη οδός μεταξύ σύγχρονης και ομαδικής επεξεργασίας
  2. Εκκίνηση και ανάκτηση
  3. Εργασίες μακράς συλλογιστικής διαδικασίας
  4. Επιλογή της σωστής λειτουργίας
  5. Βασικά σημεία

Μια τρίτη οδός μεταξύ σύγχρονης και ομαδικής επεξεργασίας

Η λειτουργία παρασκηνίου (background mode) του Responses API καλύπτει μια συγκεκριμένη ανάγκη στο εργαλειοθήκη σας. Μια σύγχρονη κλήση σας δίνει την απάντηση άμεσα, αλλά σας αναγκάζει να διατηρείτε τη σύνδεση ανοιχτή για όλη τη διάρκεια της δημιουργίας. Το Batch API επεξεργάζεται χιλιάδες αιτήματα στο μισό κόστος, αλλά τα αποτελέσματα χρειάζονται ώρες. Η λειτουργία παρασκηνίου βρίσκεται ανάμεσά τους: διαχειρίζεται μεμονωμένα αιτήματα με την τυπική χρέωση, χωρίς ανοιχτή σύνδεση. Υποβάλλετε το αίτημα, λαμβάνετε ένα ID και ανακτάτε το αποτέλεσμα όταν είναι έτοιμο.

Αυτός ο συμβιβασμός στοχεύει σε μια ακριβή περίπτωση χρήσης: ένα μοναδικό αίτημα που διαρκεί πολύ για μια μπλοκαρισμένη κλήση, αλλά δεν μπορεί να περιμένει μέχρι την επόμενη μέρα. Αυτό συμβαίνει ακριβώς όταν εκτελείτε ένα μοντέλο υψηλής συλλογιστικής ικανότητας σε ένα πολύπλοκο έγγραφο.

Εκκίνηση και ανάκτηση

Η ενεργοποίηση απαιτεί μόνο μία παράμετρο. Η άμεση απόκριση δεν περιέχει κείμενο· επιστρέφει ένα ID και μια κατάσταση, συνήθως queued ή in_progress.

import openai

client = openai.OpenAI()

# Launch the request in background
response = client.responses.create(
    model="gpt-5.6-sol",  # Ideal for slow tasks (high reasoning)
    input="Analyze the economic implications of European AI regulation "
          "for French SMEs. Propose a 10-point action plan.",
    background=True,  # Background mode
)

print(f"Response ID: {response.id}")
print(f"Status: {response.status}")  # "queued" or "in_progress"

Αυτό το ID είναι ο μοναδικός σας σύνδεσμος με την εργασία σε εξέλιξη: αποθηκεύστε το πριν κάνετε οτιδήποτε άλλο. Αν το χάσετε, θα πληρώσετε για μια δημιουργία που δεν θα ανακτήσετε ποτέ. Η ανάκτηση συνεπάγεται στη συνέχεια την περιοδική ερώτηση (polling) του API μέχρι η κατάσταση να γίνει οριστική, διαχειριζόμενοι την αποτυχία και την ακύρωση ξεχωριστά, καθώς έχουν διαφορετικές επιχειρηματικές συνέπειες.

import time

def wait_for_response(response_id: str, interval: int = 5) -> str:
    """Waits for a background response to complete."""
    while True:
        response = client.responses.retrieve(response_id)

        match response.status:
            case "completed":
                return response.output_text
            case "failed":
                raise RuntimeError(
                    f"Request failed: {response.error}"
                )
            case "cancelled":
                raise RuntimeError("Request was cancelled.")
            case _:
                print(f"Status: {response.status}...")
                time.sleep(interval)

Εργασίες μακράς συλλογιστικής διαδικασίας

Ένα μοντέλο όπως το GPT-5.6 Sol με ενεργοποιημένη την υψηλή συλλογιστική ικανότητα μπορεί να χρειαστεί από 30 δευτερόλεπτα έως δύο λεπτά πριν παράγει το πρώτο ορατό token. Σε μια σύγχρονη κλήση, αυτές οι διάρκειες χτυπούν τα προεπιλεγμένα χρονικά όρια (timeouts) των HTTP clients, των διακομιστών μεσολάβησης (proxies) και των πυλών (gateways). Η λειτουργία παρασκηνίου εξαλείφει αυτό το πρόβλημα στη ρίζα του και, παρεμπιπτόντως, σας επιτρέπει να εκκινήσετε πολλές βαριές αναλύσεις χωρίς να δεσμεύετε τόσες πολλές συνδέσεις.

async def deep_analysis(document: str) -> str:
    """Launches an analysis with GPT-5.6 Sol without blocking."""
    response = client.responses.create(
        model="gpt-5.6-sol",
        input=f"Perform a thorough legal analysis of this contract. "
              f"Identify all potential risks, problematic clauses, "
              f"and propose modifications.\n\n{document}",
        background=True,
    )
    return response.id

# Launch multiple analyses in parallel
task_ids = []
for doc in documents:
    task_id = await deep_analysis(doc)
    task_ids.append(task_id)

# Retrieve results later
results = {}
for task_id in task_ids:
    results[task_id] = wait_for_response(task_id)

Αυτό το μοτίβο επεκτείνεται φυσικά στα webhooks όταν ο καλών είναι μια άλλη υπηρεσία. Το endpoint σας εκκινεί το αίτημα, επιστρέφει το ID και αναθέτει μια εργασία παρασκηνίου να παρακολουθεί την ολοκλήρωση και να στέλνει ειδοποιήσεις. Ο καλών δεν κάνει polling· λαμβάνει ειδοποίηση.

from fastapi import FastAPI, BackgroundTasks
import httpx

app = FastAPI()

@app.post("/api/long-analysis")
async def launch_analysis(request: dict, background_tasks: BackgroundTasks):
    """Launches an analysis and notifies via webhook when done."""
    response = client.responses.create(
        model="gpt-5.6-sol",
        input=request["prompt"],
        background=True,
    )

    # Monitor in background
    background_tasks.add_task(
        monitor_and_notify,
        response_id=response.id,
        webhook_url=request["webhook_url"],
    )

    return {"response_id": response.id, "status": "launched"}

async def monitor_and_notify(response_id: str, webhook_url: str):
    """Monitors a background request and notifies via webhook."""
    result = wait_for_response(response_id)

    async with httpx.AsyncClient() as http:
        await http.post(webhook_url, json={
            "response_id": response_id,
            "result": result,
        })

Επιλογή της σωστής λειτουργίας

Ο κανόνας απόφασης ανάγεται σε δύο ερωτήσεις. Πόσα αιτήματα υπάρχουν; Και περιμένει ο χρήστης; Πέρα από τα εκατό αιτήματα χωρίς απαίτηση άμεσης απόκρισης, το Batch API κερδίζει ως προς την τιμή: αποτελέσματα σε ώρες στο μισό κόστος. Αν κάποιος περιμένει μπροστά στην οθόνη του, οι σύγχρονες κλήσεις παραμένουν η μόνη αποδεκτή επιλογή με την τυπική χρέωση. Η λειτουργία παρασκηνίου καλύπτει τον υπόλοιπο χώρο: λίγα αιτήματα, αποτελέσματα σε λεπτά, τυπική τιμή. Αξίζει να κωδικοποιήσετε αυτή τη λογική μία φορά, αντί να την επαναλαμβάνετε για κάθε νέα υπηρεσία.

def choose_mode(
    num_requests: int,
    urgency: str,
    budget: str,
) -> str:
    """Recommends the optimal execution mode."""
    if num_requests > 100 and urgency != "immediate":
        return "batch"
    elif urgency == "immediate":
        return "synchronous"
    else:
        return "background"

Τέλος, σχεδιάστε μια έξοδο διαφυγής (escape hatch). Ένα αίτημα παρασκηνίου που υπερβαίνει κατά πολύ την αναμενόμενη διάρκειά του δεσμεύει προϋπολογισμό και καθυστερεί την υπόλοιπη ροή εργασίας σας· το API σας επιτρέπει να το ακυρώσετε ρητά. Ορίστε αυτό το ανώτατο όριο στο διπλάσιο της διάρκειας που παρατηρείτε στην πράξη, όχι στον μέσο όρο, διαφορετικά κινδυνεύετε να ακυρώσετε αιτήματα που επρόκειτο να ολοκληρωθούν επιτυχώς.

def cancel_if_too_long(response_id: str, timeout: int = 120):
    """Cancels a request if it exceeds the timeout."""
    start = time.time()

    while time.time() - start < timeout:
        response = client.responses.retrieve(response_id)
        if response.status == "completed":
            return response.output_text
        time.sleep(5)

    # Timeout exceeded — cancel
    client.responses.cancel(response_id)
    raise TimeoutError(
        f"Request {response_id} cancelled after {timeout}s."
    )

Βασικά σημεία

  • Η λειτουργία παρασκηνίου εκκινεί αιτήματα χωρίς να διατηρεί ανοιχτή σύνδεση
  • Ιδανική για ρυθμίσεις υψηλής συλλογιστικής ικανότητας (GPT-5.6 Sol) και μακροχρόνιες εργασίες
  • Συνδυάστε την με webhook για μια αρχιτεκτονική βασισμένη σε γεγονότα
  • Αποθηκεύστε το ID απόκρισης: είναι ο μοναδικός σας σύνδεσμος με την εργασία σε εξέλιξη
  • Για ογκώδη επεξεργασία χαμηλού κόστους, προτιμήστε το Batch API