Διαχείριση σφαλμάτων και εναλλακτικές λύσεις
Σε αυτήν τη σελίδα
Διαχείριση σφαλμάτων και εναλλακτικές λύσεις
Η κλήση συναρτήσεων εισάγει μια πρόκληση που ο κλασικός κώδικας δεν αντιμετωπίζει: όταν η συνάρτησή σας αποτύχει, υπάρχουν δύο αποδέκτες για αυτό το σφάλμα. Η εφαρμογή σας, ως συνήθως, και το μοντέλο, το οποίο περιμένει ένα αποτέλεσμα για να συνεχίσει. Το να ξεχνάτε αυτό το γεγονός δημιουργεί το πιο μπερδεμένο σύμπτωμα στην παραγωγή: μια συνομιλία που σταματά απότομα χωρίς εξήγηση, επειδή μια εξαίρεση «καταπιέστηκε» στην πλευρά του διακομιστή και το μοντέλο περιμένει ακόμα.
Ο κανόνας που ακολουθεί δομεί ολόκληρο αυτό το μάθημα: επιστρέφετε πάντα ένα function_call_output, ακόμα και σε περίπτωση αποτυχίας. Ένα μοντέλο που ενημερώνεται ότι ένα API δεν είναι διαθέσιμο μπορεί να προτείνει μια εναλλακτική, να ζητήσει διευκρινίσεις ή να εξηγήσει την κατάσταση στον χρήστη. Ένα μοντέλο που δεν λαμβάνει τίποτα, δεν μπορεί να κάνει τίποτα.
Επιστροφή σφαλμάτων στο μοντέλο
Η μορφή του σφάλματος έχει την ίδια σημασία με την αποστολή του. Ένα απλό «Σφάλμα» δεν διδάσκει τίποτα στο μοντέλο· ένα αντικείμενο JSON που διακρίνει τον τύπο του σφάλματος, αν είναι παροδικό ή μόνιμο, και τα επόμενα βήματα, επιτρέπει στο μοντέλο να αποφασίσει. Αυτό φαίνεται αντιδιαισθητικό: γράφετε μηνύματα σφάλματος meant να διαβάζονται από μια μηχανή συλλογισμού, όχι να καταγράφονται για ανθρώπους.
import json
from openai import OpenAI
client = OpenAI()
def execute_function(name: str, arguments: str, call_id: str) -> dict:
try:
args = json.loads(arguments)
result = dispatcher[name](**args)
return {
"type": "function_call_output",
"call_id": call_id,
"output": json.dumps(result)
}
except KeyError:
return {
"type": "function_call_output",
"call_id": call_id,
"output": json.dumps({
"error": "unknown_function",
"message": f"The function '{name}' does not exist"
})
}
except json.JSONDecodeError:
return {
"type": "function_call_output",
"call_id": call_id,
"output": json.dumps({
"error": "invalid_arguments",
"message": "The JSON arguments are malformed"
})
}
except Exception as e:
return {
"type": "function_call_output",
"call_id": call_id,
"output": json.dumps({
"error": "internal_error",
"message": str(e)
})
}
Επαναληπτική προσπάθεια με εκθετική καθυστέρηση (Exponential Backoff)
Η επαναληπτική προσπάθεια έχει νόημα μόνο για ζητήματα που ενδέχεται να λυθούν σε μια δεύτερη προσπάθεια: διακοπές δικτύου, κωδικοί κατάστασης 429 ή προσωρινές διακοπές λειτουργίας. Η επανάληψη ενός αιτήματος που απορρίφθηκε λόγω μη έγκυρης πιστοποίησης ή λανθασμένων παραμέτρων απλώς καθυστερεί την αποτυχία ενώ πολλαπλασιάζει τις κλήσεις. Γι’ αυτόν τον λόγο, ο παρακάτω κώδικας φιλτράρει ρητά τα σφάλματα—το φιλτράρισμα κάνει τη δουλειά, ενώ η εκθετική καθυστέρηση είναι απλώς η ευγένεια που οφείλετε στην απομακρυσμένη υπηρεσία.
import time
import random
def execute_with_retry(func, args, max_retries=3, base_delay=1.0):
"""Retry with exponential backoff and jitter."""
for attempt in range(max_retries + 1):
try:
return func(**args)
except (ConnectionError, TimeoutError) as e:
if attempt == max_retries:
raise
delay = base_delay * (2 ** attempt) + random.uniform(0, 0.5)
time.sleep(delay)
except ValueError:
# Data error: do not retry
raise
def execute_function_robust(name, arguments, call_id):
args = json.loads(arguments)
try:
result = execute_with_retry(dispatcher[name], args)
return {
"type": "function_call_output",
"call_id": call_id,
"output": json.dumps(result)
}
except Exception as e:
return {
"type": "function_call_output",
"call_id": call_id,
"output": json.dumps({
"error": type(e).__name__,
"message": str(e),
"retries_performed": 3
})
}
Χρονικά όρια ανά συνάρτηση
Ένα ενιαίο χρονικό όριο για όλες τις συναρτήσεις είναι πάντα λανθασμένα ρυθμισμένο: αν είναι πολύ μικρό, διακόπτει βαριές επεξεργασίες· αν είναι πολύ μεγάλο, κάνει τον χρήστη να περιμένει σε μια απλή αναζήτηση cache. Βασίστε κάθε τιμή στις παρατηρούμενες διάρκειες υπό κανονικές συνθήκες, με ένα περιθώριο ασφαλείας—όχι στη χειρότερη φανταστική περίπτωση, κάτι που ουσιαστικά θα σήμαινε ότι δεν υπάρχει καθόλου χρονικό όριο.
import signal
from functools import wraps
TIMEOUTS = {
"search_client": 5,
"generate_report": 30,
"send_email": 10,
}
def with_timeout(func, timeout_seconds):
"""Executes a function with a timeout."""
import concurrent.futures
with concurrent.futures.ThreadPoolExecutor(max_workers=1) as executor:
future = executor.submit(func)
try:
return future.result(timeout=timeout_seconds)
except concurrent.futures.TimeoutError:
raise TimeoutError(
f"Function interrupted after {timeout_seconds}s"
)
def execute_with_timeout(name, arguments, call_id):
args = json.loads(arguments)
timeout = TIMEOUTS.get(name, 10) # 10s by default
try:
result = with_timeout(
lambda: dispatcher[name](**args),
timeout
)
return {
"type": "function_call_output",
"call_id": call_id,
"output": json.dumps(result)
}
except TimeoutError as e:
return {
"type": "function_call_output",
"call_id": call_id,
"output": json.dumps({
"error": "timeout",
"message": str(e),
"suggestion": "Retry with more specific criteria"
})
}
Εναλλακτική λύση (Fallback) μεταξύ συναρτήσεων
Το fallback είναι μια ανταλλαγή, όχι ένας αυτοματισμός: η εξυπηρέτηση με δεδομένα cache έξι ωρών είναι καλύτερη από το τίποτα για έναν πίνακα ελέγχου, και πολύ χειρότερη από το τίποτα για ένα υπόλοιπο τραπεζικού λογαριασμού. Όταν υποβαθμίζετε την υπηρεσία, πείτε το—στο αποτέλεσμα που επιστρέφεται στο μοντέλο, ώστε να μπορεί να προειδοποιήσει τον χρήστη αντί να παρουσιάζει παλιά δεδομένα ως φρέσκα.
async def search_product(term: str) -> dict:
"""Search with fallback: primary API -> cache -> local database."""
# Attempt 1: Catalog API
try:
return await api_catalog.search(term)
except Exception:
pass
# Attempt 2: Redis cache
try:
cached = await redis_client.get(f"product:{term}")
if cached:
result = json.loads(cached)
result["_source"] = "cache"
result["_warning"] = "Data may be outdated"
return result
except Exception:
pass
# Attempt 3: Local SQLite database
try:
row = db.execute(
"SELECT * FROM products WHERE name LIKE ?",
(f"%{term}%",)
).fetchone()
if row:
return {
"name": row["name"],
"price": row["price"],
"_source": "local_db",
"_warning": "Data from last synchronization"
}
except Exception:
pass
return {
"error": "unavailable",
"message": "No data source accessible for this search"
}
Διακόπτης κυκλώματος (Circuit Breaker)
Ο διακόπτης κυκλώματος διαχειρίζεται αυτό που η επαναληπτική προσπάθεια δεν μπορεί: μια υπηρεσία που είναι εκτός λειτουργίας για μεγάλο χρονικό διάστημα. Μετά από N αποτυχίες, ενεργοποιείται και επιστρέφει ένα σφάλμα αμέσως, χωρίς καν να προσπαθήσει, και στη συνέχεια επιτρέπει περιστασιακά ένα δοκιμαστικό αίτημα για να ελέγξει την ανάκαμψη. Το όφελος είναι διπλό—οι χρήστες σας σταματούν να περιμένουν για χρονικό όριο σε κάθε αίτημα και η υπηρεσία που δυσκολεύεται δεν κρατιέται κάτω από τις επαναληπτικές σας προσπάθειες.
from datetime import datetime, timedelta
class CircuitBreaker:
def __init__(self, failure_threshold=5, open_duration=60):
self.threshold = failure_threshold
self.duration = open_duration
self.failures = 0
self.last_failure = None
self.state = "closed" # closed, open, half-open
def can_execute(self) -> bool:
if self.state == "closed":
return True
if self.state == "open":
if datetime.now() - self.last_failure > timedelta(seconds=self.duration):
self.state = "half-open"
return True
return False
return True # half-open: allow one test attempt
def record_success(self):
self.failures = 0
self.state = "closed"
def record_failure(self):
self.failures += 1
self.last_failure = datetime.now()
if self.failures >= self.threshold:
self.state = "open"
# One circuit breaker per external service
breakers = {
"weather_api": CircuitBreaker(failure_threshold=3, open_duration=30),
"catalog_api": CircuitBreaker(failure_threshold=5, open_duration=60),
}
Πλήρης βρόχος ευρωστίας
Το πλήρες πρότυπο συνδυάζει τους πέντε μηχανισμούς που αναφέρθηκαν παραπάνω. Μια προφύλαξη το καθιστά πραγματικά ασφαλές και είναι εύκολο να παραβλεφθεί: θέστε ένα όριο στον αριθμό των επαναλήψεων. Ένα μοντέλο που κάνει βρόχο καλώντας μια συνάρτηση της οποίας δεν του αρέσει το αποτέλεσμα είναι σπάνιο, αλλά χωρίς ένα ανώτατο όριο θα κάψει τον προϋπολογισμό σας μέχρι εξαντλήσεως—και αυτό είναι το είδος του incident που ανακαλύπτετε στον λογαριασμό.
def robust_loop(prompt, tools, max_turns=10):
messages = prompt
for turn in range(max_turns):
response = client.responses.create(
model="gpt-5.6-terra",
input=messages,
tools=tools
)
calls = [i for i in response.output if i.type == "function_call"]
if not calls:
return response.output_text
results = []
for call in calls:
result = execute_function_robust(
call.name, call.arguments, call.call_id
)
results.append(result)
messages = response.output + results
return "Workflow interrupted: turn limit reached"
Βασικά σημεία
- Επιστρέφετε πάντα ένα
function_call_output, ακόμα και σε περίπτωση σφάλματος - Δομείτε τα σφάλματα ως JSON ώστε το μοντέλο να μπορεί να τα χρησιμοποιήσει
- Επαναλαμβάνετε μόνο παροδικά σφάλματα με εκθετική καθυστέρηση
- Υλοποιείτε εναλλακτικές λύσεις (fallbacks) μεταξύ πηγών δεδομένων
- Χρησιμοποιείτε έναν διακόπτη κυκλώματος για την προστασία υπηρεσιών που αποτυγχάνουν