Έξοδοι Πρόβλεψης: Ταχύτερες Αποκρίσεις
Σε αυτήν τη σελίδα
Το μάθημα ενημερώθηκε στις 3 Νοεμβρίου 2026 με βάση τον οδηγό Predicted Outputs και τη σελίδα απόσυρσης της OpenAI: αυτή η λειτουργία υπάρχει μόνο στις Chat Completions (η παράμετρος
predictionδεν γίνεται δεκτή από το Responses API, οπότε η προηγούμενη εκδοχή αυτού του μαθήματος θα απέτυχε) και μόνο με τα μοντέλα GPT-4o, GPT-4o mini, GPT-4.1 και GPT-4.1 mini, τα οποία η OpenAI θα αποσύρει στις 14 Ιανουαρίου 2027 (το GPT-4.1 nano αποσύρθηκε στις 23 Οκτωβρίου). Ο οδηγός δεν αναφέρει νεότερα συμβατά μοντέλα: μην χτίζετε νέα προϊόντα πάνω σε αυτή τη λειτουργία χωρίς σχέδιο εξόδου. Πηγές: Predicted Outputs · Deprecations.
Επιταχύνετε τις αποκρίσεις όταν γνωρίζετε ήδη τη δομή
Οι Έξοδοι Πρόβλεψης (Predicted Outputs) αντιμετωπίζουν ένα πολύ συχνό σενάριο παραγωγής: ζητάτε από το μοντέλο να τροποποιήσει υπάρχον περιεχόμενο και γνωρίζετε εκ των προτέρων ότι το μεγαλύτερο μέρος του αποτελέσματος θα είναι ίδιο με την είσοδο. Χωρίς πρόβλεψη, το μοντέλο αναπαράγει κάθε token από την αρχή, συμπεριλαμβανομένων γραμμών που κανείς δεν του ζήτησε να αγγίξει. Με την πρόβλεψη, παρέχετε το αναμενόμενο κείμενο· το μοντέλο επικυρώνει ό,τι ταιριάζει και παράγει πραγματικά μόνο τα μέρη που διαφέρουν. Ο λανθάνων χρόνος μειώνεται ανάλογα.
Αυτή η αλλαγή μεταβάλλει ιδιαίτερα το προφίλ των εργασιών επεξεργασίας. Ένας βοηθός που ξαναγράφει ένα αρχείο διακοσίων γραμμών για να αλλάξει μια υπογραφή συνάρτησης δεν πληρώνει πλέον για τη δημιουργία ολόκληρου του αρχείου, αλλά μόνο για τις γραμμές που θίγονται: το μεγαλύτερο μέρος της εργασίας ανάγεται σε σύγκριση. Οι σχετικές περιπτώσεις μοιάζουν όλες μεταξύ τους: επεξεργασία κώδικα, όπου στέλνετε ολόκληρο το αρχείο για μια στοχευμένη αλλαγή· μερική ξαναγραφή, όπου χρειάζεται αναδιατύπωση μόνο μία παράγραφος ενός μεγάλου εγγράφου· συμπλήρωση προτύπου, όπου αλλάζουν μόνο πεδία μεταβλητών· και ενημερώσεις δομημένων δεδομένων, όπου δύο ή τρεις τιμές σε ένα JSON εξελίσσονται ενώ η υπόλοιπη δομή παραμένει. Σε καθεμία από αυτές τις περιπτώσεις, η αναμενόμενη απόκριση υπάρχει ήδη με μόνο μικρές διαφορές.
Ένα παράδειγμα επεξεργασίας κώδικα
Η κλήση δομείται όπως μια τυπική κλήση Chat Completions, εμπλουτισμένη με την παράμετρο prediction που φέρει το περιεχόμενο που αναμένετε.
import openai
client = openai.OpenAI()
code_original = """
def calculate_price(quantity, unit_price, vat=0.20):
subtotal = quantity * unit_price
total = subtotal * (1 + vat)
return total
def format_invoice(client, items):
lines = []
for item in items:
price = calculate_price(item["qty"], item["price"])
lines.append(f"{item['name']}: {price:.2f}€")
return "\n".join(lines)
"""
# Προβλέπουμε ότι το μεγαλύτερο μέρος του κώδικα παραμένει ίδιο
instruction = (
"Τροποποιήστε τη συνάρτηση calculate_price για να προσθέσετε μια παράμετρο έκπτωσης "
"με προεπιλεγμένη τιμή 0. Εφαρμόστε την έκπτωση πριν τον ΦΠΑ. "
"Απαντήστε μόνο με κώδικα."
)
completion = client.chat.completions.create(
model="gpt-4.1",
messages=[
{"role": "user", "content": instruction},
{"role": "user", "content": code_original},
],
prediction={
"type": "content",
"content": code_original, # Η πρόβλεψη
},
)
print(completion.choices[0].message.content)
# Το μοντέλο αναπαράγει μόνο τις τροποποιημένες γραμμές — μειωμένος λανθάνων χρόνος
Η συνάρτηση format_invoice δεν επηρεάζεται από το αίτημα: θα επικυρωθεί ως έχει, χωρίς κόστος παραγωγής. Μόνο οι γραμμές της calculate_price που φιλοξενούν τη νέα παράμετρο θα παραχθούν πραγματικά.
Ο μηχανισμός επικύρωσης
Η κατανόηση του τι συμβαίνει κάτω από το κάλυμμα αποφεύγει δύο κοινές παρεξηγήσεις. Το μοντέλο συγκρίνει τη δική του παραγωγή, token προς token, με την πρόβλεψη που παρέχετε· όσο τα δύο ταιριάζουν, τα tokens επικυρώνονται ακαριαία, παρακάμπτοντας τον πλήρη υπολογισμό παραγωγής. Μόλις αποκλίνουν, αναλαμβάνει η κανονική παραγωγή. Το τελικό αποτέλεσμα παραμένει επομένως σωστό: η πρόβλεψη επιταχύνει τα πράγματα, δεν επιβάλλει τίποτα. Αν η πρόβλεψή σας είναι λανθασμένη, λαμβάνετε παρόλα αυτά τη σωστή απάντηση, απλώς χωρίς το όφελος.
Η δεύτερη παρεξήγηση αφορά την τιμολόγηση. Τα tokens πρόβλεψης που απορρίπτονται χρεώνονται, γεγονός που καθιστά τη λειτουργία αντιπαραγωγική όταν η αναμενόμενη απόκριση δεν έχει καμία σχέση με την πρόβλεψη. Επομένως, μετρήστε τον ρυθμό αποδοχής πριν γενικεύσετε το μοτίβο.
completion = client.chat.completions.create(
model="gpt-4.1",
messages=[
{"role": "user", "content": "Προσθέστε μια παράμετρο έκπτωσης στη συνάρτηση calculate_price."},
{"role": "user", "content": code_original},
],
prediction={
"type": "content",
"content": code_original,
},
)
usage = completion.usage
print(f"Tokens εξόδου: {usage.completion_tokens}")
print(f"Αποδεκτά tokens (πρόβλεψη): "
f"{usage.completion_tokens_details.accepted_prediction_tokens}")
print(f"Απορριφθέντα tokens (πρόβλεψη): "
f"{usage.completion_tokens_details.rejected_prediction_tokens}")
# Όσο υψηλότερος είναι ο λόγος αποδεκτών/συνολικών, τόσο μεγαλύτερο το όφελος
Αυτόματη λήψη απόφασης
Επειδή το όφελος εξαρτάται εξ ολοκλήρου από τον τύπο του αιτήματος, η απόφαση ενεργοποίησης ή όχι της πρόβλεψης πρέπει να κωδικοποιείται και όχι να αφήνεται στον κάθε προγραμματιστή. Η παρακάτω ευρετική μέθοδος απορρίπτει την πρόβλεψη σε κείμενα που είναι πολύ σύντομα, όπου το γενικό κόστος αποστολής τους ακυρώνει το όφελος, και την επιφυλάσσει για οδηγίες που εκφράζουν τροποποίηση.
def should_use_prediction(original_text: str, instruction: str) -> bool:
"""Ευρετική μέθοδος για να αποφασιστεί αν αξίζουν οι Έξοδοι Πρόβλεψης."""
# Το κείμενο πρέπει να είναι αρκετά μεγάλο
if len(original_text) < 200:
return False
# Η οδηγία πρέπει να είναι στοχευμένη τροποποίηση
edit_words = ["modify", "change", "replace", "add", "fix"]
is_edit = any(word in instruction.lower() for word in edit_words)
return is_edit
Η ίδια λογική ισχύει για τα δομημένα δεδομένα, όπου η απόδοση είναι ακόμη καλύτερη: ένα JSON διαμόρφωσης διατηρεί τα κλειδιά, την εσοχή και τη σειρά του, και αλλάζουν μόνο οι τιμές.
import json
original_data = {
"company": "Corsen AI",
"employees": 42,
"departments": ["Engineering", "Sales", "Marketing"],
"address": {
"street": "123 Avenue de la République",
"city": "Paris",
"zip_code": "75011",
},
}
json_original = json.dumps(original_data, indent=2, ensure_ascii=False)
completion = client.chat.completions.create(
model="gpt-4.1",
messages=[
{"role": "user", "content": (
"Ενημερώστε το παρακάτω JSON: αλλάξτε τον αριθμό των εργαζομένων "
"σε 58 και προσθέστε το τμήμα Data Science. Απαντήστε μόνο με JSON."
)},
{"role": "user", "content": json_original},
],
prediction={
"type": "content",
"content": json_original,
},
)
Τρεις επιφυλάξεις πριν την ανάπτυξη. Η ροή (streaming) είναι συμβατή, και εκεί είναι μάλιστα που το όφελος στον λανθάνοντα χρόνο είναι πιο αισθητό. Ωστόσο, αρκετές παράμετροι δεν είναι συμβατές: n μεγαλύτερο από 1, logprobs, θετικό presence_penalty ή frequency_penalty, ήχος, λειτουργικότητες άλλες από κείμενο, max_completion_tokens, και εργαλεία (function calling). Τέλος, η λειτουργία συνδέεται με μοντέλα που φτάνουν στο τέλος του κύκλου ζωής τους: τα GPT-4o, GPT-4o mini, GPT-4.1 και GPT-4.1 mini σταματούν στις 14 Ιανουαρίου 2027 και κανένα νεότερο μοντέλο δεν έχει ανακοινωθεί ως συμβατό. Για γρήγορη επεξεργασία στα τρέχοντα μοντέλα, ο βιώσιμος δρόμος είναι να ζητάτε από το μοντέλο ένα diff ή ένα patch αντί για ολόκληρο το αρχείο.
Βασικά σημεία
- Οι Έξοδοι Πρόβλεψης επιταχύνουν τις αποκρίσεις όταν γνωρίζετε την αναμενόμενη δομή — μόνο στις Chat Completions
- Ιδανικές για επεξεργασία κώδικα, ενημερώσεις JSON, μερική ξαναγραφή
- Ελέγξτε τα
accepted_prediction_tokensγια να μετρήσετε το πραγματικό όφελος - Τα απορριφθέντα tokens πρόβλεψης χρεώνονται: μην κάνετε προβλέψεις τυχαία
- Μην τις χρησιμοποιείτε για εντελώς νέες παραγωγές
- Τα συμβατά μοντέλα (GPT-4o, GPT-4.1 και οι εκδόσεις mini τους) αποσύρθηκαν στις 14 Ιανουαρίου 2027: σχεδιάστε μια εναλλακτική, όπως η παραγωγή diff