Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Κόστη και Βελτιστοποίηση

Μάθημα 15 / 16 Ενημερώθηκε 2 Νοεμβρίου 2026 Προχωρημένος
Σε αυτήν τη σελίδα
  1. Κατανόηση της Δομής Κόστους
  2. Το Κόστος Εκπαίδευσης
  3. Το Κόστος Συμπερασματολογίας (Inference)
  4. Μείωση των Tokens Εισόδου
  5. Ισορροπία Μεγέθους Συνόλου Δεδομένων και Εποχών
  6. Παρακολούθηση Δαπανών στην Παραγωγή
  7. Δικαιολόγηση της Επένδυσης
  8. Βασικά σημεία

Ενημέρωση 2 Νοεμβρίου 2026 — Διαθεσιμότητα Fine-tuning. Η αυτοεξυπηρετούμενη διαδικασία fine-tuning της OpenAI καταργείται σταδιακά: από τις 7 Μαΐου 2026, οι οργανισμοί που δεν την έχουν χρησιμοποιήσει ποτέ δεν μπορούν πλέον να δημιουργήσουν εργασίες· από τις 2 Ιουλίου, πρέπει να έχετε χρησιμοποιήσει ένα μοντέλο fine-tuned τους τελευταίους 60 ημέρες· και ξεκινώντας από τις 6 Ιανουαρίου 2027, κανένας πελάτης δεν θα μπορεί να ξεκινήσει νέες εργασίες. Τα ήδη εκπαιδευμένα μοντέλα παραμένουν usable μέχρι να αποσυρθεί το βασικό τους μοντέλο. Αυτό το μάθημα παραμένει χρήσιμο για την κατανόηση και την αξιοποίηση ενός υπάρχοντος μοντέλου· για νέα έργα, δώστε προτεραιότητα στη μηχανική prompts, στο RAG και στις αξιολογήσεις.

Κατανόηση της Δομής Κόστους

Το fine-tuning της OpenAI περιλαμβάνει δύο τύπους κόστους: ένα εφάπαξ κόστος εκπαίδευσης και ένα επαναλαμβανόμενο κόστος συμπερασματολογίας (inference). Η κατανόηση και η βελτιστοποίηση αυτών των κοστών είναι απαραίτητη για μια κερδοφόρα ανάπτυξη. Η διάκριση δεν είναι απλώς λογιστική: το πρώτο είναι μια εφάπαξ απόφαση που λαμβάνεται πριν την εκκίνηση της εργασίας και δεν αλλάζει· το δεύτερο σας ακολουθεί κάθε μήνα και αυξάνεται με την κίνησή σας. Μια ομάδα που διαπραγματεύεται σκληρά τα κόστη εκπαίδευσης ενώ αφήνει ένα prompt χιλιάδων tokens να τρέχει σε πέντε χιλιάδες καθημερινά αιτήματα, δίνει τη λάθος μάχη.

Το Κόστος Εκπαίδευσης

Η εκπαίδευση χρεώνεται ανά token που επεξεργάζεται, και αυτός ο αριθμός εξαρτάται άμεσα από δύο μεταβλητές που ελέγχετε: το μέγεθος του συνόλου δεδομένων σας και τον αριθμό των περασμάτων πάνω σε αυτό.

Training cost = total_tokens × number_epochs × price_per_training_token

Αυτός ο τύπος σας επιτρέπει να εκτιμήσετε τον λογαριασμό πριν ξεκινήσετε οτιδήποτε. Η παρακάτω συνάρτηση σαρώνει το αρχείο JSONL και προσεγγίζει τον αριθμό των tokens με βάση το μήκος των μηνυμάτων—η εκτίμηση ενός token ανά τέσσερις χαρακτήρες στα Γαλλικά είναι πρόχειρη, αλλά αρκεί για να διακρίνετε μια εργασία λίγων δολαρίων από μία που κοστίζει αρκετές εκατοντάδες. Κάντε συνήθεια να το εκτελείτε συστηματικά: ένα σφάλμα προετοιμασίας που τριπλασιάζει το σύνολο δεδομένων σας φαίνεται αμέσως στο αποτέλεσμα.

import json

def estimate_training_cost(
    jsonl_file: str,
    n_epochs: int,
    price_per_million_tokens: float
) -> dict:
    """Estimates training cost before launching the job."""
    total_tokens = 0

    with open(jsonl_file, "r") as f:
        num_examples = 0
        for line in f:
            num_examples += 1
            obj = json.loads(line)
            for msg in obj["messages"]:
                # Rough estimate: 1 token ~ 4 characters in French
                total_tokens += len(msg["content"]) // 4

    training_tokens = total_tokens * n_epochs
    cost = training_tokens * price_per_million_tokens / 1_000_000

    return {
        "examples": num_examples,
        "tokens_per_pass": total_tokens,
        "epochs": n_epochs,
        "total_tokens": training_tokens,
        "estimated_cost": f"${cost:.2f}"
    }

result = estimate_training_cost(
    "training_data.jsonl",
    n_epochs=3,
    price_per_million_tokens=8.0  # check current pricing
)

for k, v in result.items():
    print(f"{k}: {v}")

Το Κόστος Συμπερασματολογίας (Inference)

Η συμπερασματολογία χρεώνεται ανά κλήση, με βάση τα tokens εισόδου και εξόδου, και τα μοντέλα fine-tuned έχουν γενικά μια ελαφρώς υψηλότερη τιμή από το βασικό μοντέλο. Αυτή η πρόσθετη χρέωση ανά μονάδα συχνά προκαλεί δισταγμό, λανθασμένα: εφαρμόζεται σε πολύ λιγότερα tokens, καθώς η συμπεριφορά που περιγραφόταν προηγουμένως σε ένα μεγάλο system prompt είναι πλέον ενσωματωμένη στο μοντέλο. Ο παρακάτω υπολογισμός θέτει δίπλα-δίπλα και τα δύο σενάρια για έναν μήνα ίδιας κίνησης, με ένα prompt να μειώνεται από 800 σε 100 tokens έναντι διπλάσιων τιμών. Προσαρμόστε τις παραμέτρους με τους δικούς σας αριθμούς πριν βγάλετε συμπεράσματα: για χρήση όπου το prompt ήταν ήδη σύντομο, η ισορροπία αντιστρέφεται.

def monthly_cost(
    requests_per_day: int,
    avg_input_tokens: int,
    avg_output_tokens: int,
    price_input_per_million: float,
    price_output_per_million: float
) -> float:
    """Calculates monthly inference cost."""
    requests_month = requests_per_day * 30
    input_cost = requests_month * avg_input_tokens * price_input_per_million / 1_000_000
    output_cost = requests_month * avg_output_tokens * price_output_per_million / 1_000_000
    return input_cost + output_cost

# Scenario: base model with long prompt
base_cost = monthly_cost(
    requests_per_day=5000,
    avg_input_tokens=800,    # long system prompt + question
    avg_output_tokens=200,
    price_input_per_million=0.15,
    price_output_per_million=0.60
)

# Scenario: fine-tuned model with minimal prompt
ft_cost = monthly_cost(
    requests_per_day=5000,
    avg_input_tokens=100,    # short prompt, behavior integrated
    avg_output_tokens=200,
    price_input_per_million=0.30,  # higher FT rate
    price_output_per_million=1.20
)

print(f"Monthly base cost: ${base_cost:.2f}")
print(f"Monthly fine-tuned cost: ${ft_cost:.2f}")
print(f"Difference: ${ft_cost - base_cost:+.2f}")

Μείωση των Tokens Εισόδου

Ο κύριος μοχλός εξοικονόμησης με ένα μοντέλο fine-tuned είναι η μείωση του prompt. Κάθε οδηγία που καταφέρνετε να αφαιρέσετε επειδή το μοντέλο την έχει εσωτερικεύσει, αποτελεί ένα κέρδος που επαναλαμβάνεται σε κάθε κλήση, μέχρι το τέλος ζωής της υπηρεσίας. Ο παρακάτω πίνακας δίνει τις παρατηρούμενες τάξεις μεγέθους ανάλογα με τον βαθμό ενσωμάτωσης που επιτεύχθηκε.

Προσέγγιση Tokens εισόδου Εξοικονόμηση
Βασικό μοντέλο + αναλυτικό prompt 500-1000 tokens Αναφορά
Fine-tuned + ελάχιστο prompt 50-100 tokens 80-90% στην είσοδο
Fine-tuned + χωρίς system prompt 20-50 tokens 95% στην είσοδο

Μην αφαιρείτε αυτές τις οδηγίες όλες μονομιάς ελπίζοντας ότι όλα θα σταθούν. Αφαιρέστε τις σε ομάδες, εκτελώντας ξανά το σύνολο δοκιμών σας μετά από κάθε αφαίρεση: θα ανακαλύψετε ότι ορισμένοι κανόνες έχουν μάθει τέλεια, ενώ άλλοι, λιγότερο αντιπροσωπευμένοι στα παραδείγματά σας, πρέπει να παραμείνουν στο prompt.

Ισορροπία Μεγέθους Συνόλου Δεδομένων και Εποχών

Περισσότερα δεδομένα δίνουν ένα καλύτερο μοντέλο, αλλά και υψηλότερο κόστος εκπαίδευσης, και οι αποδόσεις μειώνονται. Το πέρασμα από εκατό σε τριακόσια παραδείγματα συνήθως αλλάζει πολλά· το πέρασμα από χίλια σε τρεις χιλιάδες αλλάζει λίγο, για τριπλάσια τιμή. Εκπαιδεύστε διάφορα μεγέθη, μετρήστε την επιτευχθείσα ποιότητα και συσχετίστε την με το κόστος για να βρείτε το σημείο ισορροπίας σας.

def find_optimal(results_by_size: dict):
    """Identifies the optimal dataset size."""
    print("Dataset size | Quality score | Training cost")
    print("-" * 55)

    best_ratio = 0
    optimal_size = 0

    for size, data in sorted(results_by_size.items()):
        score = data["score"]
        cost = data["cost"]
        ratio = score / cost if cost > 0 else 0

        print(f"{size:>14} | {score:>13.2f} | {cost:>17.2f} $")

        if ratio > best_ratio:
            best_ratio = ratio
            optimal_size = size

    print(f"\nOptimal size: {optimal_size} examples")

Η επιλογή του βασικού μοντέλου ζυγίζει στην ίδια ζυγαριά. Το Luna είναι φθηνότερο από το Terra, τόσο για την εκπαίδευση όσο και για τη συμπερασματολογία: ξεκινήστε πάντα με το φθηνότερο μοντέλο και προχωρήστε προς τα πάνω μόνο αν η επιτευχθείσα ποιότητα είναι ανεπαρκής. Ελέγξτε ποια μοντέλα είναι επιλέξιμα για fine-tuning στην τεκμηρίωση της OpenAI—η λίστα αλλάζει με κάθε γενιά και δεν καλύπτει ποτέ ολόκληρο τον κατάλογο. Έπειτα υπάρχει ο αριθμός των εποχών, καθώς κάθε επιπλέον πέρασμα πολλαπλασιάζει μηχανικά το κόστος εκπαίδευσης. Αν 2 εποχές δίνουν το 95% της ποιότητας των 4 εποχών, η επιλογή είναι γρήγορη.

Παρακολούθηση Δαπανών στην Παραγωγή

Η εκτίμηση που έγινε πριν την εκκίνηση ισχύει μόνο για την εκπαίδευση. Στην παραγωγή, είναι η πραγματική κίνηση που καθοδηγεί τα κόστη, και συχνά εκπλήσσει προς τα πάνω. Ένας μετρητής που τροφοδοτείται σε κάθε κλήση, συνδεδεμένος με έναν μηνιαίο προϋπολογισμό, σας ειδοποιεί πριν το κάνει ο λογαριασμός. Το όριο του 80% αφήνει χρόνο για αντίδραση: μειώστε ένα prompt, θέστε όρια στα μήκη απάντησης ή μετατοπίστε μέρος της κίνησης σε ένα φθηνότερο μοντέλο.

class CostTracker:
    """Real-time cost tracking."""

    def __init__(self, monthly_budget: float):
        self.budget = monthly_budget
        self.spending = 0.0
        self.calls = 0

    def record(self, input_tokens: int, output_tokens: int,
               input_price: float, output_price: float):
        """Records the cost of a call."""
        cost = (
            input_tokens * input_price / 1_000_000 +
            output_tokens * output_price / 1_000_000
        )
        self.spending += cost
        self.calls += 1

        # Alert if approaching budget
        utilization = self.spending / self.budget * 100
        if utilization > 80:
            print(f"ALERT: {utilization:.1f}% of monthly budget used")

    def report(self):
        """Consumption report."""
        print(f"Calls: {self.calls}")
        print(f"Spending: ${self.spending:.2f}")
        print(f"Remaining budget: ${self.budget - self.spending:.2f}")
        if self.calls > 0:
            print(f"Average cost per call: ${self.spending / self.calls:.4f}")

Δικαιολόγηση της Επένδυσης

Απομένει το ερώτημα που η ηγεσία σας θα θέσει αργά ή γρήγορα: πόσος χρόνος χρειάζεται μέχρι να αποσβεστεί η εκπαίδευση; Ο υπολογισμός συσχετίζει ένα εφάπαξ κόστος με ένα μηνιαίο όφελος, το οποίο προσθέτει την εξοικονόμηση tokens και την αξία που αποδίδετε στα κέρδη ποιότητας. Ο δεύτερος όρος είναι ο πιο δύσκολος, και είναι καλύτερο να τον αφήσετε στο μηδέν παρά να τον επινοήσετε: μια απόσβεση που αποδεικνύεται μόνο σε μετρήσιμες εξοικονομήσεις φέρνει περισσότερη πεποίθηση από μια γενναιόδωρη πρόβλεψη.

def calculate_roi(
    training_cost: float,
    monthly_savings: float,
    quality_gain_value: float = 0
) -> dict:
    """Calculates the return on investment for fine-tuning."""
    monthly_benefit = monthly_savings + quality_gain_value
    payback_months = training_cost / monthly_benefit if monthly_benefit > 0 else float("inf")

    return {
        "training_cost": f"${training_cost:.2f}",
        "monthly_benefit": f"${monthly_benefit:.2f}",
        "payback": f"{payback_months:.1f} months",
        "annual_roi": f"{(monthly_benefit * 12 - training_cost) / training_cost * 100:.0f}%"
    }

Βασικά σημεία

  • Εκτιμήστε το κόστος εκπαίδευσης πριν ξεκινήσετε την εργασία
  • Ο κύριος μοχλός εξοικονόμησης είναι η μείωση των tokens εισόδου
  • Ξεκινήστε με το φθηνότερο βασικό μοντέλο (Luna) πριν προχωρήσετε στο Terra
  • Παρακολουθήστε τα κόστη στην παραγωγή με ειδοποιήσεις προϋπολογισμού
  • Υπολογίστε το ROI συμπεριλαμβάνοντας τα κέρδη ποιότητας και την εξοικονόμηση tokens