Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Πολλαπλές ολοκληρώσεις (N completions)

Μάθημα 15 / 16 Ενημερώθηκε 2 Νοεμβρίου 2026 Για developers
Σε αυτήν τη σελίδα
  1. Δημιουργία πολλαπλών απαντήσεων σε μία κλήση
  2. Επιλογή της καλύτερης απάντησης
  3. Σύγκριση δύο προτροπών σε ένα δείγμα
  4. Βελτίωση της αξιοπιστίας ταξινόμησης μέσω ψηφοφορίας
  5. Πότε να χρησιμοποιήσετε n > 1
  6. Βασικά σημεία

Δημιουργία πολλαπλών απαντήσεων σε μία κλήση

Η παράμετρος n δίνει εντολή στο μοντέλο να παράγει πολλαπλές εναλλακτικές απαντήσεις στην ίδια προτροπή (prompt) μέσα σε ένα μόνο αίτημα API. Αν και αυτό μπορεί να φαίνεται δευτερεύον χαρακτηριστικό, ενεργοποιεί τρεις σοβαρές περιπτώσεις χρήσης: τη σύγκριση δύο διατυπώσεων προτροπών σε ένα δείγμα, την αυτόματη επιλογή της καλύτερης απάντησης από μια ομάδα και την εξερεύνηση του χώρου λύσεων αντί για την αποδοχή της πρώτης εξόδου.

Εξ ορισμού, n=1 και το API επιστρέφει μία μόνο απάντηση στο choices. Αν ορίσετε n=5, ο πίνακας περιέχει πέντε καταχωρίσεις, καθεμία με το δικό της index. Σημειώστε τη θερμοκρασία που ορίζεται σε 1.0 στο παρακάτω παράδειγμα: χωρίς επαρκή τυχαιοποίηση, και οι πέντε απαντήσεις θα ήταν ίδιες, καθιστώντας την κλήση άχρηστη.

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="ministral-3b-latest",
    messages=[
        {"role": "user", "content": "What is the best programming language for beginners? One word only."}
    ],
    temperature=1.0,  # High temperature to maximize diversity
    n=5
)

for choice in response.choices:
    print(f"Response {choice.index}: {choice.message.content}")

Δύο παράγοντες καθορίζουν την πρακτική αξία αυτής της παραμέτρου. Ο πρώτος είναι η χρέωση: τα tokens εισόδου χρεώνονται μόνο μία φορά, καθώς η προτροπή στέλνεται μία φορά, αλλά τα tokens εξόδου χρεώνονται για κάθε ολοκλήρωση. Με n=5 και max_tokens=100, το ανώτατο όριο εξόδου σας αυξάνεται σε 500 tokens. Αυτό ακριβώς κάνει το n ελκυστικό για μεγάλες προτροπές—η απόσβεση ενός μεγάλου συμφραζόμενου σε πέντε απαντήσεις κοστίζει σημαντικά λιγότερο από την πραγματοποίηση πέντε ξεχωριστών κλήσεων.

print(f"Prompt tokens  : {response.usage.prompt_tokens}")     # Charged 1x
print(f"Response tokens: {response.usage.completion_tokens}")  # Charged nx
print(f"Total          : {response.usage.total_tokens}")

Ο δεύτερος παράγοντας είναι η συμβατότητα: δεν υποστηρίζουν όλα τα μοντέλα της Mistral το n. Από τον Απρίλιο του 2026, οι πρόσφατες εκδόσεις του mistral-large δεν υποστηρίζουν n > 1. Χρησιμοποιήστε το ministral-3b-latest ή άλλα συμβατά μοντέλα για αυτή τη λειτουργία—γι’ αυτό όλα τα παραδείγματα σε αυτό το μάθημα βασίζονται σε αυτό το μοντέλο.

Επιλογή της καλύτερης απάντησης

Η πρώτη περίπτωση χρήσης αφορά τη δημιουργία πολλαπλών υποψηφίων και τη διατήρηση του καλύτερου με βάση ένα κριτήριο που εσείς ορίζετε. Ο μηχανισμός είναι σκόπιμα γενικός: το best_of_n δέχεται οποιαδήποτε συνάρτηση βαθμολόγησης, επιτρέποντάς σας να μετρήσετε αυτό που έχει σημασία στο πλαίσιο σας—την παρουσία μιας υποχρεωτικής λέξης-κλειδιού, την εγκυρότητα JSON ή την τήρηση ενός στόχου μήκους. Η συνάρτηση length_scorer απεικονίζει αυτό το τελευταίο κριτήριο, όπου η βαθμολογία μειώνεται αναλογικά με την απόκλιση από το στόχο μήκους.

def best_of_n(client, messages, n=5, scorer=None, **kwargs):
    """Generates N responses and selects the best one."""
    response = client.chat.complete(
        model="ministral-3b-latest",
        messages=messages,
        n=n,
        temperature=0.9,
        **kwargs
    )

    candidates = [
        {
            "index": c.index,
            "content": c.message.content,
            "score": scorer(c.message.content) if scorer else 0
        }
        for c in response.choices
    ]

    if scorer:
        candidates.sort(key=lambda x: x["score"], reverse=True)

    return candidates

# Scorer: appropriate length (not too short, not too long)
def length_scorer(text: str, target=200) -> float:
    """Score based on proximity to a target length."""
    diff = abs(len(text) - target)
    return max(0, 1 - diff / target)

candidates = best_of_n(
    client,
    [{"role": "user", "content": "Write a summary of generative AI in 2026."}],
    n=5,
    scorer=length_scorer,
    max_tokens=300
)

print("Best response:")
print(candidates[0]["content"])
print(f"Score: {candidates[0]['score']:.2f}")

Σύγκριση δύο προτροπών σε ένα δείγμα

Η δεύτερη περίπτωση χρήσης είναι μεθοδολογική και όχι εστιασμένη στο προϊόν. Όταν αποφασίζετε μεταξύ δύο διατυπώσεων προτροπών, η σύγκριση μίας μόνο απάντησης με μια άλλη δεν αποδεικνύει τίποτα: η διακύμανση του μοντέλου από μόνη της θα μπορούσε να εξηγήσει τη διαφορά. Δημιουργώντας N απαντήσεις για κάθε έκδοση και μετρώντας το μέσο μήκος και τον ρυθμό των διακριτών απαντήσεων, αποκτάτε προκαταρκτικά στοιχεία. Μια βαθμολογία ποικιλομορφίας 1.0 σε μια προτροπή που προορίζεται να παράγει μια σταθερή μορφή αποτελεί ένδειξη κινδύνου, όχι καλά νέα.

def ab_test_prompts(client, prompt_a: str, prompt_b: str, n: int = 5):
    """Compares two prompts by generating N responses for each."""
    results = {}

    for label, prompt in [("A", prompt_a), ("B", prompt_b)]:
        response = client.chat.complete(
            model="ministral-3b-latest",
            messages=[{"role": "user", "content": prompt}],
            n=n,
            temperature=0.8,
            max_tokens=200
        )

        texts = [c.message.content for c in response.choices]
        avg_length = sum(len(t) for t in texts) / len(texts)
        unique_ratio = len(set(texts)) / len(texts)

        results[label] = {
            "avg_length": round(avg_length),
            "diversity": round(unique_ratio, 2),
            "sample": texts[0][:150]
        }

    return results

# Test
results = ab_test_prompts(
    client,
    "Summarize the benefits of Python.",
    "List the 3 main benefits of Python in one sentence each."
)

for label, data in results.items():
    print(f"\nPrompt {label}:")
    print(f"  Average length : {data['avg_length']} chars")
    print(f"  Diversity      : {data['diversity']}")
    print(f"  Sample         : {data['sample']}...")

Βελτίωση της αξιοπιστίας ταξινόμησης μέσω ψηφοφορίας

Η τρίτη περίπτωση χρήσης προσφέρει την υψηλότερη απόδοση επένδυσης (ROI) στην παραγωγή. Για μια εργασία ταξινόμησης, μια μόνο απάντηση δεν σας λέει τίποτα για την εμπιστοσύνη του μοντέλου: η απάντηση μπορεί να είναι προφανής, ή μπορεί να είναι μια οριακή εικασία μεταξύ δύο κατηγοριών. Δημιουργήστε επτά απαντήσεις, μετρήστε τις ψήφους και θα λάβετε τόσο μια ετικέτα όσο και έναν actionable ρυθμό εμπιστοσύνης—μια ταξινόμηση 4/7 μπορεί να δρομολογηθεί για ανθρώπινη επικύρωση, ενώ μια 7/7 περνάει απευθείας. Η χρήση περιττού αριθμού αποφεύγει τις ισοπαλίες.

from collections import Counter

def majority_vote(client, messages, n=7, **kwargs):
    """Majority vote classification over N completions."""
    response = client.chat.complete(
        model="ministral-3b-latest",
        messages=messages,
        n=n,
        temperature=0.7,
        max_tokens=20,
        **kwargs
    )

    votes = [c.message.content.strip().upper() for c in response.choices]
    counts = Counter(votes)
    winner, count = counts.most_common(1)[0]
    confidence = count / n

    return {
        "result": winner,
        "confidence": round(confidence, 2),
        "votes": dict(counts),
        "n": n
    }

# Sentiment classification
result = majority_vote(
    client,
    messages=[
        {"role": "system", "content": "Classify the sentiment: POSITIVE, NEGATIVE, or NEUTRAL. Reply with one word only."},
        {"role": "user", "content": "The product is okay but the delivery was very slow."}
    ],
    n=7
)

print(f"Result    : {result['result']}")
print(f"Confidence: {result['confidence']:.0%}")
print(f"Votes     : {result['votes']}")

Πότε να χρησιμοποιήσετε n > 1

Αυτή η παράμετρος δεν δικαιολογείται παντού: στην τυπική κίνηση, κάθε επιπλέον ολοκλήρωση αποτελεί κόστος εξόδου χωρίς απόδοση. Ο παρακάτω πίνακας συνοψίζει τις αποδεκτές τιμές με βάση το σενάριο.

ΣενάριοΣυνιστώμενο nΓιατί
Τυπική παραγωγή1Ελάχιστο κόστος
Επιλογή ποιότητας3-5Best-of-N για κρίσιμο κείμενο
Αξιόπιστη ταξινόμηση5-9 (περιττός)Ψηφοφορία πλειοψηφίας για αξιοπιστία
Δοκιμή A/B προτροπών5-10Επαρκές μέγεθος δείγματος για σύγκριση
Καταιγισμός ιδεών5-10Μέγιστη ποικιλομορφία ιδεών

Βασικά σημεία

  • Η παράμετρος n δημιουργεί πολλαπλές απαντήσεις σε μία κλήση API
  • Τα tokens εισόδου χρεώνονται μία φορά· τα tokens εξόδου πολλαπλασιάζονται με το N
  • Δεν υποστηρίζουν όλα τα μοντέλα το n > 1—επαληθεύστε τη συμβατότητα
  • Η ψηφοφορία πλειοψηφίας βελτιώνει την αξιοπιστία της ταξινόμησης
  • Το Best-of-N επιλέγει την καλύτερη απάντηση με βάση ένα μετρήσιμο κριτήριο
  • Χρησιμοποιήστε υψηλή θερμοκρασία με n > 1 για να μεγιστοποιήσετε την ποικιλομορφία των απαντήσεων