Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Συμπληρώσεις N και Ακολουθίες Διακοπής

Μάθημα 12 / 16 Ενημερώθηκε 2 Νοεμβρίου 2026 Αρχάριος
Σε αυτήν τη σελίδα
  1. Δημιουργία πολλαπλών απαντήσεων σε ένα μόνο αίτημα
  2. Η παράμετρος n: πώς λειτουργεί
  3. Ακολουθίες διακοπής: έλεγχος του σημείου τερματισμού της δημιουργίας
  4. Η παράμετρος max_tokens
  5. Συνδυασμός παραμέτρων
  6. Βασικά σημεία

Δημιουργία πολλαπλών απαντήσεων σε ένα μόνο αίτημα

Για να ολοκληρώσουμε αυτή την ενότητα σχετικά με τις παραμέτρους δημιουργίας, εξετάζουμε δύο πρακτικά εργαλεία ελέγχου: την παράμετρο N completions, η οποία σας επιτρέπει να ζητήσετε πολλαπλές απαντήσεις από την ίδια την υπόδειξη (prompt) σε μία μόνο κλήση API, και τις ακολουθίες διακοπής (stop sequences), οι οποίες καθορίζουν πού σταματά η δημιουργία. Η πρώτη σας βοηθά να συγκρίνετε εναλλακτικές λύσεις, να αυξήσετε τις πιθανότητές σας να λάβετε μια βέλτιστη απάντηση ή να τροφοδοτήσετε μια διαδικασία αυτόματης επιλογής· η δεύτερη σας προσφέρει έλεγχο over το μήκος και τη μορφή των εξόδων.

Η παράμετρος n: πώς λειτουργεί

Όταν ορίζετε n=5, το μοντέλο δημιουργεί 5 ανεξάρτητες απαντήσεις για την υπόδειξή σας, καθεμία από τις οποίες επιστρέφεται ως ξεχωριστή επιλογή στο αντικείμενο απόκρισης. Ένα σημείο χρέωσης αξίζει την προσοχή σας πριν το χρησιμοποιήσετε εκτενώς: τα tokens εισόδου—η υπόδειξή σας—χρεώνονται μόνο μία φορά, αλλά τα tokens εξόδου χρεώνονται για κάθε συμπλήρωση. Με n=5, πληρώνετε πέντε φορές για τα tokens εξόδου, αλλά μόνο μία φορά για την υπόδειξη: για μια μακρά υπόδειξη και σύντομες απαντήσεις, αυτό είναι σημαντικά πιο οικονομικό από πέντε ξεχωριστές κλήσεις.

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Propose a slogan for a French organic coffee brand."}
    ],
    n=5,
    temperature=0.8
)

for i, choice in enumerate(response.choices):
    print(f"Option {i+1}: {choice.message.content}")

Αυτός ο κώδικας παράγει 5 διαφορετικά συνθήματα, από τα οποία επιλέγετε το καλύτερο. Αυτή είναι η πρώτη κύρια χρήση του n: η δημιουργική παραγωγή, όπου η λήψη πολλαπλών επιλογών για ένα σύνθημα, τίτλο ή όνομα προϊόντος υπερτερεί μιας μοναδικής προσπάθειας. Η δεύτερη είναι η ταξινόμηση με ψηφοφορία: δημιουργείτε N ταξινομήσεις του ίδιου κειμένου και κρατάτε την απάντηση της πλειοψηφίας, γεγονός που εξομαλύνει περιστασιακά σφάλματα. Το χρησιμοποιείτε επίσης για εξερεύνηση—δοκιμάζοντας several προσεγγίσεις στο ίδιο πρόβλημα—και για έλεγχο ποιότητας, ελέγχοντας τη συνοχή του μοντέλου συγκρίνοντας τις δικές του απαντήσεις.

Γνωρίστε τρεις περιορισμούς πριν από την ανάπτυξη. Πρώτον, δεν υποστηρίζουν όλα τα μοντέλα Mistral το n μεγαλύτερο από 1: ελέγξτε την τεκμηρίωση για το μοντέλο που χρησιμοποιείτε. Στη συνέχεια, η καθυστέρηση (latency) αυξάνεται με το n, καθώς το μοντέλο δημιουργεί περισσότερα tokens συνολικά. Τέλος—και αυτό είναι ένα κλασικό λάθος αρχαρίων—συνδυάζετε πάντα το n > 1 με επαρκή θερμοκρασία (0,5 και άνω): σε θερμοκρασία 0, οι πέντε απαντήσεις σας θα είναι σχεδόν πανομοιότυπες και θα έχετε πληρώσει πέντε φορές για την ίδια πρόταση.

Ακολουθίες διακοπής: έλεγχος του σημείου τερματισμού της δημιουργίας

Οι ακολουθίες διακοπής (stop sequences) είναι συμβολοσειρές χαρακτήρων που αναγκάζουν το μοντέλο να σταματήσει μόλις τις δημιουργήσει. Αυτός είναι ένας βασικός μηχανισμός για τον έλεγχο του μήκους και της μορφής των απαντήσεων. Ας ξεκινήσουμε με ένα σκόπιμα απλοϊκό παράδειγμα για να καθιερώσουμε την έννοια:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "List the days of the week, one per line."}
    ],
    stop=["Saturday"]
)

Εδώ, το μοντέλο σταματά μόλις δημιουργήσει τη λέξη “Saturday”, παράγοντας μια περικομμένη λίστα. Στην πράξη, οι ακολουθίες διακοπής είναι πιο χρήσιμες με δομικούς οριοθέτες. Πρώτη περίπτωση χρήσης: εξαγωγή μίας μόνο ενότητας από μια δομημένη απάντηση. Εάν η υπόδειξή σας ζητά μια ανάλυση σε τρία μέρη, η διακοπή της δημιουργίας στη δεύτερη επικεφαλίδα σας δίνει μόνο το πρώτο:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": """Analyze this product:
## Strengths
(your analysis here)
## Weaknesses
(your analysis here)
## Conclusion
(your analysis here)"""}
    ],
    stop=["## Weaknesses"]
)
# The model stops after the strengths

Δεύτερη περίπτωση: περιορισμός της δημιουργίας σε ένα μπλοκ JSON, συνδυάζοντας την ακολουθία διακοπής με μια προ-συμπλήρωση του μηνύματος του βοηθού που ανοίγει την αγκύλη:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Return the metadata for this article in JSON."},
        {"role": "assistant", "content": "{", "prefix": True}
    ],
    stop=["}"]
)
# The model generates the JSON content and stops at the closing brace

Τρίτη περίπτωση: αποτροπή της συνέχισης του μοντέλου μετά την απάντησή του. Για μια κλειστή ερώτηση, η διακοπή στο πρώτο άλμα γραμμής εγγυάται ένα στεγνό “ΝΑΙ” ή “ΟΧΙ”, χωρίς μια παράγραφο αιτιολόγησης που δεν ζητήσατε:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Answer the following question with YES or NO only.\nIs the Earth round?"}
    ],
    stop=["\n"]
)

Η παράμετρος max_tokens

Συμπληρωματικά στις ακολουθίες διακοπής, το max_tokens ορίζει ένα αυστηρό όριο στον αριθμό των tokens εξόδου:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Summarize the history of France."}
    ],
    max_tokens=200
)

Παρατηρήστε τη συμπεριφορά του: το max_tokens κόβει την απάντηση απότομα, πιθανότατα στη μέση μιας πρότασης—η περίληψή σας μπορεί να τελειώνει με “και έτσι ο Ναπολέων”. Αντιμετωπίστε το ως δίχτυ ασφαλείας against ατέλειωτες απαντήσεις, όχι ως τον πρωταρχικό τρόπο ελέγχου του μήκους. Για αυτό, προτιμήστε οδηγίες στην υπόδειξη (“απαντήστε σε 3 προτάσεις”) συνδυασμένες με ένα γενναιόδωρο max_tokens.

Συνδυασμός παραμέτρων

Αυτοί οι μηχανισμοί διακρίνονται όταν χρησιμοποιούνται μαζί. Το ακόλουθο παράδειγμα δημιουργεί 5 διαφορετικούς τίτλους άρθρων, καθένας περιορισμένος σε μία μόνο γραμμή χάρη στην ακολουθία διακοπής, με ένα ανώτατο όριο 50 tokens ως μέτρο ασφαλείας:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "You generate blog article titles. One title per response."
        },
        {
            "role": "user",
            "content": "Theme: workplace productivity in 2026"
        }
    ],
    n=5,
    temperature=0.8,
    max_tokens=50,
    stop=["\n"]
)

titres = [choice.message.content.strip() for choice in response.choices]
for i, titre in enumerate(titres):
    print(f"{i+1}. {titre}")

Βασικά σημεία

  • Η παράμετρος n δημιουργεί πολλαπλές απαντήσεις σε μία μόνο κλήση (τα tokens εισόδου χρεώνονται μία φορά)
  • Συνδυάστε το n > 1 με επαρκή θερμοκρασία για να λάβετε πραγματικές παραλλαγές
  • Οι ακολουθίες διακοπής διακόπτουν τη δημιουργία σε έναν συγκεκριμένο οριοθέτη
  • Το max_tokens είναι ένα δίχτυ ασφαλείας, όχι ο πρωταρχικός έλεγχος μήκους
  • Συνδυάστε αυτές τις παραμέτρους για λεπτομερή έλεγχο της δημιουργίας