Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Few-shot μέσω του API

Μάθημα 10 / 16 Ενημερώθηκε 2 Νοεμβρίου 2026 Για developers
Σε αυτήν τη σελίδα
  1. Διδάξτε μέσω παραδειγμάτων
  2. Πόσα παραδείγματα να παρέχετε
  3. Δύο χρήσεις που αλλάζουν την έξοδο
  4. Δυναμικό few-shot
  5. Τι κάνει ένα καλό σύνολο παραδειγμάτων
  6. Βασικά σημεία

Διδάξτε μέσω παραδειγμάτων

Το few-shot prompting σημαίνει ότι παρέχετε στο μοντέλο μερικά παραδείγματα εισόδου-εξόδου πριν στείλετε το πραγματικό σας αίτημα. Με το Chat Completions API, αυτά τα παραδείγματα δεν έχουν ειδική υποδοχή: τα ενσωματώνετε στο ιστορικό συνομιλίας ως ψεύτικα ζεύγη μηνυμάτων user/assistant, σαν η ανταλλαγή να είχε πραγματικά συμβεί. Το μοντέλο δεν μπορεί να διακρίνει τη διαφορά μεταξύ μιας γνήσιας στροφής και μιας που κατασκευάσατε εσείς, και αυτό ακριβώς καθιστά την τεχνική τόσο αποτελεσματική. Χωρίς fine-tuning, αυτός είναι ο πιο αξιόπιστος τρόπος για να λάβετε μια ακριβή μορφή εξόδου.

Το κόλπο είναι μια αντιστροφή: αντί να περιγράφετε εκτενώς την αναμενόμενη μορφή στο system prompt, την δείχνετε. Για μια εργασία ταξινόμησης συναισθήματος, τρία παραδείγματα αρκούν για να κατανοήσει το μοντέλο ότι πρέπει να απαντήσει με μια ετικέτα με κεφαλαία γράμματα και τίποτα άλλο.

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "You classify the sentiment of customer reviews."
        },
        # Example 1
        {"role": "user", "content": "Review: Fast delivery, product as described. Very satisfied!"},
        {"role": "assistant", "content": "POSITIVE"},
        # Example 2
        {"role": "user", "content": "Review: Package arrived damaged, customer service unreachable."},
        {"role": "assistant", "content": "NEGATIVE"},
        # Example 3
        {"role": "user", "content": "Review: The product is fine but a bit pricey for what it is."},
        {"role": "assistant", "content": "MIXED"},
        # Actual request
        {"role": "user", "content": "Review: Excellent quality, I highly recommend this store."}
    ],
    temperature=0.0
)

print(response.choices[0].message.content)
# POSITIVE

Το μοντέλο εξήγαγε το μοτίβο—κριτική ως είσοδος, ετικέτα με κεφαλαία γράμματα ως έξοδος—και το εφάρμοσε στη νέα είσοδο. Καμία οδηγία μορφοποίησης δεν γράφτηκε ρητά: τα τρία ζεύγη ήταν αρκετά.

Πόσα παραδείγματα να παρέχετε

Ο αριθμός των παραδειγμάτων εξαρτάται από τη δυσκολία της εργασίας και θα παρατηρήσετε απότομη μείωση της απόδοσης πέρα από ένα σημείο.

ΑριθμόςΠότε να το χρησιμοποιήσετε
0 (zero-shot)Απλές εργασίες, τις οποίες το μοντέλο διαχειρίζεται φυσικά
1–2Τυπική μορφή εξόδου (JSON, ετικέτα)
3–5Ταξινόμηση με πολλαπλές κατηγορίες
5–10Σύνθετες εργασίες ή πολύ συγκεκριμένες μορφές

Πέρα από τα δέκα παραδείγματα, καταναλώνετε πολλά tokens εισόδου χωρίς ανάλογο όφελος: κάθε αίτημα σύρει το ίδιο μπλοκ παραδειγμάτων, το οποίο χρεώνεται σε κάθε κλήση. Σε αυτό το σημείο, το fine-tuning γίνεται η οικονομικά λογική επιλογή.

Δύο χρήσεις που αλλάζουν την έξοδο

Η εξαγωγή ονομασμένων οντοτήτων δείχνει τι προσθέτουν τα παραδείγματα πέρα από ένα σχήμα που περιγράφεται πλήρως. Κλειδώνουν όχι μόνο τα κλειδιά JSON, αλλά και τον τρόπο διαχείρισης των κενών κατηγοριών—το δεύτερο παράδειγμα δείχνει ρητά κενές λίστες αντί για ένα απόν πεδίο, κάτι που εμποδίζει τον parser σας να συναντήσει μια απροσδόκητη δομή.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Extract named entities in JSON format."
        },
        # Example 1
        {
            "role": "user",
            "content": "Pierre Martin joined Google France in Paris in January 2025."
        },
        {
            "role": "assistant",
            "content": '{"personnes": ["Pierre Martin"], "organisations": ["Google France"], "lieux": ["Paris"], "dates": ["janvier 2025"]}'
        },
        # Example 2
        {
            "role": "user",
            "content": "The VivaTech conference organized by Publicis will take place in June."
        },
        {
            "role": "assistant",
            "content": '{"personnes": [], "organisations": ["Publicis"], "lieux": [], "dates": ["juin"]}'
        },
        # Actual request
        {
            "role": "user",
            "content": "Sophie Leclerc, director at Mistral AI, announced a partnership with Microsoft at the AI Paris show on March 15, 2026."
        }
    ],
    temperature=0.0
)

import json
result = json.loads(response.choices[0].message.content)
print(json.dumps(result, indent=2, ensure_ascii=False))

Ο μετασχηματισμός κειμένου ακολουθεί διαφορετική λογική: δεν μεταδίδετε ένα σχήμα, αλλά ένα ύφος γλώσσας. Ένα μόνο παράδειγμα απλοποίησης—η μετάφραση της αρχιτεκτονικής transformer σε μια προσιτή πρόταση—διδάσκει στο μοντέλο το επιθυμητό επίπεδο αφαίρεσης, κάτι που καμία οδηγία τύπου «να είστε παιδαγωγικοί» δεν θα πετύχαινε με αυτή την ακρίβεια.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Transform technical text into a layperson summary."
        },
        # Example
        {
            "role": "user",
            "content": "The model uses a transformer encoder-decoder architecture with multi-head attention and pre-layer RMS normalization."
        },
        {
            "role": "assistant",
            "content": "This AI system uses advanced technology that lets it understand and generate text by analyzing relationships between words in parallel and efficiently."
        },
        # Actual request
        {
            "role": "user",
            "content": "The API uses nucleus sampling with top_p to truncate the probability distribution of candidate tokens during autoregressive generation."
        }
    ]
)

print(response.choices[0].message.content)

Δυναμικό few-shot

Σε περιβάλλον παραγωγής, ένα σταθερό σύνολο παραδειγμάτων καταλήγει να βλάπτει τα μισά σας αιτήματα: τα τεχνικά παραδείγματα φουσκώνουν περιττά μια ερώτηση χρέωσης. Η λύση είναι να χτίσετε μια βάση παραδειγμάτων ανά κατηγορία και στη συνέχεια να ενσωματώσετε μόνο εκείνα που ταιριάζουν με το πλαίσιο που ανιχνεύθηκε upstream. Η παρακάτω συνάρτηση συναρμολογεί το system prompt, τα παραδείγματα για την κατηγορία και την πραγματική ερώτηση με τη σωστή σειρά.

# Example base
EXAMPLES = {
    "technical": [
        {"user": "How do I configure a VPN?", "assistant": "Here are the steps..."},
        {"user": "My server is returning a 502 error.", "assistant": "Error 502..."},
    ],
    "sales": [
        {"user": "What are your rates?", "assistant": "Our plans start at..."},
        {"user": "Is there a trial period?", "assistant": "Yes, 14 days..."},
    ],
    "billing": [
        {"user": "I haven't received my invoice.", "assistant": "Check your..."},
        {"user": "How do I change plans?", "assistant": "Go to..."},
    ]
}

def build_messages(category: str, user_question: str) -> list:
    """Build messages with dynamic few-shot."""
    messages = [
        {"role": "system", "content": "Technical support assistant."}
    ]

    # Add examples for the category
    for ex in EXAMPLES.get(category, []):
        messages.append({"role": "user", "content": ex["user"]})
        messages.append({"role": "assistant", "content": ex["assistant"]})

    # Add the actual question
    messages.append({"role": "user", "content": user_question})
    return messages

# Usage
messages = build_messages("technical", "My Docker deployment is failing.")
response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages
)

Τι κάνει ένα καλό σύνολο παραδειγμάτων

Το few-shot αποτυγχάνει τις περισσότερες φορές λόγω έλλειψης ποικιλομορφίας: τρεις ολοκληρωτικά θετικές κριτικές και το μοντέλο θα ταξινομήσει τα πάντα ως POSITIVE. Καλύψτε τις κανονικές περιπτώσεις και τις οριακές περιπτώσεις, συμπεριλαμβάνοντας ένα παράδειγμα του τι ΔΕΝ πρέπει να κάνει το μοντέλο—η επίδειξη μιας άρνησης είναι συχνά πιο αποτελεσματική από την απαγόρευσή της με έναν κανόνα. Η συνέπεια στη μορφή έχει εξίσου μεγάλη σημασία: αν ένα παράδειγμα επιστρέφει POSITIVE και ένα άλλο Positive, μόλις διδάξατε στο μοντέλο ότι η χρήση πεζών/κεφαλαίων είναι προαιρετική.

Δύο συνήθειες ολοκληρώνουν την άσκηση. Μετρήστε τα tokens, καθώς κάθε παράδειγμα χρεώνεται ως είσοδος σε κάθε κλήση—ένα σύνολο οκτώ ζευγών γίνεται γρήγορα ο κύριος παράγοντας κόστους για ένα API ταξινόμησης υψηλού όγκου. Και δοκιμάστε πρώτα χωρίς παραδείγματα: τα πρόσφατα μοντέλα διαχειρίζονται σε zero-shot εργασίες που απαιτούσαν πέντε παραδείγματα πριν από δύο χρόνια, και θα εξοικονομήσετε ό,τι δεν χρειάστηκε να γράψετε.

Βασικά σημεία

  • Το few-shot ενσωματώνει ψεύτικα ζεύγη user/assistant πριν από το πραγματικό αίτημα
  • 3–5 παραδείγματα αρκούν για τις περισσότερες εργασίες ταξινόμησης και εξαγωγής
  • Χρησιμοποιήστε temperature=0 με few-shot για να μεγιστοποιήσετε τη συνέπεια
  • Το δυναμικό few-shot επιλέγει σχετικά παραδείγματα βάσει του πλαισίου
  • Πέρα από τα 10 παραδείγματα, εξετάστε το fine-tuning αντί για το few-shot