Few-Shot Prompting
Σε αυτήν τη σελίδα
Μάθετε μέσω παραδειγμάτων
Το Few-shot prompting περιλαμβάνει την παροχή στο μοντέλο ενός ή περισσότερων παραδειγμάτων του έργου που πρέπει να εκτελεστεί, πριν υποβάλετε το πραγματικό αίτημα. Αντί να εξηγείτε αφηρημένα τι αναμένετε, του το δείχνετε συγκεκριμένα—ακριβώς όπως ένας εκπαιδευτής που, αντί να περιγράφει για είκοσι λεπτά μια καλή αναφορά συνεδρίασης, μοιράζει δύο καλά γραμμένα δείγματα και αφήνει τους συμμετέχοντες να τα αφομοιώσουν. Αυτή η τεχνική είναι μία από τις πιο αποτελεσματικές για την επίτευξη ακριβών και συνεπών αποτελεσμάτων με τα μοντέλα Mistral.
Η αρχή είναι απλή: το μοντέλο βασίζεται στα παρεχόμενα παραδείγματα για να κατανοήσει την αναμενόμενη μορφή, τον τόνο, το επίπεδο λεπτομέρειας και τη λογική, και στη συνέχεια αναπαράγει αυτό το πρότυπο για το αίτημά σας. Ένα καλά επιλεγμένο παράδειγμα συχνά αντικαθιστά ολόκληρη μια παράγραφο εξήγησης—και το κάνει καλύτερα.
Zero-shot, one-shot, few-shot: τρία επίπεδα καθοδήγησης
Το λεξιλόγιο του κλάδου διακρίνει τρεις παραλλαγές με βάση τον αριθμό των παραδειγμάτων. Στο zero-shot, δίνετε μια οδηγία χωρίς κανένα παράδειγμα και το μοντέλο βασίζεται αποκλειστικά στις γνώσεις του:
Classify the sentiment of this text as positive, neutral, or negative:
"Customer service was responsive but delivery was late."
Το Zero-shot λειτουργεί για απλά, κοινά έργα που το μοντέλο συνάντησε χιλιάδες φορές κατά την εκπαίδευσή του. Για έργα ειδικά για την επιχείρησή σας, συχνά είναι ανεπαρκές: το μοντέλο θα κάνει την ταξινόμηση, αλλά όχι απαραίτητα σύμφωνα με τα δικά σας κριτήρια.
Στο one-shot, ένα μόνο παράδειγμα αρκεί μερικές φορές για να καθοδηγήσει το μοντέλο. Το παράδειγμα δείχνει τόσο τη μορφή εξόδου όσο και τον τρόπο αιτιολόγησης της απάντησης:
Classify the sentiment and justify in one sentence.
Example:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Με το few-shot, πολλαπλά παραδείγματα μειώνουν την ασάφεια και ενισχύουν τη συνέπεια. Αυτό είναι ιδιαίτερα χρήσιμο όταν αφθονούν οι οριακές περιπτώσεις—όπως αυτή η μικτή κριτική που συνδυάζει ένα θετικό σημείο και ένα αρνητικό σημείο:
Classify the sentiment and justify in one sentence.
Example 1:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
Example 2:
Text: "The price is fair for what it is."
Sentiment: neutral
Justification: Factual evaluation without strong emotion.
Example 3:
Text: "Three weeks of waiting for a defective product."
Sentiment: negative
Justification: Delay issue combined with a quality defect.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Με τρία παραδείγματα που καλύπτουν τις τρεις κατηγορίες, το μοντέλο έχει δει πώς φαίνεται κάθε περίπτωση και θα βαθμονομήσει την απάντησή του ανάλογα.
Υλοποίηση few-shot με το Mistral API
Σε ένα prompt κειμένου, τα παραδείγματα στοιβάζονται όπως παραπάνω. Αλλά με το API, υπάρχει μια πιο καθαρή μέθοδος: χρησιμοποιήστε τους ρόλους user και assistant για να δημιουργήσετε τεχνητές ανταλλαγές που λειτουργούν ως παραδείγματα. Δημιουργείτε ένα ιστορικό συνομιλίας από την αρχή, όπου το μοντέλο έχει «ήδη» απαντήσει τέλεια:
messages = [
{
"role": "system",
"content": "You classify customer reviews. Respond only with the indicated format."
},
# Example 1
{
"role": "user",
"content": "Classify: \"Excellent product, highly recommended!\""
},
{
"role": "assistant",
"content": "Sentiment: positive\nJustification: Expression of enthusiasm and explicit recommendation."
},
# Example 2
{
"role": "user",
"content": "Classify: \"Three weeks of waiting for a defective product.\""
},
{
"role": "assistant",
"content": "Sentiment: negative\nJustification: Delay issue combined with a quality defect."
},
# Actual request
{
"role": "user",
"content": "Classify: \"Customer service was responsive but delivery was late.\""
}
]
Περνώντας τα παραδείγματα ως μηνύματα user/assistant, το μοντέλο τα αντιμετωπίζει ως ένα επιτυχημένο ιστορικό συνομιλίας που πρέπει να συνεχίσει με τον ίδιο τρόπο. Αυτό είναι το πρότυπο που πρέπει να προτιμάτε μόλις κλιμακώνεστε στην παραγωγή: τα παραδείγματα παραμένουν χωριστά από τα δεδομένα, εύκολα συντηρήσιμα και εμπλουτίσιμα.
Πότε να χρησιμοποιήσετε few-shot
Το Few-shot διαπρέπει σε τέσσερις τύπους καταστάσεων. Πρώτον, στην προσαρμοσμένη ταξινόμηση: όταν οι κατηγορίες σας δεν είναι τυπικές—για παράδειγμα, τύποι εσωτερικών εισιτηρίων ειδικοί για την εταιρεία σας—καμία περιγραφή δεν υπερτερεί μερικών ήδη ταξινομημένων εισιτηρίων. Δεύτερον, στην εξαγωγή δεδομένων, όταν η μορφή εξόδου είναι ειδική για τον οργανισμό σας. Τρίτον, στη συγγραφή με συγκεκριμένο τόνο: αν θέλετε το μοντέλο να υιοθετήσει το συντακτικό σας στυλ, δείξτε του δύο ή τρία από τα δικά σας κείμενα αντί να προσπαθείτε να περιγράψετε το στυλ σας με επιθέτα. Τέλος, σε γενικά ασαφή έργα: μόλις η περιγραφή κειμένου δεν αρκεί για την επίλυση αμφιβολιών, ένα παράδειγμα το διευθετεί.
Πόσα παραδείγματα να παρέχετε
Ο βέλτιστος αριθμός εξαρτάται από την πολυπλοκότητα του έργου. Για ένα απλό έργο με σαφή μορφή—δυαδική ταξινόμηση, εξαγωγή ενός μόνο πεδίου—ένα ή δύο παραδείγματα αρκούν. Για ένα έργο με πολλαπλές κατηγορίες ή πολύπλοκη μορφή, υπολογίστε σε τρία έως πέντε παραδείγματα, ιδανικά ένα ανά κατηγορία. Πέρα από τα πέντε, βρίσκεστε στο έδαφος πολύ ειδικών έργων ή εκείνων που είναι πλούσια σε οριακές περιπτώσεις που πρέπει να καλυφθούν ρητά.
Λάβετε υπόψη όμως το κόστος: κάθε παράδειγμα καταναλώνει tokens εισόδου και με τα μοντέλα Mistral, τα tokens εισόδου χρεώνονται. Ένα prompt ταξινόμησης που καλείται δέκα χιλιάδες φορές την ημέρα με οκτώ πλεονάζοντα παραδείγματα κοστίζει σημαντικά περισσότερο από το ίδιο με τρία καλά επιλεγμένα παραδείγματα, συχνά χωρίς κανένα όφελος ποιότητας. Βρείτε τη σωστή ισορροπία μεταξύ ακρίβειας και απόδοσης.
Δημιουργία καλών παραδειγμάτων
Μερικές βέλτιστες πρακτικές για το τέλος. Ποικίλλετε τα παραδείγματά σας για να καλύψετε διαφορετικές πιθανές περιπτώσεις, συμπεριλαμβανομένων των οριακών περιπτώσεων: τρία παραδείγματα αποκλειστικά θετικά δεν διδάσκουν τίποτα για τον χειρισμό αρνητικών κριτικών. Διατηρήστε μια αυστηρά ίδια μορφή από το ένα παράδειγμα στο άλλο—η παραμικρή variation στη δομή θα ερμηνευθεί ως σημαντική και θα αναπαραχθεί. Χρησιμοποιήστε ρεαλιστικά παραδείγματα, κοντά στα πραγματικά σας δεδομένα: ένα μοντέλο εκπαιδευμένο στις πραγματικές κριτικές πελατών σας θα ταξινομεί τις πραγματικές κριτικές πελατών σας καλύτερα από ό,τι αν έχει δει μόνο φράσεις εγχειριδίων. Και πάντα τοποθετείτε το πραγματικό αίτημα τελευταίο: το μοντέλο δίνει περισσότερη προσοχή στην αρχή και στο τέλος του prompt.
Βασικά σημεία
- Το Few-shot prompting δείχνει στο μοντέλο τι αναμένετε μέσω παραδειγμάτων
- Χρησιμοποιήστε τους ρόλους user/assistant για τη δημιουργία παραδειγμάτων στο Mistral API
- 1 έως 5 παραδείγματα αρκούν στις περισσότερες περιπτώσεις
- Ποικίλλετε τα παραδείγματα για να καλύψετε διαφορετικά σενάρια, με ίδια μορφή παντού
- Το Few-shot είναι ιδανικό για ταξινόμηση, εξαγωγή και συγγραφή με συγκεκριμένη μορφή