Few-Shot Prompting
Na tej stronie
Nauka na przykładach
Few-shot prompting polega na dostarczeniu modelowi jednego lub kilku przykładów zadania do wykonania przed przesłaniem właściwego zlecenia. Zamiast abstrakcyjnie wyjaśniać, czego oczekujesz, pokazujesz to konkretnie – tak jak trener, który zamiast przez dwadzieścia minut opisywać, jak powinien wyglądać dobry raport ze spotkania, rozdaje dwa wzorcowe egzemplarze i pozwala uczestnikom się z nimi zapoznać. Technika ta jest jedną z najskuteczniejszych metod uzyskiwania precyzyjnych i spójnych wyników w modelach Mistral.
Zasada jest prosta: model opiera się na dostarczonych przykładach, aby zrozumieć oczekiwany format, ton, poziom szczegółowości i logikę, a następnie odwzorowuje ten schemat dla Twojego zlecenia. Dobrze dobrany przykład często zastępuje cały akapit wyjaśnień – i robi to lepiej.
Zero-shot, one-shot, few-shot: trzy poziomy prowadzenia
Słownictwo branżowe wyróżnia trzy warianty w zależności od liczby przykładów. W podejściu zero-shot podajesz instrukcję bez żadnych przykładów, a model polega wyłącznie na swojej wiedzy:
Classify the sentiment of this text as positive, neutral, or negative:
"Customer service was responsive but delivery was late."
Zero-shot sprawdza się w przypadku prostych, powszechnych zadań, które model napotkał tysiące razy podczas treningu. W przypadku zadań specyficznych dla Twojej branży często jest to niewystarczające: model dokona klasyfikacji, ale niekoniecznie zgodnie z Twoimi kryteriami.
W podejściu one-shot pojedynczy przykład czasem wystarcza, aby poprowadzić model. Przykład pokazuje zarówno format wyjścia, jak i sposób uzasadnienia odpowiedzi:
Classify the sentiment and justify in one sentence.
Example:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Dzięki few-shot wiele przykładów redukuje niejednoznaczność i wzmacnia spójność. Jest to szczególnie przydatne, gdy aboundują przypadki brzegowe – jak ta mieszana opinia, łącząca punkt pozytywny i negatywny:
Classify the sentiment and justify in one sentence.
Example 1:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
Example 2:
Text: "The price is fair for what it is."
Sentiment: neutral
Justification: Factual evaluation without strong emotion.
Example 3:
Text: "Three weeks of waiting for a defective product."
Sentiment: negative
Justification: Delay issue combined with a quality defect.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Mając trzy przykłady obejmujące trzy kategorie, model „zobaczył“, jak wygląda każdy przypadek, i odpowiednio skalibruje swoją odpowiedź.
Implementacja few-shot z API Mistral
W prompcie tekstowym przykłady układa się jeden nad drugim, jak powyżej. Jednak korzystając z API, istnieje czystsza metoda: wykorzystaj role user i assistant, aby stworzyć sztuczne wymiany zdań służące jako przykłady. Budujesz od zera historię konwersacji, w której model „już“ odpowiedział perfekcyjnie:
messages = [
{
"role": "system",
"content": "You classify customer reviews. Respond only with the indicated format."
},
# Example 1
{
"role": "user",
"content": "Classify: \"Excellent product, highly recommended!\""
},
{
"role": "assistant",
"content": "Sentiment: positive\nJustification: Expression of enthusiasm and explicit recommendation."
},
# Example 2
{
"role": "user",
"content": "Classify: \"Three weeks of waiting for a defective product.\""
},
{
"role": "assistant",
"content": "Sentiment: negative\nJustification: Delay issue combined with a quality defect."
},
# Actual request
{
"role": "user",
"content": "Classify: \"Customer service was responsive but delivery was late.\""
}
]
Przekazując przykłady jako wiadomości user/assistant, model traktuje je jako udaną historię konwersacji, którą musi kontynuować w tym samym duchu. Jest to wzorzec, który należy优先 stosować, gdy skalujesz rozwiązanie do produkcji: przykłady pozostają oddzielone od danych, co ułatwia ich utrzymanie i wzbogacanie.
Kiedy stosować few-shot
Few-shot sprawdza się znakomicie w czterech typach sytuacji. Po pierwsze: niestandardowa klasyfikacja. Gdy Twoje kategorie nie są standardowe – na przykład specyficzne typy zgłoszeń wewnętrznych w Twojej firmie – żaden opis nie zastąpi kilku już sklasyfikowanych zgłoszeń. Po drugie: ekstrakcja danych, gdy format wyjścia jest specyficzny dla Twojej organizacji. Po trzecie: pisanie w określonym tonie. Jeśli chcesz, aby model przyjął Twój styl redakcyjny, pokaż mu dwa lub trzy Twoje własne teksty, zamiast próbować opisywać swój styl za pomocą przymiotników. Wreszcie: zadania niejednoznaczne ogólnie. Gdy opis tekstowy nie wystarcza do rozwiania wątpliwości, przykład natychmiast je rozwiązuje.
Ile przykładów dostarczyć
Optymalna liczba zależy od złożoności zadania. W przypadku prostego zadania z jasnym formatem – klasyfikacja binarna, ekstrakcja pojedynczego pola – wystarczą jeden lub dwa przykłady. Dla zadań z wieloma kategoriami lub złożonym formatem przygotuj od trzech do pięciu przykładów, idealnie po jednym na kategorię. Powyżej pięciu przykładów wkraczasz na teren zadań bardzo specyficznych lub takich, które obfitują w przypadki brzegowe wymagające explicitnego omówienia.
Miej jednak na uwadze koszt: każdy przykład zużywa tokeny wejściowe, a w modelach Mistral tokeny wejściowe są płatne. Prompt do klasyfikacji wywoływany dziesięć tysięcy razy dziennie z ośmioma redundantnymi przykładami kosztuje znacznie więcej niż ten sam prompt z trzema dobrze dobranymi przykładami, często bez żadnej gains w jakości. Znajdź właściwy balans między precyzją a efektywnością.
Budowanie dobrych przykładów
Kilka najlepszych praktyk na zakończenie. Urozmaicaj swoje przykłady, aby obejmowały różne możliwe przypadki, w tym przypadki brzegowe: trzy przykłady wyłącznie pozytywne niczego nie nauczą modelu w zakresie obsługi negatywnych opinii. Zachowaj rygorystycznie identyczny format od jednego przykładu do drugiego – najmniejsza zmiana w strukturze zostanie zinterpretowana jako znacząca i odwzorowana. Używaj realistycznych przykładów, bliskich Twoim rzeczywistym danym: model wytrenowany na Twoich prawdziwych opiniach klientów będzie lepiej klasyfikował Twoje prawdziwe opinie klientów niż gdyby widział tylko książkowe frazy. I zawsze umieszczaj właściwe zlecenie na końcu: model poświęca więcej uwagi początkowi i końcowi promptu.
Kluczowe wnioski
- Few-shot prompting pokazuje modelowi na przykładach, czego oczekujesz
- Używaj ról user/assistant, aby tworzyć przykłady w API Mistral
- W większości przypadków wystarczy od 1 do 5 przykładów
- Urozmaicaj przykłady, aby pokryć różne scenariusze, zachowując wszędzie identyczny format
- Few-shot jest idealny do klasyfikacji, ekstrakcji i pisania w określonym formacie