Promptowanie few-shot
Na tej stronie
Nauka na przykładach
Promptowanie few-shot polega na dostarczaniu par wejście/wyjście w treści promptu, aby pokierować modelem. Zamiast abstrakcyjnie opisywać oczekiwany rezultat, konkretnie pokazujesz pożądany wynik za pomocą jednego lub kilku przykładów.
Podejście to opiera się na zdolności Groka do wykrywania wzorców i ich odtwarzania. Często jest to najskuteczniejsza technika uzyskania precyzyjnego formatu wyjścia lub określonego zachowania.
Warianty few-shot
Zero-shot: brak przykładów
Podajesz wyłącznie instrukcję, bez przykładów. Jest to domyślne zachowanie.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: pojedynczy przykład
Jeden przykład często wystarcza do ustalenia formatu wyjścia.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: wiele przykładów
Dzięki 2–5 przykładom obejmujesz więcej przypadków, a model lepiej rozumie niuanse.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Kiedy stosować few-shot
Promptowanie few-shot sprawdza się szczególnie w następujących sytuacjach:
- Ścisły format wyjścia: JSON, CSV, ustrukturyzowany Markdown, format niestandardowy
- Klasyfikacja: sentyment, kategoria, priorytet, język
- Transformacja tekstu: przepisywanie, tłumaczenie z zachowaniem stylu, ekstrakcja encji
- Spójność tonu: gdy musisz odtworzyć określony styl pisania
Zasady tworzenia skutecznych przykładów
Różnorodność przykładów
Twoje przykłady powinny obejmować główne przypadki. W przypadku klasyfikacji trójklasowej uwzględnij co najmniej jeden przykład dla każdej klasy.
Spójność formatu
Wszystkie przykłady muszą dokładnie przestrzegać tego samego formatu wyjścia. Jeśli jeden przykład zwraca JSON z kluczami małymi literami, pozostałe muszą zrobić to samo.
Trafność
Wybieraj przykłady zbliżone do rzeczywistych przypadków, z którymi zmierzy się model. Przykłady zbyt proste lub zbyt egzotyczne mogą obniżyć jakość wyników.
Rozsądna liczba
Więcej przykładów zużywa więcej tokenów wejściowych. Znajdź właściwy balans: zazwyczaj wystarczy 2–5 przykładów. Powyżej tej liczby dodawanie kolejnych przynosi coraz mniejsze korzyści.
Łączenie few-shot z wiadomościami systemowymi
Najskuteczniejsza kombinacja łączy wiadomość systemową opisującą zadanie z przykładami few-shot pokazującymi format:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Wiadomość systemowa wyjaśnia zadanie, a przykład pokazuje dokładny format. Model odtworzy ten format dla nowego danych wejściowych.
Ćwiczenie
Stwórz prompt few-shot konwertujący opisy produktów na ustrukturyzowane karty. Zdefiniuj format wyjścia za pomocą 2–3 przykładów, a następnie przetestuj go na nowym produkcie.
Zacznij od one-shot, aby zweryfikować format, a następnie dodaj więcej przykładów, jeśli wynik wymaga korekty.
Kluczowe wnioski
- Few-shot polega na dostarczaniu przykładów, aby pokierować modelem poprzez naśladownictwo
- Pojedynczy przykład (one-shot) często wystarcza do ustalenia formatu wyjścia
- 2–5 przykładów pokrywa większość przypadków bez marnowania tokenów
- Twoje przykłady muszą być zróżnicowane, spójne pod względem formatu i reprezentatywne
- Połącz wiadomość systemową (opis) z przykładami (demonstracja), aby uzyskać optymalne wyniki