Few-Shot Prompting
Na této stránce
Učení z příkladů
Few-shot prompting spočívá v tom, že do promptu zahrneš páry vstup/výstup, které model nasměrují. Místo abstraktního popisování očekávaného výsledku mu konkrétně ukážeš jeden nebo více příkladů toho, co chceš získat.
Tento přístup využívá schopnost modelu Grok rozpoznávat vzory a reprodukovat je. Často jde o nejefektivnější techniku pro dosažení přesného formátu výstupu nebo specifického chování.
Varianty few-shot promptingu
Zero-shot: žádné příklady
Poskytneš pouze instrukci bez jakýchkoli příkladů. Toto je výchozí chování.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: jeden příklad
Jeden příklad často stačí k nastavení formátu výstupu.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: více příkladů
S 2 až 5 příklady pokryješ více případů a model lépe pochopí nuance.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Kdy použít few-shot
Few-shot je obzvláště vhodný v těchto situacích:
- Přísný formát výstupu: JSON, CSV, strukturovaný Markdown, vlastní formát
- Klasifikace: sentiment, kategorie, priorita, jazyk
- Transformace textu: přepis, překlad se stylem, extrakce entit
- Konzistence tónu: když potřebuješ reprodukovat specifický styl psaní
Pravidla pro efektivní příklady
Rozmanitost příkladů
Tvé příklady by měly pokrývat hlavní případy. U klasifikace do tří tříd zahrň alespoň jeden příklad pro každou třídu.
Konzistence formátu
Všechny tvé příklady musí dodržovat přesně stejný formát výstupu. Pokud jeden příklad vrací JSON s klíči v malých písmenech, všechny ostatní musí dělat totéž.
Relevance
Vyber příklady blízké reálným případům, se kterými se model setká. Příklady, které jsou příliš jednoduché nebo příliš exotické, mohou snížit kvalitu výsledků.
Přiměřené množství
Více příkladů spotřebuje více vstupních tokenů. Najdi správnou rovnováhu: obvykle stačí 2 až 5 příkladů. Nad tuto hranici má přidávání dalších příkladů klesající návratnost.
Kombinace few-shot a systémových zpráv
Nejefektivnější kombinace spojuje systémovou zprávu popisující úkol s few-shot příklady ukazujícími formát:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Systémová zpráva vysvětluje úkol, příklad ukazuje přesný formát. Model tento formát pro nový vstup reprodukuje.
Procvičování
Vytvoř few-shot prompt pro převod popisů produktů na strukturované listy. Definuj svůj výstupní formát pomocí 2–3 příkladů a poté jej otestuj na novém produktu.
Začni one-shot promptem pro ověření formátu a následně přidej další příklady, pokud výsledek vyžaduje úpravy.
Klíčové poznatky
- Few-shot znamená poskytnutí příkladů, které model nasměrují prostřednictvím napodobování
- Jediný příklad (one-shot) často stačí k nastavení formátu výstupu
- 2 až 5 příkladů pokryje většinu případů bez plýtvání tokeny
- Tvé příklady musí být rozmanité, formálně konzistentní a reprezentativní
- Pro optimální výsledky kombinuj systémovou zprávu (popis) s příklady (demonstrace)