Few-Shot Prompting
Na této stránce
Uč se z příkladů
Few-shot prompting spočívá v tom, že modelu před zadáním vlastního požadavku poskytnete jeden nebo více příkladů úkolu, který má vykonat. Místo abstraktního vysvětlování očekávání mu ukážete konkrétní vzor – stejně jako školitel, který místo dvacetiminutového popisování dobré zápisu ze schůzky rozdá dva kvalitní vzory a nechá účastníky, aby si je osvojili. Tato technika patří k nejefektivnějším způsobům, jak získat přesné a konzistentní výsledky s modely Mistral.
Princip je jednoduchý: model se opře o poskytnuté příklady, aby pochopil očekávaný formát, tón, míru detailů a logiku, a tento vzor následně reprodukuje pro váš požadavek. Dobře zvolený příklad často nahradí celý odstavec vysvětlení – a udělá to lépe.
Zero-shot, one-shot, few-shot: tři úrovně vedení
Slovník oboru rozlišuje tři varianty podle počtu příkladů. U zero-shot zadáte instrukci bez jakýchkoli příkladů a model se spolehnout pouze na své znalosti:
Classify the sentiment of this text as positive, neutral, or negative:
"Customer service was responsive but delivery was late."
Zero-shot funguje u jednoduchých, běžných úkolů, se kterými se model během tréninku setkal tisíckrát. Pro úkoly specifické pro vaše podnikání však často nestačí: model sice klasifikuje, ale nemusí tak nutně činit podle vašich kritérií.
U one-shot někdy stačí jediný příklad, který model nasměruje. Příklad ukazuje jak formát výstupu, tak způsob odůvodnění odpovědi:
Classify the sentiment and justify in one sentence.
Example:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Při few-shot více příkladů snižuje nejednoznačnost a posiluje konzistenci. To je obzvlášť užitečné, když se hromadí hraniční případy – jako tato smíšená recenze kombinující pozitivní a negativní bod:
Classify the sentiment and justify in one sentence.
Example 1:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
Example 2:
Text: "The price is fair for what it is."
Sentiment: neutral
Justification: Factual evaluation without strong emotion.
Example 3:
Text: "Three weeks of waiting for a defective product."
Sentiment: negative
Justification: Delay issue combined with a quality defect.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Díky třem příkladům pokrývajícím tři kategorie model vidí, jak každý případ vypadá, a odpovídajícím způsobem kalibruje svou reakci.
Implementace few-shot s API Mistral
V textovém promptu se příklady řadí za sebou jako výše. S API však existuje čistší metoda: využij role user a assistant k vytvoření umělých výměn, které slouží jako příklady. Vytvoříš historii konverzace od nuly, kde model „již“ odpověděl perfektně:
messages = [
{
"role": "system",
"content": "You classify customer reviews. Respond only with the indicated format."
},
# Example 1
{
"role": "user",
"content": "Classify: \"Excellent product, highly recommended!\""
},
{
"role": "assistant",
"content": "Sentiment: positive\nJustification: Expression of enthusiasm and explicit recommendation."
},
# Example 2
{
"role": "user",
"content": "Classify: \"Three weeks of waiting for a defective product.\""
},
{
"role": "assistant",
"content": "Sentiment: negative\nJustification: Delay issue combined with a quality defect."
},
# Actual request
{
"role": "user",
"content": "Classify: \"Customer service was responsive but delivery was late.\""
}
]
Předáním příkladů jako zpráv user/assistant je model považuje za úspěšnou historii konverzace, ve které musí pokračovat stejným stylem. Toto je vzor, který bys měl upřednostnit, jakmile přejdeš do produkce: příklady zůstávají oddělené od dat, snadno se udržují a rozšiřují.
Kdy použít few-shot
Few-shot vyniká ve čtyřech typech situací. Zaprvé vlastní klasifikace: když tvoje kategorie nejsou standardní – například interní typy ticketů specifické pro tvou firmu – žádný popis nepřebije několik již klasifikovaných ticketů. Zadruhé extrakce dat, když je výstupní formát specifický pro tvou organizaci. Zatřetí psaní se specifickým tónem: pokud chceš, aby model přijal tvůj editorský styl, ukaž mu dva nebo tři své vlastní texty, místo abys se snažil svůj styl popsat přídavnými jmény. A konečně obecně nejednoznačné úkoly: jakmile textový popis nestačí k rozřešení pochybností, příklad je vyjasní.
Kolik příkladů poskytnout
Optimální počet závisí na složitosti úkolu. Pro jednoduchý úkol s jasným formátem – binární klasifikace, extrakce jediného pole – stačí jeden nebo dva příklady. Pro úkol s více kategoriemi nebo složitým formátem počítej se třemi až pěti příklady, ideálně jedním na kategorii. Nad pět příkladů se dostáváš na území velmi specifických úkolů nebo těch bohatých na hraniční případy, které je třeba explicitně pokrýt.
Měj však na paměti náklady: každý příklad spotřebovává vstupní tokeny a u modelů Mistral se vstupní tokeny účtují. Prompt pro klasifikaci volaný deset tisíckrát denně s osmi nadbytečnými příklady stojí výrazně více než tentýž prompt se třemi dobře zvolenými příklady, přičemž zisk na kvalitě je často nulový. Najdi správnou rovnováhu mezi přesností a efektivitou.
Jak vytvářet dobré příklady
Na závěr několik osvědčených postupů. Obměňuj své příklady, aby pokryly různé možné případy, včetně těch hraničních: tři čistě pozitivní příklady tě nenaučí nic o zpracování negativních recenzí. Zachovávej rigorózně identický formát od jednoho příkladu k druhému – sebemenší variace ve struktuře bude interpretována jako významná a reprodukována. Používej realistické příklady blízké tvým reálným datům: model trénovaný na tvých skutečných recenzích zákazníků bude klasifikovat tvé skutečné recenze zákazníků lépe, než kdyby viděl pouze učebnicové fráze. A vždy umísti skutečný požadavek jako poslední: model věnuje větší pozornost začátku a konci promptu.
Klíčové poznatky
- Few-shot prompting ukazuje modelu, co očekáváš, prostřednictvím příkladů
- Pro vytváření příkladů v API Mistral využij role user/assistant
- Ve většině případů stačí 1 až 5 příkladů
- Obměňuj příklady, aby pokryly různé scénáře, a všude dodržuj identický formát
- Few-shot je ideální pro klasifikaci, extrakci a psaní se specifickým formátem