Few-Shot Prompting
Na tejto strane
Učenie z príkladov
Few-shot prompting spočíva v tom, že modelu poskytnete jeden alebo viacero príkladov úlohy, ktorú má vykonať, ešte predtým, ako mu zadáte skutočnú požiadavku. Namiesto abstraktného vysvetľovania toho, čo očakávate, mu to konkrétne ukážete – presne ako školiteľ, ktorý namiesto dvadsaťminútového opisovania dobrej zápisnice z porady rozdá dva vzorové príklady a nechá účastníkov, aby si ich osvojili. Táto technika patrí medzi najúčinnejšie spôsoby, ako dosiahnuť presné a konzistentné výsledky s modelmi Mistral.
Princíp je jednoduchý: model sa spolieha na poskytnuté príklady, aby pochopil očakávaný formát, tón, úroveň detailov a logiku, a následne tento vzor reprodukuje pre vašu požiadavku. Dobre zvolený príklad často nahradí celý odsek vysvetlenia – a urobí to lepšie.
Zero-shot, one-shot, few-shot: tri úrovne usmernenia
Slovník v tejto oblasti rozlišuje tri varianty na základe počtu príkladov. Pri zero-shot zadáte inštrukciu bez akýchkoľvek príkladov a model sa spolieha výlučne na svoje vedomosti:
Classify the sentiment of this text as positive, neutral, or negative:
"Customer service was responsive but delivery was late."
Zero-shot funguje pri jednoduchých, bežných úlohách, s ktorými sa model počas trénovania stretol tisíckrát. Pri úlohách špecifických pre váš biznis je to často nedostatočné: model klasifikuje, ale nie nevyhnutne podľa vašich kritérií.
Pri one-shot niekedy stačí jediný príklad na usmernenie modelu. Príklad ukazuje formát výstupu aj spôsob odôvodnenia odpovede:
Classify the sentiment and justify in one sentence.
Example:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Pri few-shot viacero príkladov znižuje nejednoznačnosť a posilňuje konzistenciu. To je obzvlášť užitočné, keď sa vyskytuje množstvo hraničných prípadov – ako táto zmiešaná recenzia, ktorá kombinuje pozitívny a negatívny bod:
Classify the sentiment and justify in one sentence.
Example 1:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
Example 2:
Text: "The price is fair for what it is."
Sentiment: neutral
Justification: Factual evaluation without strong emotion.
Example 3:
Text: "Three weeks of waiting for a defective product."
Sentiment: negative
Justification: Delay issue combined with a quality defect.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
S tromi príkladmi pokrývajúcimi tri kategórie model vidí, ako vyzerá každý prípad, a podľa toho kalibruje svoju odpoveď.
Implementácia few-shot pomocou Mistral API
V textovom prompte sa príklady jednoducho naskladajú tak, ako je uvedené vyššie. Pri práci s API však existuje čistejšia metóda: využite roly user a assistant na vytvorenie umelých výmen, ktoré slúžia ako príklady. Vytvoríte históriu konverzácie od nuly, kde model „už“ odpovedal dokonale:
messages = [
{
"role": "system",
"content": "You classify customer reviews. Respond only with the indicated format."
},
# Example 1
{
"role": "user",
"content": "Classify: \"Excellent product, highly recommended!\""
},
{
"role": "assistant",
"content": "Sentiment: positive\nJustification: Expression of enthusiasm and explicit recommendation."
},
# Example 2
{
"role": "user",
"content": "Classify: \"Three weeks of waiting for a defective product.\""
},
{
"role": "assistant",
"content": "Sentiment: negative\nJustification: Delay issue combined with a quality defect."
},
# Actual request
{
"role": "user",
"content": "Classify: \"Customer service was responsive but delivery was late.\""
}
]
Prechodom príkladov ako správ rolí user/assistant ich model považuje za úspešnú históriu konverzácie, v ktorej musí pokračovať rovnakým štýlom. Toto je vzor, ktorý by ste mali uprednostniť hneď, ako prejdete do produkcie: príklady zostávajú oddelené od dát, čo uľahčuje ich údržbu a rozširovanie.
Kedy použiť few-shot
Few-shot vyniká v štyroch typoch situácií. Po prvé, vlastná klasifikácia: keď vaše kategórie nie sú štandardné – napríklad typy interných ticketov špecifické pre vašu firmu – žiadny opis neprekoná niekoľko už klasifikovaných ticketov. Po druhé, extrakcia dát, keď je výstupný formát špecifický pre vašu organizáciu. Po tretie, písanie so špecifickým tónom: ak chcete, aby model prijal váš editorský štýl, ukážte mu dva alebo tri vaše vlastné texty namiesto toho, aby ste sa snažili opísať svoj štýl pomocou prídavných mien. Nakoniec, všeobecne nejednoznačné úlohy: hneď ako textový opis nestačí na vyriešenie pochybností, príklad ich odstráni.
Koľko príkladov poskytnúť
Optimálny počet závisí od zložitosti úlohy. Pri jednoduchej úlohe s jasným formátom – binárna klasifikácia, extrakcia jedného poľa – stačia jeden alebo dva príklady. Pri úlohe s viacerými kategóriami alebo komplexným formátom počítajte s tromi až piatimi príkladmi, ideálne jedným na kategóriu. Nad päť príkladov sa už pohybujete v oblasti veľmi špecifických úloh alebo tých, ktoré sú bohaté na hraničné prípady, ktoré treba explicitne pokryť.
Majte však na pamäti náklady: každý príklad spotrebúva vstupné tokeny a pri modeloch Mistral sa za vstupné tokeny platí. Prompt na klasifikáciu volaný desaťtisíckrát denne s ôsmimi redundantnými príkladmi stojí výrazne viac než ten istý prompt s tromi dobre zvolenými príkladmi, pričom zisk na kvalite je často nulový. Nájdite správnu rovnováhu medzi presnosťou a efektivitou.
Tvorba dobrých príkladov
Na záver niekoľko osvedčených postupov. Obmieňajte svoje príklady tak, aby pokryli rôzne možné prípady vrátane hraničných situácií: tri čisto pozitívne príklady vás nič nenaučia o spracovaní negatívnych recenzií. Zachovávajte rigorózne identický formát od jedného príkladu k druhému – akákoľvek najmenšia variácia v štruktúre bude interpretovaná ako významná a bude reprodukovaná. Používajte realistické príklady blízke vašim reálnym dátam: model trénovaný na vašich skutočných recenziách zákazníkov bude klasifikovať vaše skutočné recenzie lepšie, než keby videl len učebnicové frázy. A vždy umiestnite skutočnú požiadavku na koniec: model venuje väčšiu pozornosť začiatku a koncu promptu.
Kľúčové poznatky
- Few-shot prompting ukazuje modelu, čo očakávate, prostredníctvom príkladov
- Na vytváranie príkladov v Mistral API používajte roly user/assistant
- Vo väčšine prípadov stačí 1 až 5 príkladov
- Obmieňajte príklady, aby pokryli rôzne scenáre, a všade zachovávajte identický formát
- Few-shot je ideálny na klasifikáciu, extrakciu a písanie so špecifickým formátom