Few-Shot Prompting
Sellel lehel
Õpi näidete varal
Few-shot prompting seisneb selles, et esitad mudelile enne tegelikku päringut ühe või mitu ülesande näidet. Selle asemel, et abstraktselt selgitada, mida ootad, näitad seda konkreetselt – täpselt nagu koolitaja, kes ei räägi kakskümmend minutit heast koosolekuprotokollist, vaid jagab osalejatele kaks hästi kirjutatud proovi ja laseb neil need omaks võtta. See tehnika on üks tõhusamaid täpsete ja järjepidevate tulemuste saamiseks Mistrali mudelitega.
Põhimõte on lihtne: mudel kasutab esitatud näiteid, et mõista oodatavat vormingut, tooni, detailsetasemeid ja loogikat, ning seejärel kordab seda mustrit sinu päringu jaoks. Hästi valitud näide asendab sageli tervet lõiku selgitusi – ja teeb seda veel paremini.
Zero-shot, one-shot, few-shot: kolm juhendamise taset
Valdkonna sõnavara eristab kolme varianti sõltuvalt näidete arvust. Zero-shot puhul annad juhise ilma ühegi näiteta ja mudel tugineb üksnes oma teadmistele:
Klassifitseeri selle teksti sentiment positiivseks, neutraalseks või negatiivseks:
"Klienditeenindus oli operatiivne, kuid kohaletoimetamine hiline."
Zero-shot toimib lihtsate, levinud ülesannete puhul, mida mudel on treeningu käigus tuhandeid kordi kohanud. Sinu ettevõttele spetsiifiliste ülesannete puhul jääb sellest sageli väheks: mudel klassifitseerib küll, kuid mitte tingimata sinu kriteeriumide järgi.
One-shot puhul piisab mudeli juhendamiseks mõnikord ühestainsast näitest. Näide näitab nii väljundvormingut kui ka seda, kuidas vastust põhjendada:
Klassifitseeri sentiment ja põhjenda ühe lausega.
Näide:
Tekst: "Suurepärane toode, soovitan soojalt!"
Sentiment: positiivne
Põhjendus: Entusiasmi väljendus ja selge soovitus.
Klassifitseerida:
Tekst: "Klienditeenindus oli operatiivne, kuid kohaletoimetamine hiline."
Sentiment:
Põhjendus:
Few-shot puhul vähendavad mitmed näited mitmetimõistetavust ja suurendavad järjepidevust. See on eriti kasulik siis, kui piirjuhtumeid on palju – nagu selles segatud arvustuses, mis ühendab positiivse ja negatiivse punkti:
Klassifitseeri sentiment ja põhjenda ühe lausega.
Näide 1:
Tekst: "Suurepärane toode, soovitan soojalt!"
Sentiment: positiivne
Põhjendus: Entusiasmi väljendus ja selge soovitus.
Näide 2:
Tekst: "Hind on selle eest õiglane."
Sentiment: neutraalne
Põhjendus: Faktiline hinnang ilma tugeva emotsioonita.
Näide 3:
Tekst: "Kolm nädalat ootamist defektse toote pärast."
Sentiment: negatiivne
Põhjendus: Viivituse probleem koos kvaliteediveaga.
Klassifitseerida:
Tekst: "Klienditeenindus oli operatiivne, kuid kohaletoimetamine hiline."
Sentiment:
Põhjendus:
Kolme näitega, mis katavad kolm kategooriat, on mudel näinud, kuidas iga juhtum välja näeb, ja kalibreerib oma vastuse sellele vastavalt.
Few-shot’i rakendamine Mistrali API-ga
Tekstipromptis ladustuvad näited ülaltoodud viisil üksteise kõrvale. API kasutamisel on aga puhtam meetod: kasuta rolle user ja assistant, et luua kunstlikke dialooge, mis toimivad näidetena. Lood nullist vestlusajaloo, kus mudel on “juba” ideaalselt vastanud:
messages = [
{
"role": "system",
"content": "Sa klassifitseerid kliendiarvustusi. Vasta ainult märgitud vormingus."
},
# Näide 1
{
"role": "user",
"content": "Klassifitseeri: \"Suurepärane toode, soovitan soojalt!\""
},
{
"role": "assistant",
"content": "Sentiment: positiivne\nPõhjendus: Entusiasmi väljendus ja selge soovitus."
},
# Näide 2
{
"role": "user",
"content": "Klassifitseeri: \"Kolm nädalat ootamist defektse toote pärast.\""
},
{
"role": "assistant",
"content": "Sentiment: negatiivne\nPõhjendus: Viivituse probleem koos kvaliteediveaga."
},
# Tegelik päring
{
"role": "user",
"content": "Klassifitseeri: \"Klienditeenindus oli operatiivne, kuid kohaletoimetamine hiline.\""
}
]
Edastades näited kasutaja/assistendi sõnumitena, kohtleb mudel neid edukana vestlusajaloona, mida ta peab samas vaimus jätkama. See on muster, mida eelistada niipea, kui liigud tootmiskeskkonda: näited jäävad andmetest eraldi, neid on lihtne hallata ja täiendada.
Millal kasutada few-shot’i
Few-shot hiilgab neljat tüüpi olukordades. Esiteks kohandatud klassifitseerimine: kui sinu kategooriad pole standardsed – näiteks sinu ettevõttele omased sisemiste piletite tüübid – ei asenda ükski kirjeldus paari juba klassifitseeritud piletiga. Teiseks andmete ekstraheerimine, kui väljundvorming on spetsiifiline just sinu organisatsioonile. Kolmandaks kindla tooniga kirjutamine: kui soovid, et mudel võtaks omaks sinu toimetuse stiili, näita talle kahte või kolme oma teksti, selle asemel et püüda oma stiili adjektiividega kirjeldada. Lõpuks üldiselt mitmetimõistetavad ülesanded: niipea kui tekstiline kirjeldus kahtluste lahendamiseks ei piisa, lahendab olukorra näide.
Kui palju näiteid esitada
Optimaalne arv sõltub ülesande keerukusest. Lihtsa, selge vorminguga ülesande puhul – binaarne klassifitseerimine, ühe välja ekstraheerimine – piisab ühest või kahest näitest. Mitme kategooria või keeruka vorminguga ülesande puhul arvesta kolme kuni viie näitega, ideaalis üks iga kategooria kohta. Üle viie näite liigud väga spetsiifiliste ülesannete või selliste territooriumile, kus on palju piirjuhtumeid, mida tuleb sõnaselgelt katta.
Pea siiski silmas kulusid: iga näide tarbib sisendtokeneid ja Mistrali mudelite puhul on sisendtokeneid tasulised. Klassifitseerimisprompt, mida kutsutakse kümme tuhat korda päevas koos kaheksa üleliigse näitega, maksab oluliselt rohkem kui sama kolme hästi valitud näitega, sageli ilma kvaliteedi kasvuta. Leia õige tasakaal täpsuse ja tõhususe vahel.
Koosta häid näiteid
Lõpetuseks mõned parimad tavad. Varii oma näiteid, et katta erinevaid võimalikke juhtumeid, sealhulgas piirjuhtumeid: kolm ainult positiivset näidet ei õpeta midagi negatiivsete arvustuste käsitlemise kohta. Hoia rangelt identset vormingut ühest näitest teiseni – vähimgi struktuuri muutus tõlgendatakse olulisena ja korratakse. Kasuta realistlikke näiteid, mis on lähedased sinu reaalsetele andmetele: mudel, mis on treenitud sinu päris kliendiarvustustel, klassifitseerib sinu päris kliendiarvustusi paremini kui siis, kui ta on näinud ainult õpikufraase. Ja aseta tegelik päring alati viimaseks: mudel pöörab prompti algusele ja lõpule rohkem tähelepanu.
Peamised punktid
- Few-shot prompting näitab mudelile näidete varal, mida sa ootad
- Kasuta Mistrali API-s näidete loomiseks rolle user/assistant
- Enamasti piisab 1 kuni 5 näitest
- Varii näiteid, et katta erinevaid stsenaariume, hoia vorming kõikjal identne
- Few-shot on ideaalne klassifitseerimiseks, ekstraheerimiseks ja kindla vorminguga kirjutamiseks