Few-Shot Prompting
Šajā lapā
Mācīšanās ar piemēriem
Few-shot prompting nozīmē, ka savā promptā iekļauj ievades/izvades pārus, lai virzītu modeli. Abstraktu aprakstu vietā, ko tieši sagaidi, tu konkrēti parādi vēlamo rezultātu, izmantojot vienu vai vairākus piemērus.
Šī pieeja balstās uz Grok spēju atpazīt modeļus un tos reproducēt. Tā bieži vien ir visefektīvākā metode, lai iegūtu precīzu izvades formātu vai specifisku uzvedību.
Few-shot varianti
Zero-shot: bez piemēriem
Tu sniedz tikai instrukciju, bez piemēriem. Šī ir noklusējuma uzvedība.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: viens piemērs
Bieži vien pietiek ar vienu piemēru, lai noteiktu izvades formātu.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: vairāki piemēri
Izmantojot 2 līdz 5 piemērus, tu aptver vairāk gadījumu, un modelis labāk izprot nianses.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Kad izmantot few-shot
Few-shot ir īpaši piemērots šādās situācijās:
- Stingrs izvades formāts: JSON, CSV, strukturēts Markdown, pielāgots formāts
- Klasifikācija: noskaņojums, kategorija, prioritāte, valoda
- Teksta transformācija: pārrakstīšana, tulkošana ar stilu, entīšu ekstrakcija
- Tonālās konsekvences nodrošināšana: ja tev ir jāreproducē specifisks rakstīšanas stils
Noteikumi efektīviem piemēriem
Piemēru daudzveidība
Taviem piemēriem jāaptver galvenie gadījumi. Trīs klašu klasifikācijai iekļauj vismaz vienu piemēru katrai klasei.
Formāta konsekvence
Visiem taviem piemēriem ir jāievēro tieši tas pats izvades formāts. Ja viens piemērs atgriež JSON ar maziem burtiem atslēgās, arī visiem pārējiem tā jādara.
Atbilstība
Izvēlies piemērus, kas ir tuvu reālajiem gadījumiem, ar kuriem modelis saskarsies. Pārāk vienkārši vai pārāk eksotiski piemēri var pasliktināt rezultātu kvalitāti.
Saprotams daudzums
Vairāk piemēru patērē vairāk ievades tokenus. Atrodi pareizo līdzsvaru: parasti pietiek ar 2 līdz 5 piemēriem. Pārsniedzot šo skaitu, papildu piemēru pievienošana dod arvien mazāku labumu.
Few-shot un sistēmas ziņojumu kombinēšana
Visefektīvākā kombinācija apvieno sistēmas ziņojumu, kas apraksta uzdevumu, ar few-shot piemēriem, kas parāda formātu:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Sistēmas ziņojums izskaidro uzdevumu, bet piemērs parāda precīzo formātu. Modelis reproducēs šo formātu jaunajai ievadei.
Prakse
Izveido few-shot promptu, lai pārvērstu produktu aprakstus strukturētās lapās. Definē savu izvades formātu ar 2–3 piemēriem, pēc tam pārbaudi to ar jaunu produktu.
Sāc ar one-shot, lai pārbaudītu formātu, un pēc tam pievieno papildu piemērus, ja rezultāts prasa pielāgojumus.
Galvenās atziņas
- Few-shot nozīmē piemēru sniegšanu, lai virzītu modeli caur imitāciju
- Bieži vien pietiek ar vienu piemēru (one-shot), lai noteiktu izvades formātu
- 2 līdz 5 piemēri aptver lielāko daļu gadījumu, neizšķiežot tokenus
- Taviem piemēriem jābūt daudzveidīgiem, konsekventiem formātā un reprezentatīviem
- Apvieno sistēmas ziņojumu (apraksts) ar piemēriem (demonstrācija), lai sasniegtu optimālus rezultātus