Few-Shot Prompting
Na ovoj stranici
Učenje kroz primjere
Few-shot prompting podrazumijeva uključivanje parova ulaz/izlaz u tvoj prompt kako bi se usmjerio model. Umjesto apstraktnog opisivanja očekivanog rezultata, konkretno prikazuješ željeni ishod putem jednog ili više primjera.
Ovaj pristup oslanja se na Grokovu sposobnost prepoznavanja uzoraka i njihove reprodukcije. Često je najučinkovitija tehnika za postizanje preciznog formata izlaza ili specifičnog ponašanja.
Varijante few-shot pristupa
Zero-shot: bez primjera
Daješ samo uputu, bez primjera. To je zadano ponašanje.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: jedan primjer
Jedan primjer često je dovoljan za postavljanje formata izlaza.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: više primjera
S 2 do 5 primjera pokrivaš više slučajeva, a model bolje razumije nijanse.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Kada koristiti few-shot
Few-shot je posebno prikladan u sljedećim situacijama:
- Strogi format izlaza: JSON, CSV, strukturirani Markdown, prilagođeni formati
- Klasifikacija: sentiment, kategorija, prioritet, jezik
- Transformacija teksta: prepisivanje, prijevod s određenim stilom, ekstrakcija entiteta
- Dosljednost tona: kada moraš reproducirati specifičan stil pisanja
Pravila za učinkovite primjere
Raznolikost primjera
Tvoji primjeri trebaju pokriti glavne slučajeve. Za klasifikaciju s tri klase uključi barem jedan primjer svake klase.
Dosljednost formata
Svi tvoji primjeri moraju slijediti točno isti format izlaza. Ako jedan primjer vraća JSON s ključevima malim slovima, svi ostali moraju učiniti isto.
Relevantnost
Odaberi primjere bliske stvarnim slučajevima s kojima će se model susresti. Primjeri koji su previše jednostavni ili previše egzotični mogu smanjiti kvalitetu rezultata.
Razumna količina
Više primjera troši više ulaznih tokena. Pronađi pravu ravnotežu: 2 do 5 primjera obično je dovoljno. Iznad toga, dodavanje novih primjera donosi sve manje koristi.
Kombiniranje few-shot pristupa i sistemskih poruka
Najučinkovitija kombinacija spaja sistemsku poruku koja opisuje zadatak s few-shot primjerima koji prikazuju format:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Sistemska poruka objašnjava zadatak, a primjer pokazuje točan format. Model će reproducirati taj format za novi ulaz.
Vježba
Izradi few-shot prompt za pretvaranje opisa proizvoda u strukturirane listove. Definiraj svoj format izlaza s 2–3 primjera, zatim testiraj s novim proizvodom.
Započni s one-shot pristupom kako bi provjerio format, a zatim dodaj primjere ako rezultat zahtijeva prilagodbe.
Ključne točke
- Few-shot podrazumijeva davanje primjera kako bi se model usmjerio putem imitacije
- Jedan primjer (one-shot) često je dovoljan za postavljanje formata izlaza
- 2 do 5 primjera pokriva većinu slučajeva bez nepotrebnog trošenja tokena
- Tvoji primjeri moraju biti raznoliki, dosljedni po formatu i reprezentativni
- Kombiniraj sistemsku poruku (opis) s primjerima (demonstracija) za optimalne rezultate