Few-Shot Prompting
Na tej strani
Učenje s primeri
Few-shot prompting vključuje zagotavljanje parov vhod/izhod v tvojem pozivu, da usmeriš model. Namesto abstraktnega opisovanja pričakovanj konkretno prikažeš želeni rezultat z enim ali več primeri.
Ta pristop temelji na Grokovi sposobnosti zaznavanja vzorcev in njihovega reproduciranja. Pogosto je to najučinkovitejša tehnika za doseganje natančne oblike izhoda ali specifičnega vedenja.
Različice few-shot pristopa
Zero-shot: brez primerov
Navedeš le navodilo, brez primerov. To je privzeto vedenje.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: en sam primer
En primer je pogosto dovolj za določitev oblike izhoda.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: več primerov
Z 2 do 5 primeri pokriješ več primerov in model bolje zazna nianse.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Kdaj uporabiti few-shot
Few-shot je še posebej primeren v naslednjih situacijah:
- Stroga oblika izhoda: JSON, CSV, strukturiran Markdown, oblika po meri
- Klasifikacija: sentiment, kategorija, prioriteta, jezik
- Preoblikovanje besedila: prepisovanje, prevajanje s slogom, ekstrakcija entitet
- Skladnost tona: ko moraš reproducirati specifičen pisni slog
Pravila za učinkovite primere
Raznolikost primerov
Tvoji primeri morajo pokrivati glavne primere. Pri klasifikaciji s tremi razredi vključi vsaj en primer za vsak razred.
Skladnost oblike
Vsi tvoji primeri morajo slediti popolnoma enaki obliki izhoda. Če en primer vrne JSON z malimi črkami v ključih, morajo to storiti tudi vsi ostali.
Ustreznost
Izberi primere, ki so blizu realnim primerom, s katerimi se bo model soočal. Preveč preprosti ali preveč eksotični primeri lahko poslabšajo kakovost rezultatov.
Razumna količina
Več primerov porabi več vhodnih žetonov. Najdi pravo ravnovesje: 2 do 5 primerov je običajno dovolj. Onkraj tega dodajanje primerov prinaša vse manjše koristi.
Kombiniranje few-shot in sistemskih sporočil
Najučinkovitejša kombinacija združuje sistemsko sporočilo, ki opisuje nalogo, s few-shot primeri, ki prikazujejo obliko:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Sistemsko sporočilo razloži nalogo, primer pa prikaže točno obliko. Model bo to obliko reproduciral za nov vhod.
Vaja
Ustvari few-shot poziv za pretvorbo opisov izdelkov v strukturirane liste. Določi svojo obliko izhoda z 2–3 primeri, nato pa jo preizkusi z novim izdelkom.
Začni z one-shot pristopom za preverjanje oblike, nato dodaj primere, če rezultat zahteva prilagoditve.
Ključne ugotovitve
- Few-shot vključuje zagotavljanje primerov za usmerjanje modela skozi posnemanje
- En sam primer (one-shot) je pogosto dovolj za določitev oblike izhoda
- 2 do 5 primerov pokrije večino primerov brez zapravljanja žetonov
- Tvoji primeri morajo biti raznoliki, skladni po obliki in reprezentativni
- Združi sistemsko sporočilo (opis) s primeri (demonstracija) za optimalne rezultate