Few-Shot Prompting
Šiame puslapyje
Mokymasis iš pavyzdžių
„Few-shot prompting“ reiškia, kad į savo užklausą įtrauki įvesties ir išvesties poras, kurios nukreipia modelį. Užuot abstrakčiai aprašęs, ko tikiesi, konkrečiai parodai norimą rezultatą pateikdamas vieną ar kelis pavyzdžius.
Šis metodas remiasi Grok gebėjimu atpažinti dėsningumus ir juos atkartoti. Tai dažnai yra efektyviausias būdas gauti tikslų išvesties formatą arba specifinį elgesį.
„Few-shot“ variantai
„Zero-shot“: be pavyzdžių
Pateiki tik instrukciją, be jokių pavyzdžių. Tai yra numatytoji elgsena.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
„One-shot“: vienas pavyzdys
Dažnai pakanka vieno pavyzdžio, kad nustatytum išvesties formatą.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
„Few-shot“: keli pavyzdžiai
Naudodamas nuo 2 iki 5 pavyzdžių, apimi daugiau atvejų, o modelis geriau supranta niuansus.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Kada naudoti „few-shot“
„Few-shot“ ypač tinka šiose situacijose:
- Griežtas išvesties formatas: JSON, CSV, struktūruotas „Markdown“, individualus formatas
- Klasifikavimas: nuotaikos, kategorijos, prioriteto, kalbos nustatymas
- Teksto transformavimas: perrašymas, vertimas išlaikant stilių, entitetų išskyrimas
- Tono nuoseklumas: kai reikia atkartoti specifinį rašymo stilių
Efektyvių pavyzdžių taisyklės
Pavyzdžių įvairovė
Tavo pavyzdžiai turi apimti pagrindinius atvejus. Jei klasifikuoji į tris klases, įtrauk bent po vieną kiekvienos klasės pavyzdį.
Formato nuoseklumas
Visi tavo pavyzdžiai turi tiksliai laikytis to paties išvesties formato. Jei vienas pavyzdys grąžina JSON su mažosiomis raidėmis raktuose, visi kiti turi daryti taip pat.
Aktualumas
Rinkis pavyzdžius, artimus realiems atvejams, su kuriais modelis dirbs. Per daug paprasti arba per daug egzotiški pavyzdžiai gali pabloginti rezultatų kokybę.
Protingas kiekis
Daugiau pavyzdžių sunaudoja daugiau įvesties tokenų. Rask tinkamą pusiausvyrą: dažniausiai pakanka nuo 2 iki 5 pavyzdžių. Viršijus šį skaičių, papildomi pavyzdžiai duoda vis mažesnę naudą.
„Few-shot“ ir sistemos žinučių derinimas
Efektyviausias derinys – tai sistemos žinutė, aprašanti užduotį, kartu su „few-shot“ pavyzdžiais, rodančiais formatą:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Sistemos žinutė paaiškina užduotį, o pavyzdys parodo tikslų formatą. Modelis atkartos šį formatą naujai įvestiai.
Praktika
Sukurk „few-shot“ užklausą, kuri paverstų produktų aprašymus į struktūruotas korteles. Apibrėžk savo išvesties formatą naudodamas 2–3 pavyzdžius, tada išbandyk su nauju produktu.
Pradėk nuo „one-shot“, kad patikrintum formatą, o jei rezultatas reikalauja korekcijų, pridėk daugiau pavyzdžių.
Svarbiausi punktai
- „Few-shot“ reiškia pavyzdžių pateikimą, kad modelis mokytųsi imituodamas
- Vieno pavyzdžio („one-shot“) dažnai pakanka nustatyti išvesties formatui
- Nuo 2 iki 5 pavyzdžių apima daugumą atvejų nešvaistant tokenų
- Tavo pavyzdžiai turi būti įvairūs, nuoseklūs formatu ir reprezentatyvūs
- Derink sistemos žinutę (aprašymą) su pavyzdžiais (demonstracija), kad gautum optimalių rezultatų