Few-Shot Prompting
Sellel lehel
Õppimine näidete varal
Few-shot prompting ehk mõne näitega juhendamine tähendab, et lisad oma prompti sisendi ja väljundi paare, et mudelit suunata. Selle asemel, et abstraktselt kirjeldada, mida ootad, näitad konkreetsete näidete abil soovitud tulemust.
See meetod tugineb Groki võimele tuvastada mustreid ja neid korrata. See on sageli kõige tõhusam viis täpse väljundiformaadi või kindla käitumise saavutamiseks.
Few-shot variandid
Zero-shot: ilma näideteta
Sisestad ainult juhise, ilma näideteta. See on vaikimisi käitumine.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: üks näide
Sageli piisab väljundiformaadi määramiseks ühestainsast näitest.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: mitu näidet
Kahe kuni viie näitega katad rohkem juhtumeid ja mudel mõistab nüansse paremini.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Millal kasutada few-shot meetodit
Few-shot on eriti sobiv järgmistes olukordades:
- Range väljundiformaat: JSON, CSV, struktureeritud Markdown või kohandatud formaat
- Klassifitseerimine: meeleolu, kategooria, prioriteet, keel
- Teksti teisendamine: ümberkirjutamine, stiiliga tõlkimine, üksuste eraldamine
- Tooni järjepidevus: kui sul on konkreetne kirjutamisstiil, mida tuleb korrata
Tõhusate näidete reeglid
Näidete mitmekesisus
Sinu näited peaksid katma peamised juhtumid. Kolme klassiga klassifitseerimisel lisa vähemalt üks näide iga klassi kohta.
Formaadi järjepidevus
Kõik sinu näited peavad järgima täpselt sama väljundiformaati. Kui üks näide tagastab JSON-i väiketähtedega võtmetega, peavad seda tegema ka kõik teised.
Asjakohasus
Vali näited, mis on lähedased reaalsetele juhtumitele, millega mudel tegelema hakkab. Liiga lihtsad või eksootilised näited võivad tulemuste kvaliteeti halvendada.
Mõistlik kogus
Rohkem näiteid tarbib rohkem sisendtokensid. Leia õige tasakaal: üldjuhul piisab 2–5 näitest. Sellest enamate lisamisel on kasvav tulemus üha väiksem.
Few-shot ja süsteemisõnumite kombineerimine
Kõige tõhusam kombinatsioon ühendab ülesannet kirjeldava süsteemisõnumi few-shot näidetega, mis illustreerivad formaati:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Süsteemisõnum selgitab ülesannet, näide näitab täpset formaati. Mudel kordab seda formaati uue sisendi puhul.
Harjutus
Loo few-shot prompt, et teisendada tootekirjeldused struktureeritud lehtedeks. Määra oma väljundiformaat 2–3 näitega ja testi seejärel uue tootega.
Alusta one-shot meetodist, et kontrollida formaati, ja lisa vajadusel näiteid, kui tulemus nõuab kohandamist.
Peamised punktid
- Few-shot tähendab näidete pakkumist, et suunata mudelit jäljendamise teel
- Üksainus näide (one-shot) piisab sageli väljundiformaadi määramiseks
- 2–5 näidet katavad enamiku juhtumeid, raiskamata tokensid
- Sinu näited peavad olema mitmekesised, formaadilt järjepidevad ja esinduslikud
- Kombineeri süsteemisõnum (kirjeldus) näidetega (demonstratsioon) optimaalsete tulemuste saavutamiseks