Few-Shot Prompting
Tällä sivulla
Oppiminen esimerkkien avulla
Few-shot prompting -tekniikassa syötät kehotteeseen syöte/tuloste-pareja mallin ohjaamiseksi. Sen sijaan, että kuvailisit odotuksiasi abstraktisti, näytät halutun tuloksen konkreettisesti yhden tai useamman esimerkin avulla.
Tämä lähestymistapa perustuu Grokin kykyyn tunnistaa kaavoja ja toistaa niitä. Se on usein tehokkain tekniikka tarkan tulostemuodon tai tietyn käyttäytymisen saavuttamiseen.
Few-shot-muunnelmat
Zero-shot: ei esimerkkejä
Annat vain ohjeen ilman esimerkkejä. Tämä on oletuskäyttäytyminen.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: yksi esimerkki
Yksi esimerkki riittää usein määrittämään tulostemuodon.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: useita esimerkkejä
Käyttämällä 2–5 esimerkkiä katat useampia tapauksia, ja malli hahmottaa vivahteet paremmin.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Milloin käyttää few-shotia
Few-shot sopii erityisen hyvin seuraaviin tilanteisiin:
- Tiukka tulostemuoto: JSON, CSV, jäsennelty Markdown tai mukautettu muoto
- Luokittelu: tunne, kategoria, prioriteetti, kieli
- Tekstin muunnos: uudelleenkirjoitus, tyylillinen kääntäminen, entiteettien poiminta
- Sävyjen johdonmukaisuus: kun sinulla on tietty kirjoitustyyli, joka tulee toistaa
Säännöt tehokkaille esimerkeille
Esimerkkien monipuolisuus
Esimerkkiesi tulisi kattaa tärkeimmät tapaukset. Jos teet kolmen luokan luokittelua, sisällytä vähintään yksi esimerkki kustakin luokasta.
Muodon johdonmukaisuus
Kaikkien esimerkkiesi on noudatettava täsmälleen samaa tulostemuotoa. Jos yksi esimerkki palauttaa JSON-tiedoston, jossa avaimet ovat pienillä kirjaimilla, kaikkien muidenkin on tehtävä niin.
Merkityksellisyys
Valitse esimerkkejä, jotka ovat lähellä niitä todellisia tapauksia, joita malli käsittelee. Liian yksinkertaiset tai liian erikoiset esimerkit voivat heikentää tulosten laatua.
Kohtuullinen määrä
Useammat esimerkit kuluttavat enemmän syötetokeneitä. Löydä oikea tasapaino: 2–5 esimerkkiä riittää yleensä. Tämän jälkeen lisäesimerkkien tuoma hyöty vähenee.
Few-shotin ja järjestelmäviestien yhdistäminen
Tehokkain yhdistelmä parittaa tehtävän kuvaava järjestelmäviesti few-shot-esimerkkeihin, jotka näyttävät muodon:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Järjestelmäviesti selittää tehtävän, ja esimerkki näyttää tarkan muodon. Malli toistaa tämän muodon uutta syötettä varten.
Harjoitus
Luo few-shot-kehote, joka muuntaa tuotekuvaukset jäsennellyiksi tietolehdiksi. Määritä tulostemuotosi 2–3 esimerkin avulla ja testaa sitä sitten uudella tuotteella.
Aloita one-shotilla varmistaaksesi muodon ja lisää esimerkkejä, jos tulos vaatii säätöä.
Keskeiset asiat
- Few-shot tarkoittaa esimerkkien antamista mallin ohjaamiseksi jäljitelmän kautta
- Yksi esimerkki (one-shot) riittää usein määrittämään tulostemuodon
- 2–5 esimerkkiä kattaa useimmat tapaukset tuhlaamatta tokeneita
- Esimerkkiesi tulee olla monipuolisia, muodoltaan johdonmukaisia ja edustavia
- Yhdistä järjestelmäviesti (kuvaus) esimerkkeihin (demonstraatio) saavuttaaksesi optimaaliset tulokset