Few-Shot Prompting
På denna sida
Lära genom exempel
Few-shot prompting innebär att du inkluderar par av indata/utdata i din prompt för att styra modellen. Istället för att abstrakt beskriva vad du förväntar dig, visar du konkret det önskade resultatet genom ett eller flera exempel.
Denna metod förlitar sig på Groks förmåga att upptäcka mönster och reproducera dem. Det är ofta den mest effektiva tekniken för att få ett precist utdataformat eller ett specifikt beteende.
Varianter av few-shot
Zero-shot: inga exempel
Du ger endast instruktionen, utan exempel. Detta är standardbeteendet.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: ett enda exempel
Ett exempel räcker ofta för att definiera utdataformatet.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: flera exempel
Med 2 till 5 exempel täcker du fler fall och modellen förstår nyanser bättre.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
När du ska använda few-shot
Few-shot är särskilt lämpligt i följande situationer:
- Strikt utdataformat: JSON, CSV, strukturerad Markdown, anpassade format
- Klassificering: sentiment, kategori, prioritet, språk
- Texttransformering: omskrivning, översättning med specifik stil, extrahering av entiteter
- Tonkonsistens: när du har en specifik skrivstil som ska efterliknas
Regler för effektiva exempel
Exempelns mångfald
Dina exempel bör täcka huvudfallen. För en klassificering med tre klasser, inkludera minst ett exempel för varje klass.
Formatkonsistens
Alla dina exempel måste följa exakt samma utdataformat. Om ett exempel returnerar JSON med gemener som nycklar, måste alla andra göra detsamma.
Relevans
Välj exempel som ligger nära de verkliga fall modellen kommer att hantera. Exempel som är för enkla eller för exotiska kan försämra resultatets kvalitet.
Rimlig mängd
Fler exempel konsumerar fler inmatningstokens. Hitta rätt balans: 2 till 5 exempel räcker generellt. Utöver detta ger fler exempel allt mindre avkastning.
Kombinera few-shot och systemmeddelanden
Den mest effektiva kombinationen parar ett systemmeddelande som beskriver uppgiften med few-shot-exempel som visar formatet:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Systemmeddelandet förklarar uppgiften, exemplet visar det exakta formatet. Modellen kommer att reproducera detta format för den nya inmatningen.
Övning
Skapa en few-shot-prompt för att konvertera produktbeskrivningar till strukturerade datablad. Definiera ditt utdataformat med 2–3 exempel och testa sedan med en ny produkt.
Börja med en one-shot för att verifiera formatet, lägg sedan till fler exempel om resultatet kräver justeringar.
Viktiga punkter
- Few-shot innebär att du tillhandahåller exempel för att styra modellen genom efterliknande
- Ett enda exempel (one-shot) räcker ofta för att definiera utdataformatet
- 2 till 5 exempel täcker de flesta fall utan att slösa på tokens
- Dina exempel måste vara mångsidiga, konsekventa i formatet och representativa
- Kombinera systemmeddelandet (beskrivning) med exempel (demonstration) för optimala resultat