Few-Shot Prompting
På denne side
Lær ved eksempler
Few-shot prompting går ud på at inkludere input/output-par i din prompt for at vejlede modellen. I stedet for abstrakt at beskrive, hvad du forventer, viser du konkret det ønskede resultat gennem ét eller flere eksempler.
Denne metode udnytter Groks evne til at genkende mønstre og reproducere dem. Det er ofte den mest effektive teknik til at opnå et præcist output-format eller en specifik adfærd.
Varianter af few-shot
Zero-shot: ingen eksempler
Du giver kun instruktionen uden eksempler. Dette er standardadfærden.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: ét enkelt eksempel
Ét eksempel er ofte nok til at fastlægge output-formatet.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: flere eksempler
Med 2 til 5 eksempler dækker du flere tilfælde, og modellen får lettere fat i nuancerne.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Hvornår skal du bruge few-shot?
Few-shot er særligt velegnet i følgende situationer:
- Strengt output-format: JSON, CSV, struktureret Markdown, brugerdefinerede formater
- Klassificering: sentiment, kategori, prioritet, sprog
- Teksttransformation: omskrivning, oversættelse med stil, udtrækning af enheder (entities)
- Tonalkonsistens: når du har en specifik skrivestil, der skal efterlignes
Regler for effektive eksempler
Eksempel-diversitet
Dine eksempler bør dække de vigtigste tilfælde. Ved en klassificering med tre klasser skal du mindst inkludere ét eksempel for hver klasse.
Formatkonsistens
Alle dine eksempler skal følge præcis samme output-format. Hvis ét eksempel returnerer JSON med små bogstaver i nøglerne, skal alle andre gøre det samme.
Relevans
Vælg eksempler, der ligner de reelle tilfælde, modellen skal håndtere. Eksempler, der er for simple eller for eksotiske, kan forringe resultatets kvalitet.
Rimeligt antal
Flere eksempler bruger flere input-tokens. Find den rette balance: 2 til 5 eksempler er generelt nok. Derudover giver flere eksempler stadig mindre gevinst.
Kombination af few-shot og systembeskeder
Den mest effektive kombination parret en systembesked, der beskriver opgaven, med few-shot-eksempler, der viser formatet:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Systembeskeden forklarer opgaven, og eksemplet viser det nøjagtige format. Modellen vil reproducere dette format for det nye input.
Øvelse
Opret en few-shot-prompt til at konvertere produktbeskrivelser til strukturerede ark. Definer dit output-format med 2-3 eksempler, og test derefter med et nyt produkt.
Start med en one-shot for at verificere formatet, og tilføj derefter eksempler, hvis resultatet kræver justeringer.
Vigtige pointer
- Few-shot indebærer at give eksempler for at vejlede modellen gennem efterligning
- Et enkelt eksempel (one-shot) er ofte nok til at fastlægge output-formatet
- 2 til 5 eksempler dækker de fleste tilfælde uden at spilde tokens
- Dine eksempler skal være varierede, konsistente i formatet og repræsentative
- Kombinér systembeskeden (beskrivelse) med eksempler (demonstration) for optimale resultater