Few-Shot Prompting
Op deze pagina
Leren door voorbeelden
Few-shot prompting houdt in dat u het model één of meer voorbeelden geeft van de uit te voeren taak voordat u het eigenlijke verzoek indient. In plaats van abstract uit te leggen wat u verwacht, toont u het concreet—net als een trainer die, in plaats van twintig minuten lang een goed vergaderverslag te beschrijven, twee goed geschreven voorbeelden uitdeelt en de deelnemers deze laat opnemen. Deze techniek is een van de meest effectieve manieren om precieze en consistente resultaten te verkrijgen met Mistral-modellen.
Het principe is eenvoudig: het model gebruikt de verstrekte voorbeelden om het verwachte formaat, de toon, het detailniveau en de logica te begrijpen, en reproduceert dit patroon vervolgens voor uw verzoek. Een goed gekozen voorbeeld vervangt vaak een hele alinea uitleg—en doet dit beter.
Zero-shot, one-shot, few-shot: drie niveaus van sturing
De vakterminologie onderscheidt drie varianten op basis van het aantal voorbeelden. Bij zero-shot geeft u een instructie zonder voorbeelden en vertrouwt het model uitsluitend op zijn kennis:
Classify the sentiment of this text as positive, neutral, or negative:
"Customer service was responsive but delivery was late."
Zero-shot werkt voor eenvoudige, veelvoorkomende taken die het model tijdens de training duizenden keren is tegengekomen. Voor taken die specifiek zijn voor uw bedrijf, is dit vaak onvoldoende: het model zal wel classificeren, maar niet noodzakelijk volgens uw criteria.
Bij one-shot is soms één enkel voorbeeld voldoende om het model te sturen. Het voorbeeld toont zowel het uitvoerformaat als de manier waarop het antwoord moet worden onderbouwd:
Classify the sentiment and justify in one sentence.
Example:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Met few-shot verminderen meerdere voorbeelden ambiguïteit en versterken ze de consistentie. Dit is vooral nuttig wanneer randgevallen veel voorkomen—zoals deze gemengde review die een positief punt combineert met een negatief punt:
Classify the sentiment and justify in one sentence.
Example 1:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
Example 2:
Text: "The price is fair for what it is."
Sentiment: neutral
Justification: Factual evaluation without strong emotion.
Example 3:
Text: "Three weeks of waiting for a defective product."
Sentiment: negative
Justification: Delay issue combined with a quality defect.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Met drie voorbeelden die de drie categorieën bestrijken, heeft het model gezien hoe elke casus eruitziet en zal het zijn reactie daarop afstemmen.
Few-shot implementeren met de Mistral API
In een tekstprompt stapelt u voorbeelden op zoals hierboven. Maar met de API bestaat er een elegantere methode: gebruik de rollen user en assistant om kunstmatige uitwisselingen te creëren die als voorbeelden dienen. U bouwt vanaf nul een conversatiegeschiedenis op waarin het model “al” perfect heeft gereageerd:
messages = [
{
"role": "system",
"content": "You classify customer reviews. Respond only with the indicated format."
},
# Example 1
{
"role": "user",
"content": "Classify: \"Excellent product, highly recommended!\""
},
{
"role": "assistant",
"content": "Sentiment: positive\nJustification: Expression of enthusiasm and explicit recommendation."
},
# Example 2
{
"role": "user",
"content": "Classify: \"Three weeks of waiting for a defective product.\""
},
{
"role": "assistant",
"content": "Sentiment: negative\nJustification: Delay issue combined with a quality defect."
},
# Actual request
{
"role": "user",
"content": "Classify: \"Customer service was responsive but delivery was late.\""
}
]
Door voorbeelden als user/assistant-berichten door te geven, behandelt het model ze als een succesvolle conversatiegeschiedenis die het in dezelfde stijl moet voortzetten. Dit is het patroon dat u moet优先iteren zodra u opschalt naar productie: voorbeelden blijven gescheiden van de data, wat ze makkelijk onderhoudbaar en uitbreidbaar maakt.
Wanneer few-shot gebruiken
Few-shot blinkt uit in vier soorten situaties. Ten eerste aangepaste classificatie: wanneer uw categorieën niet standaard zijn—bijvoorbeeld interne tickettypes specifiek voor uw bedrijf—kan geen enkele beschrijving opwegen tegen een paar reeds geclassificeerde tickets. Ten tweede data-extractie, wanneer het uitvoerformaat specifiek is voor uw organisatie. Ten derde schrijven met een specifieke toon: als u wilt dat het model uw redactionele stijl overneemt, toon het dan twee of drie van uw eigen teksten in plaats van uw stijl met bijvoeglijke naamwoorden te proberen beschrijven. Tot slot algemene ambiguïteit: zodra de tekstuele beschrijving niet volstaat om twijfels weg te nemen, lost een voorbeeld dit op.
Hoeveel voorbeelden moet u geven
Het optimale aantal hangt af van de complexiteit van de taak. Voor een eenvoudige taak met een duidelijk formaat—binaire classificatie, extractie van één veld—volstaan één of twee voorbeelden. Voor een taak met meerdere categorieën of een complex formaat, rekent u op drie tot vijf voorbeelden, idealiter één per categorie. Boven de vijf bevindt u zich op het terrein van zeer specifieke taken of taken met veel randgevallen die expliciet gedekt moeten worden.
Houd echter rekening met de kosten: elk voorbeeld verbruikt input-tokens, en bij Mistral-modellen worden input-tokens gefactureerd. Een classificatieprompt die tienduizend keer per dag wordt aangeroepen met acht redundante voorbeelden kost aanzienlijk meer dan dezelfde prompt met drie goed gekozen voorbeelden, vaak zonder noemenswaardige winst in kwaliteit. Vind de juiste balans tussen precisie en efficiëntie.
Goede voorbeelden bouwen
Tot slot enkele best practices. Varieer uw voorbeelden om verschillende mogelijke gevallen te dekken, inclusief randgevallen: drie louter positieve voorbeelden leren niets over het behandelen van negatieve reviews. Houd het formaat van het ene voorbeeld tot het andere rigoureus identiek—de kleinste variatie in structuur wordt als significant geïnterpreteerd en gereproduceerd. Gebruik realistische voorbeelden, dicht bij uw echte data: een model dat getraind is op uw echte klantreviews, zal uw echte klantreviews beter classificeren dan wanneer het alleen schoolboekzinnen heeft gezien. En plaats het eigenlijke verzoek altijd als laatste: het model besteedt meer aandacht aan het begin en het einde van de prompt.
Belangrijkste punten
- Few-shot prompting toont het model aan de hand van voorbeelden wat u verwacht
- Gebruik de rollen user/assistant om voorbeelden te creëren in de Mistral API
- 1 tot 5 voorbeelden volstaan in de meeste gevallen
- Varieer voorbeelden om verschillende scenario’s te dekken, houd het formaat overal identiek
- Few-shot is ideaal voor classificatie, extractie en schrijven met een specifiek formaat