Few-Shot Prompting
In questa pagina
Imparare dagli esempi
Il few-shot prompting consiste nel fornire coppie input/output nel tuo prompt per guidare il modello. Invece di descrivere astrattamente ciò che ti aspetti, mostri concretamente il risultato desiderato attraverso uno o più esempi.
Questo approccio sfrutta la capacità di Grok di rilevare schemi e riprodurli. Spesso è la tecnica più efficace per ottenere un formato di output preciso o un comportamento specifico.
Varianti del Few-shot
Zero-shot: nessun esempio
Fornisci solo l’istruzione, senza esempi. Questo è il comportamento predefinito.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: un singolo esempio
Un solo esempio è spesso sufficiente per impostare il formato di output.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: più esempi
Con 2-5 esempi, copri più casi e il modello coglie meglio le sfumature.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Quando usare il few-shot
Il few-shot è particolarmente indicato in queste situazioni:
- Formato di output rigoroso: JSON, CSV, Markdown strutturato, formati personalizzati
- Classificazione: sentiment, categoria, priorità, lingua
- Trasformazione del testo: riscrittura, traduzione stilistica, estrazione di entità
- Coerenza del tono: quando devi riprodurre uno stile di scrittura specifico
Regole per esempi efficaci
Diversità degli esempi
I tuoi esempi devono coprire i casi principali. Per una classificazione a tre classi, includi almeno un esempio per ciascuna classe.
Coerenza del formato
Tutti i tuoi esempi devono seguire esattamente lo stesso formato di output. Se un esempio restituisce JSON con chiavi in minuscolo, tutti gli altri devono fare lo stesso.
Rilevanza
Scegli esempi vicini ai casi reali che il modello dovrà gestire. Esempi troppo semplici o troppo esotici possono degradare la qualità dei risultati.
Quantità ragionevole
Più esempi consumano più token in input. Trova il giusto equilibrio: 2-5 esempi sono generalmente sufficienti. Oltre questa soglia, aggiungere esempi offre rendimenti decrescenti.
Combinare few-shot e messaggi di sistema
La combinazione più efficace abbina un messaggio di sistema che descrive il compito a esempi few-shot che mostrano il formato:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Il messaggio di sistema spiega il compito, l’esempio mostra il formato esatto. Il modello riprodurrà questo formato per il nuovo input.
Esercitazione
Crea un prompt few-shot per convertire le descrizioni dei prodotti in schede strutturate. Definisci il tuo formato di output con 2-3 esempi, quindi testalo con un nuovo prodotto.
Inizia con un one-shot per verificare il formato, poi aggiungi esempi se il risultato richiede aggiustamenti.
Punti chiave
- Il few-shot consiste nel fornire esempi per guidare il modello tramite imitazione
- Un singolo esempio (one-shot) è spesso sufficiente per impostare il formato di output
- 2-5 esempi coprono la maggior parte dei casi senza sprecare token
- I tuoi esempi devono essere diversificati, coerenti nel formato e rappresentativi
- Combina il messaggio di sistema (descrizione) con gli esempi (dimostrazione) per risultati ottimali