Few-Shot Prompting
Pe această pagină
Învățare prin exemple
Few-shot prompting presupune furnizarea modelului a unuia sau mai multor exemple de sarcină de executat înainte de a submita cererea propriu-zisă. În loc să explicați abstract ce așteptați, îi arătați concret – exact ca un formator care, în loc să descrie timp de douăzeci de minute cum arată un raport de ședință bine redactat, distribuie două exemple bine scrise și lasă participanții să le asimileze. Această tehnică este una dintre cele mai eficiente pentru a obține rezultate precise și consistente cu modelele Mistral.
Principiul este simplu: modelul se bazează pe exemplele furnizate pentru a înțelege formatul așteptat, tonul, nivelul de detaliu și logica, apoi reproduce acest tipar pentru cererea dumneavoastră. Un exemplu bine ales înlocuiește adesea un întreg paragraf de explicații – și o face mai bine.
Zero-shot, one-shot, few-shot: trei niveluri de ghidare
Vocabularul domeniului distinge trei variante în funcție de numărul de exemple. În zero-shot, oferiți o instrucțiune fără niciun exemplu, iar modelul se bazează exclusiv pe cunoștințele sale:
Classify the sentiment of this text as positive, neutral, or negative:
"Customer service was responsive but delivery was late."
Zero-shot funcționează pentru sarcini simple și comune pe care modelul le-a întâlnit de mii de ori în timpul antrenamentului. Pentru sarcini specifice afacerii dumneavoastră, este adesea insuficient: modelul va clasifica, dar nu neapărat conform criteriilor dumneavoastră.
În one-shot, un singur exemplu este uneori suficient pentru a ghida modelul. Exemplul arată atât formatul de ieșire, cât și modul de justificare a răspunsului:
Classify the sentiment and justify in one sentence.
Example:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Cu few-shot, multiple exemple reduc ambiguitatea și consolidează consistența. Acest lucru este deosebit de util atunci când cazurile limită sunt numeroase – cum ar fi acest review mixt care îmbină un punct pozitiv și unul negativ:
Classify the sentiment and justify in one sentence.
Example 1:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.
Example 2:
Text: "The price is fair for what it is."
Sentiment: neutral
Justification: Factual evaluation without strong emotion.
Example 3:
Text: "Three weeks of waiting for a defective product."
Sentiment: negative
Justification: Delay issue combined with a quality defect.
To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:
Cu trei exemple care acoperă cele trei categorii, modelul a văzut cum arată fiecare caz și își va calibra răspunsul în consecință.
Implementarea few-shot cu API-ul Mistral
Într-un prompt text, exemplele se stivuesc ca mai sus. Dar cu API-ul, există o metodă mai curată: utilizați rolurile user și assistant pentru a crea schimburi artificiale care servesc drept exemple. Creați de la zero un istoric de conversație în care modelul a răspuns deja „perfect“:
messages = [
{
"role": "system",
"content": "You classify customer reviews. Respond only with the indicated format."
},
# Example 1
{
"role": "user",
"content": "Classify: \"Excellent product, highly recommended!\""
},
{
"role": "assistant",
"content": "Sentiment: positive\nJustification: Expression of enthusiasm and explicit recommendation."
},
# Example 2
{
"role": "user",
"content": "Classify: \"Three weeks of waiting for a defective product.\""
},
{
"role": "assistant",
"content": "Sentiment: negative\nJustification: Delay issue combined with a quality defect."
},
# Actual request
{
"role": "user",
"content": "Classify: \"Customer service was responsive but delivery was late.\""
}
]
Transmițând exemplele ca mesaje user/assistant, modelul le tratează ca pe un istoric de conversație reușit pe care trebuie să îl continue în aceeași linie. Acesta este tiparul de prioritizat imediat ce scalați către producție: exemplele rămân separate de date, ușor de întreținut și de îmbogățit.
Când să utilizați few-shot
Few-shot excelează în patru tipuri de situații. Mai întâi, clasificarea personalizată: când categoriile dumneavoastră nu sunt standard – de exemplu, tipuri de tichete interne specifice companiei dumneavoastră – nicio descriere nu bate câteva tichete deja clasificate. Apoi, extragerea de date, când formatul de ieșire este specific organizației dumneavoastră. De asemenea, scrierea cu un ton specific: dacă doriți ca modelul să adopte stilul dumneavoastră editorial, arătați-i două sau trei dintre textele dumneavoastră proprii, în loc să încercați să vă descrieți stilul prin adjective. În final, sarcinile ambigue în general: imediat ce descrierea textuală nu este suficientă pentru a risipi îndoielile, un exemplu rezolvă problema.
Câte exemple să furnizați
Numărul optim depinde de complexitatea sarcinii. Pentru o sarcină simplă cu un format clar – clasificare binară, extragerea unui singur câmp – unul sau două exemple sunt suficiente. Pentru o sarcină cu multiple categorii sau un format complex, contați pe trei până la cinci exemple, ideal câte unul per categorie. Dincolo de cinci, intrați în teritoriul sarcinilor foarte specifice sau al celor bogate în cazuri limită care trebuie acoperite explicit.
Totuși, țineți cont de cost: fiecare exemplu consumă tokeni de intrare, iar la modelele Mistral, tokenii de intrare sunt facturați. Un prompt de clasificare apelat de zece mii de ori pe zi cu opt exemple redundante costă semnificativ mai mult decât același prompt cu trei exemple bine alese, pentru un câștig de calitate adesea nul. Găsiți echilibrul corect între precizie și eficiență.
Construirea unor exemple bune
Câteva bune practici pentru încheiere. Variați exemplele pentru a acoperi diferite cazuri posibile, inclusiv cazurile limită: trei exemple exclusiv pozitive nu învață nimic despre gestionarea review-urilor negative. Mențineți un format riguros identic de la un exemplu la altul – cea mai mică variație de structură va fi interpretată ca semnificativă și reprodusă. Folosiți exemple realiste, apropiate de datele dumneavoastră reale: un model antrenat pe review-urile reale ale clienților dumneavoastră va clasifica mai bine review-urile reale ale clienților dumneavoastră decât dacă ar fi văzut doar fraze de manual. Și plasați întotdeauna cererea reală la final: modelul acordă mai multă atenție începutului și sfârșitului promptului.
Puncte cheie
- Few-shot prompting arată modelului ce așteptați prin exemple
- Utilizați rolurile user/assistant pentru a crea exemple în API-ul Mistral
- 1 până la 5 exemple sunt suficiente în majoritatea cazurilor
- Variați exemplele pentru a acoperi scenarii diferite, menținând un format identic peste tot
- Few-shot este ideal pentru clasificare, extragere și scriere cu un format specific