Prompting cu puține exemple (Few-Shot)
Pe această pagină
Învățarea prin exemple
Prompting-ul cu puține exemple (few-shot prompting) presupune includerea unor perechi intrare/ieșire în promptul dumneavoastră pentru a ghida modelul. În loc să descrieți abstract ce așteptați, demonstrați concret rezultatul dorit prin unul sau mai multe exemple.
Această abordare se bazează pe capacitatea lui Grok de a detecta tipare și de a le reproduce. Este adesea cea mai eficientă tehnică pentru a obține un format de ieșire precis sau un comportament specific.
Variante de few-shot
Zero-shot: fără exemple
Furnizați doar instrucțiunea, fără exemple. Acesta este comportamentul implicit.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: un singur exemplu
Un singur exemplu este adesea suficient pentru a stabili formatul de ieșire.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: multiple exemple
Cu 2 până la 5 exemple, acoperiți mai multe cazuri, iar modelul înțelege mai bine nuanțele.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Când să utilizați few-shot
Few-shot este deosebit de potrivit în următoarele situații:
- Format de ieșire strict: JSON, CSV, Markdown structurat, format personalizat
- Clasificare: sentiment, categorie, prioritate, limbă
- Transformare de text: rescriere, traducere cu stil specific, extragere de entități
- Consistența tonului: când aveți un stil de scriere specific pe care doriți să îl reproduceți
Reguli pentru exemple eficiente
Diversitatea exemplelor
Exemplele dumneavoastră ar trebui să acopere cazurile principale. Pentru o clasificare în trei clase, includeți cel puțin un exemplu pentru fiecare clasă.
Consistența formatului
Toate exemplele dumneavoastră trebuie să respecte exact același format de ieșire. Dacă un exemplu returnează JSON cu chei cu litere mici, toate celelalte trebuie să facă la fel.
Relevanța
Alegeți exemple apropiate de cazurile reale pe care modelul le va gestiona. Exemplele prea simple sau prea exotice pot degrada calitatea rezultatelor.
Cantitate rezonabilă
Mai multe exemple consumă mai mulți tokeni de intrare. Găsiți echilibrul corect: 2 până la 5 exemple sunt în general suficiente. Dincolo de acest număr, adăugarea de exemple are randamente descrescătoare.
Combinarea few-shot cu mesajele de sistem
Cea mai eficientă combinație asociază un mesaj de sistem care descrie sarcina cu exemple few-shot care arată formatul:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
Mesajul de sistem explică sarcina, iar exemplul arată formatul exact. Modelul va reproduce acest format pentru noua intrare.
Exercițiu practic
Creați un prompt few-shot pentru a converti descrierile de produse în fișe structurate. Definiți formatul de ieșire cu 2-3 exemple, apoi testați cu un produs nou.
Începeți cu un one-shot pentru a verifica formatul, apoi adăugați exemple dacă rezultatul necesită ajustări.
Puncte cheie
- Few-shot presupune furnizarea de exemple pentru a ghida modelul prin imitație
- Un singur exemplu (one-shot) este adesea suficient pentru a stabili formatul de ieșire
- 2 până la 5 exemple acoperă majoritatea cazurilor fără a risipi tokeni
- Exemplele dumneavoastră trebuie să fie diverse, consistente ca format și reprezentative
- Combinați mesajul de sistem (descriere) cu exemplele (demonstrație) pentru rezultate optime