Few-Shot Prompting
Ezen az oldalon
Tanulás példákon keresztül
A few-shot prompting során bemeneti/kimeneti párokat adsz meg a promptodban, hogy irányítsd a modellt. Ahelyett, hogy elvontan írnád le, mit vársz, konkrétan megmutatod a kívánt eredményt egy vagy több példán keresztül.
Ez a megközelítés a Grok mintafelismerő és -ismétlő képességére épít. Gyakran ez a leghatékonyabb technika a pontos kimeneti formátum vagy egy specifikus viselkedés eléréséhez.
A few-shot változatai
Zero-shot: példák nélkül
Csak az utasítást adod meg, példák nélkül. Ez az alapértelmezett viselkedés.
[
{"role": "system", "content": "Classify customer reviews as 'positive', 'negative', or 'neutral'."},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
One-shot: egyetlen példa
Gyakran elég egyetlen példa is a kimeneti formátum beállításához.
[
{"role": "system", "content": "Classify customer reviews using the format shown in the example."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95, \"keywords\": [\"quality\", \"recommend\"]}"},
{"role": "user", "content": "The product arrived broken, very disappointed."}
]
Few-shot: több példa
2–5 példával több esetet lefedesz, és a modell jobban megérti az árnyalatokat.
[
{"role": "system", "content": "Classify customer reviews in JSON format."},
{"role": "user", "content": "Great quality, I recommend it!"},
{"role": "assistant", "content": "{\"sentiment\": \"positive\", \"confidence\": 0.95}"},
{"role": "user", "content": "Meh, nothing special."},
{"role": "assistant", "content": "{\"sentiment\": \"neutral\", \"confidence\": 0.70}"},
{"role": "user", "content": "Horrible, doesn't work at all."},
{"role": "assistant", "content": "{\"sentiment\": \"negative\", \"confidence\": 0.98}"},
{"role": "user", "content": "Fast delivery but damaged packaging."}
]
Mikor alkalmazzunk few-shot módszert?
A few-shot különösen az alábbi helyzetekben ajánlott:
- Szigorú kimeneti formátum: JSON, CSV, strukturált Markdown, egyedi formátum
- Osztályozás: hangulat, kategória, prioritás, nyelv
- Szövegtranszformáció: átfogalmazás, stílushű fordítás, entitáskinyerés
- Hangnem-konzisztencia: ha egy specifikus írási stílust kell reprodukálnod
Szabályok a hatékony példákhoz
Példák sokszínűsége
A példáidnak le kell fedniük a főbb eseteket. Háromosztályos osztályozás esetén minden osztályból szerepeljen legalább egy példa.
Formátum-konzisztencia
Minden példának pontosan ugyanazt a kimeneti formátumot kell követnie. Ha az egyik példa JSON-t ad vissza kisbetűs kulcsokkal, a többinek is ezt kell tennie.
Relevancia
Olyan példákat válassz, amelyek közel állnak azokhoz a valós esetekhez, amelyeket a modell kezelni fog. A túl egyszerű vagy túl egzotikus példák ronthatják az eredmények minőségét.
Ésszerű mennyiség
Több példa több bemeneti tokent fogyaszt. Találd meg az egyensúlyt: általában 2–5 példa elég. Efelett a példák hozzáadása egyre kisebb hozadékot eredményez.
A few-shot és a rendszerüzenetek kombinálása
A leghatékonyabb kombináció egy feladatot leíró rendszerüzenet és a formátumot bemutató few-shot példák párosítása:
[
{
"role": "system",
"content": "You are an assistant that extracts named entities (people, places, organizations) from text and returns them in JSON format. Each entity has a type and a value."
},
{
"role": "user",
"content": "Marie Curie worked at the University of Paris."
},
{
"role": "assistant",
"content": "{\"entities\": [{\"type\": \"person\", \"value\": \"Marie Curie\"}, {\"type\": \"organization\", \"value\": \"University of Paris\"}]}"
},
{
"role": "user",
"content": "The CEO of TotalEnergies met the minister in Lyon."
}
]
A rendszerüzenet elmagyarázza a feladatot, a példa pedig megmutatja a pontos formátumot. A modell ezt a formátumot fogja reprodukálni az új bemenetre.
Gyakorlat
Készíts egy few-shot promptot, amely termékleírásokat alakít át strukturált adatlapokká. Határozd meg a kimeneti formátumot 2–3 példával, majd teszteld egy új termékkel.
Kezdj egy one-shot példával a formátum ellenőrzéséhez, majd adj hozzá további példákat, ha az eredmény finomhangolást igényel.
Főbb megállapítások
- A few-shot példák biztosítását jelenti, hogy utánzással irányítsd a modellt
- Egyetlen példa (one-shot) gyakran elég a kimeneti formátum beállításához
- 2–5 példa lefedi az esetek többségét anélkül, hogy feleslegesen pazarolnád a tokeneket
- A példáidnak sokszínűeknek, formátum szempontjából konzisztenseknek és reprezentatívnak kell lenniük
- Az optimális eredmény érdekében kombináld a rendszerüzenetet (leírás) a példákkal (bemutatás)