Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Few-Shot Prompting

5. lecke 16 közül Frissítve 2026. július 28. Kezdő
Ezen az oldalon
  1. Tanulj példákból
  2. Zero-shot, one-shot, few-shot: az útmutatás három szintje
  3. Few-shot megvalósítása a Mistral API-val
  4. Mikor alkalmazz few-shot-ot?
  5. Hány példát érdemes megadni?
  6. Jó példák készítése
  7. Főbb megállapítások

Tanulj példákból

A few-shot prompting során egy vagy több példát adsz a modellnek a kívánt feladatról, mielőtt benyújtanád a tényleges kérést. Ahelyett, hogy elvontan magyaráznád el, mit vársz, konkrétan megmutatod neki – pontosan úgy, mint egy tréner, aki ahelyett, hogy húsz percig ecsetelné, milyen egy jó értekezleti jegyzőkönyv, kioszt két jól megírt mintát, és hagyja, hogy a résztvevők elsajátítsák azt. Ez a technika az egyik leghatékonyabb módszer arra, hogy pontos és konzisztens eredményeket érj el a Mistral modellekkel.

Az elv egyszerű: a modell a megadott példákra támaszkodva érti meg a várt formátumot, hangnemet, részletességi szintet és logikát, majd ezt a mintázatot reprodukálja a te kérésedre is. Egy jól megválasztott példa gyakran kivált egy egész bekezdésnyi magyarázatot – ráadásul jobban is teszi azt.

Zero-shot, one-shot, few-shot: az útmutatás három szintje

A szakterület szókincse a példák száma alapján három változatot különböztet meg. Zero-shot esetén utasítást adsz példák nélkül, és a modell kizárólag a saját tudására támaszkodik:

Classify the sentiment of this text as positive, neutral, or negative:
"Customer service was responsive but delivery was late."

A zero-shot működik egyszerű, gyakori feladatoknál, amelyekkel a modell ezerszer találkozott a betanítása során. A vállalkozásodra specifikus feladatoknál azonban gyakran elégtelen: a modell ugyan osztályozni fog, de nem feltétlenül a te kritériumaid szerint.

One-shot esetén egyetlen példa is elég lehet a modell irányításához. A példa mutatja a kimeneti formátumot és azt is, hogyan kell indokolni a választ:

Classify the sentiment and justify in one sentence.

Example:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.

To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:

Few-shot esetén több példa csökkenti a bizonytalanságot és erősíti a konzisztenciát. Ez különösen hasznos, amikor bőséggel akadnak szélsőséges esetek – mint ez a vegyes értékelés, amely pozitív és negatív pontokat is tartalmaz:

Classify the sentiment and justify in one sentence.

Example 1:
Text: "Excellent product, highly recommended!"
Sentiment: positive
Justification: Expression of enthusiasm and explicit recommendation.

Example 2:
Text: "The price is fair for what it is."
Sentiment: neutral
Justification: Factual evaluation without strong emotion.

Example 3:
Text: "Three weeks of waiting for a defective product."
Sentiment: negative
Justification: Delay issue combined with a quality defect.

To classify:
Text: "Customer service was responsive but delivery was late."
Sentiment:
Justification:

Három példával, amelyek lefedik a három kategóriát, a modell látta, hogyan néz ki az egyes esetek mindegyike, és ennek megfelelően kalibrálja a válaszát.

Few-shot megvalósítása a Mistral API-val

Szöveges promptban a példák egymásra halmozódnak, ahogy fent láttad. Az API-val azonban van egy tisztább módszer: használd a user és assistant szerepeket olyan mesterséges beszélgetések létrehozására, amelyek példaként szolgálnak. A nulláról építesz fel egy beszélgetési előzményt, ahol a modell „már“ tökéletesen válaszolt:

messages = [
    {
        "role": "system",
        "content": "You classify customer reviews. Respond only with the indicated format."
    },
    # Example 1
    {
        "role": "user",
        "content": "Classify: \"Excellent product, highly recommended!\""
    },
    {
        "role": "assistant",
        "content": "Sentiment: positive\nJustification: Expression of enthusiasm and explicit recommendation."
    },
    # Example 2
    {
        "role": "user",
        "content": "Classify: \"Three weeks of waiting for a defective product.\""
    },
    {
        "role": "assistant",
        "content": "Sentiment: negative\nJustification: Delay issue combined with a quality defect."
    },
    # Actual request
    {
        "role": "user",
        "content": "Classify: \"Customer service was responsive but delivery was late.\""
    }
]

A példák user/assistant üzenetként történő átadásával a modell sikeres beszélgetési előzményként kezeli őket, amelyet ugyanabban a szellemben kell folytatnia. Ezt a mintázatot kell előnyben részesítened, amint éles környezetbe kerülsz: a példák így elkülönülnek az adatoktól, és könnyen karbantarthatók, illetve bővíthetők.

Mikor alkalmazz few-shot-ot?

A few-shot négy típusú helyzetben nyújt kiemelkedő teljesítményt. Először is az egyedi osztályozásnál: amikor a kategóriáid nem szabványosak – például a cégedre specifikus belső jegytípusok –, nincs olyan leírás, ami felülmúlna néhány már osztályozott jegyet. Másodszor az adatkiegészítésnél, amikor a kimeneti formátum szervezetedre jellemző. Harmadszor a specifikus hangnemű írásnál: ha azt szeretnéd, hogy a modell átvegye a szerkesztési stílusodat, mutass neki két-három saját szöveget ahelyett, hogy melléknevekkel próbálnád leírni a stílusodat. Végül pedig az általánosan ambivalens feladatoknál: amint a szöveges leírás nem elég a kétségek eloszlatására, egy példa tisztázza a helyzetet.

Hány példát érdemes megadni?

Az optimális szám a feladat összetettségétől függ. Egy egyszerű, világos formátumú feladathoz – bináris osztályozás, egyetlen mező kinyerése – egy vagy két példa is elég. Több kategóriát vagy összetett formátumot igénylő feladatoknál számíts három-öt példára, ideális esetben kategóriánként egyre. Öt felett már nagyon specifikus feladatok territoryumába lépsz, vagy olyanokéba, amelyekben bőséggel vannak szélsőséges esetek, amelyeket explicit módon le kell fedni.

Tartsd azonban szem előtt a költségeket is: minden példa bemeneti tokeneket fogyaszt, a Mistral modelleknél pedig a bemeneti tokenek fizetősek. Egy osztályozó prompt, amelyet naponta tízezerszer hívnak meg nyolc felesleges példával, jelentősen többe kerül, mint ugyanaz három jól megválasztott példával, gyakran nulla minőségjavulás mellett. Találd meg az egyensúlyt a pontosság és a hatékonyság között.

Jó példák készítése

Néhány bevált gyakorlat a lezáráshoz. Változatosak legyenek a példáid, hogy lefedjék a lehetséges eseteket, beleértve a szélsőségeseket is: három csupa pozitív példa semmit nem tanít a negatív vélemények kezeléséről. Tartsd meg szigorúan ugyanazt a formátumot példáról példára – a szerkezet legkisebb eltérését is jelentősnek értelmezi a modell, és reprodukálni fogja. Használj realisztikus példákat, amelyek közel állnak a valós adataidhoz: egy modell, amelyet a valódi ügyfélvéleményeidre tanítottak, jobban fogja osztályozni a valódi ügyfélvéleményeidet, mintha csak tankönyvi frazisérokat látott volna. És mindig a tényleges kérést helyezd utoljára: a modell nagyobb figyelmet fordít a prompt elejére és végére.

Főbb megállapítások

  • A few-shot prompting példákon keresztül mutatja meg a modellnek, mit vársz tőle
  • Használd a user/assistant szerepeket példák létrehozásához a Mistral API-ban
  • A legtöbb esetben 1–5 példa elegendő
  • Változatos példák a különböző forgatókönyvek lefedésére, mindenhol azonos formátummal
  • A few-shot ideális osztályozáshoz, adatkiegészítéshez és specifikus formátumú íráshoz