Kazni in ponavljanja
Na tej strani
Izogibanje zankam in ponavljanjem
Eno najbolj frustrirajočih vedenj jezikovnega modela je ponavljanje: model se zavrti v zanko istih besed, stavčnih struktur ali idej. Prosiš za poglobljen članek, dobiš pa tri odstavke, ki se vsi začnejo z „Poleg tega”, pri čemer se beseda „inovacija” pojavi v vsaki vrstici. Modeli Mistral ponujajo dva parametra za boj proti temu: kazen za prisotnost (presence penalty) in kazen za pogostost (frequency penalty). Videti sta si podobna, vendar se njuna mehanika dovolj razlikuje, da izbira enega namesto drugega dejansko spremeni izhod.
Kazen za prisotnost (Presence Penalty)
Kazen za prisotnost je enkratna kazen, ki se uporabi za vsak žeton (token), ki se je v generiranem odgovoru pojavil vsaj enkrat. Ni pomembno, ali je bil žeton uporabljen enkrat ali 50-krat: kazen je enaka. Parameter sprejema vrednosti od -2,0 do 2,0, pri čemer je 0 privzeta vrednost (onemogočeno). Pozitivna vrednost spodbudi model k uporabi novih besed; negativna vrednost, kar je redkeje, ga spodbudi k ponovni uporabi istih.
# Positive presence penalty: more varied vocabulary
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Describe the benefits of remote work."}
],
presence_penalty=0.6
)
V praksi je kazen za prisotnost idealna, ko želiš, da model razišče širši besednjak in zajame različne vidike teme. V zgornjem primeru dela na daljavo model usmeri od urne prilagodljivosti do poslovnih nepremičnin in ogljičnega odtisa, namesto da bi trikrat ponovil argument o prihranku časa.
Kazen za pogostost (Frequency Penalty)
Kazen za pogostost je po drugi strani kumulativna: povečuje se vsakič, ko se žeton ponovno uporabi. Pogosteje kot se beseda pojavi, večja je kazen, zaradi česar je ta parameter bistveno učinkovitejši od kazni za prisotnost pri prekinjanju zank. Deli isto vrednostno območje, od -2,0 do 2,0, pri čemer je 0 privzeta vrednost.
# Frequency penalty: reduces repetition of frequent words
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Write a 300-word article on artificial intelligence."}
],
frequency_penalty=0.5
)
Njegovo optimalno območje so dolga besedila, kjer model teži k ponavljanju istih besed ali struktur. 300-besedni članek o umetni inteligenci brez kazni tvega, da bo v vsakem stavku „kladal” besedi „AI” in „tehnologija”; kazen za pogostost model postopoma prisili k variiranju jezika.
Razlika med obema kaznima
Za razumevanje nianse si oglejmo številski primer. Model je v svojem odgovoru že petkrat generiral besedo „inovacija”. Pri kazni za prisotnost 0,5 prejme „inovacija” kazen 0,5 – fiksno, pet pojavov ničesar ne spremeni. Pri kazni za pogostost 0,5 pa ista beseda prejme kazen 2,5, kar je 0,5 pomnoženo s petimi pojavi. Kazen za pogostost je torej veliko bolj agresivna do žetonov, ki se pogosto vračajo, medtem ko kazen za prisotnost izvaja blag, enakomeren pritisk na vse, kar je bilo že povedano.
Kdaj uporabiti katero kazen
Kazen za prisotnost uporabi, ko je cilj tematska raznolikost. Na seji za generiranje idej želiš deset resnično različnih idej, ne desetih preoblikovanj prve:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "List 10 digital marketing trends for 2026."}
],
presence_penalty=0.8,
temperature=0.7
)
Kazen za pogostost uporabi, ko je cilj tekočnost besedila. Pri dolgem vodniku prepreči, da bi se ujezikovne navade zasidrale, ne da bi izkrivljale sporočilo:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Write a comprehensive guide on agile project management."}
],
frequency_penalty=0.4,
temperature=0.5
)
Nič ti ne preprečuje, da bi oba parametra združil za kumulativni učinek – ustvarjalno e-pismo ima na primer korist tako od variiranega besednjaka kot od besedila brez ponavljanj:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Write a creative newsletter on tech trends."}
],
presence_penalty=0.3,
frequency_penalty=0.5,
temperature=0.6
)
Pozor na ekstremne vrednosti
Te kazni niso gumbi, ki bi jih zavrtel do konca: previsoke vrednosti poslabšajo kakovost namesto, da bi jo izboljšale. Pri kazni za prisotnost nad 1,0 model začne avoidirati običajne besede, ki so dejansko potrebne – členke, predloge – in besedilo postane čudno. Pri kazni za pogostost nad 1,0 prisili uporabo neustreznih sopomenk samo zato, da se izogne ponavljanju: „avto” postane „avtomobil”, nato „vozilo”, nato „motorno vozilo” v istem odstavku. Kar zadeva negativne vrednosti, te spodbujajo ponavljanje, kar je redko zaželeno. Praktično priporočilo: ostani v območju od 0,0 do 0,8 za oba parametra; onkraj tega stranski učinki prevladajo nad koristmi.
Za lažje usmerjanje glede na nalogo: ekstrakcija in klasifikacija potekata brez kakršne koli kazni (presence_penalty=0, frequency_penalty=0, prednost ima natančnost); kratko pisanje pod 200 besedami zadostuje z frequency_penalty=0.2; dolgo pisanje nad 500 besedami ima korist od kombinacije presence_penalty=0.3 in frequency_penalty=0.5; generiranje idej obrne prevlado na presence_penalty=0.6 in frequency_penalty=0.3; seznam edinstvenih točk pa gre do presence_penalty=0.8 z frequency_penalty=0.2.
Ključne ugotovitve
- Kazen za prisotnost spodbuja uporabo novih besed (fiksna kazen)
- Kazen za pogostost odvrača od ponavljanja pogostih besed (kumulativna kazen)
- Ob parametra imata obseg od -2,0 do 2,0, pri čemer je 0 privzeta vrednost
- Ostani v območju od 0,0 do 0,8, da se izogneš neželenim učinkom
- Uporabi kazen za prisotnost za tematsko raznolikost, kazen za pogostost pa za tekočnost besedila