Sodi un atkārtojumi
Šajā lapā
Cilpu un atkārtojumu novēršana
Viens no kaitinošākajiem valodu modeļu uzvedības veidiem ir atkārtošanās: modelis iestrēgst tajos pašos vārdos, teikumu struktūrās vai idejās. Tu lūdz padziļinātu rakstu, bet saņem trīs rindkopas, kas visas sākas ar „Turklāt”, un vārds „inovācija” parādās katrā rindā. Mistral modeļi piedāvā divus parametrus, lai cīnītos pret šo problēmu: klātbūtnes sodu (presence penalty) un biežuma sodu (frequency penalty). Tie izskatās līdzīgi, taču to darbības mehānismi atšķiras tik būtiski, ka viena izvēle otras vietā patiešām maina rezultātu.
Klātbūtnes sods (Presence Penalty)
Klātbūtnes sods ir vienreizējs sods, ko piemēro jebkuram tokenim, kas ģenerētajā atbildē jau parādījies vismaz vienu reizi. Nav svarīgi, vai tokens lietots vienu vai 50 reizes — sods paliek nemainīgs. Parametrs pieņem vērtības no -2,0 līdz 2,0, kur 0 ir noklusējuma vērtība (atspējots). Pozitīva vērtība mudina modeli lietot jaunus vārdus; negatīva vērtība, kas ir retāk sastopama, veicina to pašu vārdu atkārtotu lietošanu.
# Pozitīvs klātbūtnes sods: daudzveidīgāka vārdu krājuma lietošana
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Describe the benefits of remote work."}
],
presence_penalty=0.6
)
Praksē klātbūtnes sods ir ideāls, ja vēlies, lai modelis izpētītu plašāku vārdu krājumu un aptvertu dažādus temata aspektus. Iepriekš minētajā attālinātā darba piemērā tas virza modeli no stundu elastības uz korporatīvo nekustamo īpašumu un oglekļa pēdu, nevis trīs reizes atkārto argumentu par laika ietaupīšanu.
Biežuma sods (Frequency Penalty)
Savukārt biežuma sods ir kumulatīvs: tas pieaug katru reizi, kad tokens tiek atkārtoti lietots. Jo biežāk vārds parādās, jo lielāks sods tam tiek piemērots, padarot to daudz efektīvāku par klātbūtnes sodu, lai pārtrauktu cilpas. Tam ir tāds pats vērtību diapazons — no -2,0 līdz 2,0, kur 0 ir noklusējums.
# Biežuma sods: samazina bieži lietotu vārdu atkārtošanos
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Write a 300-word article on artificial intelligence."}
],
frequency_penalty=0.5
)
Tā optimālā pielietojuma joma ir garāki teksti, kuros modelim ir tendence atkārtot tos pašus vārdus vai struktūras. 300 vārdu raksts par mākslīgo intelektu bez soda riskē katrā teikumā „iekalt” vārdus „MI” un „tehnoloģija”; biežuma sods pakāpeniski piespiež modeli variēt savu valodu.
Atšķirība starp abiem sodiem
Lai saprastu nianses, aplūkosim skaitlisku piemēru. Modelis savā atbildē jau ir ģenerējis vārdu „inovācija” 5 reizes. Ar klātbūtnes sodu 0,5 apmērā vārds „inovācija” saņem sodu 0,5 — fiksētu, un 5 atkārtojumi neko nemaina. Ar biežuma sodu 0,5 apmērā tas pats vārds saņem sodu 2,5, proti, 0,5, reizināts ar tā 5 atkārtojumiem. Tādējādi biežuma sods ir daudz agresīvāks pret tokeniem, kas atgriežas bieži, savukārt klātbūtnes sods rada vieglu, vienmērīgu spiedienu uz visu, kas jau ir teikts.
Kad lietot katru sodu
Izmanto klātbūtnes sodu, ja mērķis ir tematiska daudzveidība. Smadzeņu vētras sesijā tev vajag desmit patiesi atšķirīgas idejas, nevis desmit pirmās idejas pārfrazējumus:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "List 10 digital marketing trends for 2026."}
],
presence_penalty=0.8,
temperature=0.7
)
Izmanto biežuma sodu, ja mērķis ir teksta plūstamība. Garā ceļvedī tas novērš valodas klīšu iesakņošanos, nesagrozot vēstījumu:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Write a comprehensive guide on agile project management."}
],
frequency_penalty=0.4,
temperature=0.5
)
Nekas neliedz abus parametrus kombinēt, lai panāktu kumulatīvu efektu — piemēram, radošs biļetens gūst labumu gan no daudzveidīga vārdu krājuma, gan no teksta bez atkārtojumiem:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Write a creative newsletter on tech trends."}
],
presence_penalty=0.3,
frequency_penalty=0.5,
temperature=0.6
)
Uzmanies no ekstrēmām vērtībām
Šie sodi nav slēdži, ko jāpagriež līdz maksimumam: pārāk augstas vērtības pasliktina kvalitāti, nevis uzlabo to. Pārsniedzot 1,0 klātbūtnes sodam, modelis sāk izvairīties no parastiem vārdiem, kas patiesībā ir nepieciešami — artikuliem, prievārdiem — un teksts kļūst dīvains. Pārsniedzot 1,0 biežuma sodam, tas piespiež lietot nepiemērotus sinonīmus, tikai lai izvairītos no atkārtošanās: „auto” pārvēršas par „automobili”, tad par „transportlīdzekli”, tad par „motorizētu transportlīdzekli” vienā un tajā pašā rindkopā. Kas attiecas uz negatīvām vērtībām, tās veicina atkārtošanos, kas reti ir vēlams. Praktiskais ieteikums: abiem parametriem paliec robežās no 0,0 līdz 0,8; pārsniedzot šo robežu, blakusparādības atsver ieguvumus.
Lai vadītu tevi pēc uzdevuma veida: ekstrakcija un klasifikācija notiek bez jebkāda soda (presence_penalty=0, frequency_penalty=0, jo precizitāte ir prioritāte); īsiem tekstiem līdz 200 vārdiem pietiek ar frequency_penalty=0.2; gariem tekstiem virs 500 vārdiem noder kombinēt presence_penalty=0.3 un frequency_penalty=0.5; smadzeņu vētrā dominē presence_penalty=0.6 un frequency_penalty=0.3; bet unikālu punktu sarakstam var kāpt līdz presence_penalty=0.8 ar frequency_penalty=0.2.
Galvenās atziņas
- Klātbūtnes sods veicina jaunu vārdu lietošanu (fiksēts sods)
- Biežuma sods attur no bieži lietotu vārdu atkārtošanas (kumulatīvs sods)
- Abi parametri darbojas diapazonā no -2,0 līdz 2,0, kur 0 ir noklusējums
- Paliec robežās no 0,0 līdz 0,8, lai izvairītos no nevēlamām blakusparādībām
- Izmanto klātbūtnes sodu tematiskai daudzveidībai, bet biežuma sodu teksta plūstamībai