Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Penalizácie a opakovania

Lekcia 11 z 16 Aktualizované 28. júla 2026 Začiatočník
Na tejto strane
  1. Ako sa vyhnúť slučkám a opakovaniam
  2. Penalizácia prítomnosti (Presence Penalty)
  3. Penalizácia frekvencie (Frequency Penalty)
  4. Rozdiel medzi oboma penalizáciami
  5. Kedy použiť ktorú penalizáciu
  6. Pozor na extrémne hodnoty
  7. Kľúčové poznatky

Ako sa vyhnúť slučkám a opakovaniam

Jedným z najfrustrujúcejších prejavov jazykového modelu je opakovanie: model sa zasekne v slučke na rovnakých slovách, štruktúrach viet alebo myšlienkach. Požiadaš o hĺbkový článok a dostaneš tri odseky, ktoré sa všetky začínajú slovom „Ďalej“, pričom slovo „inovácia“ sa objaví v každom riadku. Modely Mistral ponúkajú dva parametre na boj proti tomuto javu: penalizáciu prítomnosti (presence penalty) a penalizáciu frekvencie (frequency penalty). Hoci vyzerajú podobne, ich mechanizmy sa líšia natoľko, že výber jedného z nich skutočne mení výsledný výstup.

Penalizácia prítomnosti (Presence Penalty)

Penalizácia prítomnosti je jednorazová sankcia aplikovaná na každý token, ktorý sa vo vygenerovanej odpovedi objavil aspoň raz. Nezáleží na tom, či bol token použitý raz alebo 50-krát: penalizácia je rovnaká. Parameter prijíma hodnoty od -2,0 do 2,0, pričom predvolená hodnota je 0 (vypnuté). Kladná hodnota povzbudzuje model, aby používal nové slová; záporná hodnota, čo je zriedkavejšie, ho naopak nabáda k opätovnému použitiu tých istých.

# Positive presence penalty: more varied vocabulary
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Describe the benefits of remote work."}
    ],
    presence_penalty=0.6
)

V praxi je penalizácia prítomnosti ideálna, keď chceš, aby model preskúmal širšiu slovnú zásobu a pokryl rôzne aspekty témy. V vyššie uvedenom príklade práce na diaľku to model nasmeruje od hodinovej flexibility cez firemné nehnuteľnosti až po uhlíkovú stopu, namiesto toho, aby trikrát omieľal argument o úspore času.

Penalizácia frekvencie (Frequency Penalty)

Penalizácia frekvencie je naopak kumulatívna: zvyšuje sa zakaždým, keď sa token opätovne použije. Čím častejšie sa slovo objaví, tým vyššia je jeho penalizácia, čo ju robí výrazne účinnejšou pri prerúšaní slučiek než penalizáciu prítomnosti. Zdieľa rovnaký rozsah hodnôt od -2,0 do 2,0, pričom predvolená hodnota je 0.

# Frequency penalty: reduces repetition of frequent words
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Write a 300-word article on artificial intelligence."}
    ],
    frequency_penalty=0.5
)

Jej ideálne využitie: dlhé texty, kde má model tendenciu opakovať tie isté slová alebo štruktúry. Článok o umelej inteligencii s rozsahom 300 slov bez penalizácie riskuje, že v každej vete bude bušiť do slov „AI“ a „technológia“; penalizácia frekvencie model postupne núti meniť vyjadrovanie.

Rozdiel medzi oboma penalizáciami

Aby si pochopil nuansy, pozrime sa na číselný príklad. Model už vo svojej odpovedi vygeneroval slovo „inovácia“ 5-krát. Pri penalizácii prítomnosti 0,5 dostane slovo „inovácia“ penalizáciu 0,5 – fixnú, pričom 5 výskytov nič nemení. Pri penalizácii frekvencie 0,5 dostane to isté slovo penalizáciu 2,5, čo je 0,5 vynásobené jeho 5 výskytmi. Penalizácia frekvencie je teda oveľa agresívnejšia voči tokenom, ktoré sa často vracajú, zatiaľ čo penalizácia prítomnosti vyvíja mierny, rovnomerný tlak na všetko, čo už bolo povedané.

Kedy použiť ktorú penalizáciu

Použi penalizáciu prítomnosti, keď je cieľom tematická rozmanitosť. Počas brainstormingu chceš desať skutočne odlišných nápadov, nie desať preformulovaní toho prvého:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "List 10 digital marketing trends for 2026."}
    ],
    presence_penalty=0.8,
    temperature=0.7
)

Použi penalizáciu frekvencie, keď je cieľom plynulosť textu. Pri dlhom sprievodcovi zabraňuje usadzovaniu jazykových zlozvykov bez skreslenia správy:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Write a comprehensive guide on agile project management."}
    ],
    frequency_penalty=0.4,
    temperature=0.5
)

Nič ti nebráni kombinovať obe pre kumulatívny efekt – kreatívny newsletter napríklad profituje z pestrej slovnej zásoby aj z textu bez opakovaní:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Write a creative newsletter on tech trends."}
    ],
    presence_penalty=0.3,
    frequency_penalty=0.5,
    temperature=0.6
)

Pozor na extrémne hodnoty

Tieto penalizácie nie sú gombíky, ktoré treba vytočiť na maximum: príliš vysoké hodnoty zhoršujú kvalitu namiesto toho, aby ju zlepšovali. Nad hodnotou 1,0 pri penalizácii prítomnosti začne model vyhýbať bežným slovám, ktoré sú v skutočnosti potrebné – členom, predložkám – a text sa stáva zvláštnym. Nad hodnotou 1,0 pri penalizácii frekvencie núti model používať nevhodné synonymá len preto, aby sa neopakoval: „auto“ sa stane „automobilom“, potom „vozidlom“ a následne „motorovým vozidlom“ v rámci toho istého odseku. Čo sa týka záporných hodnôt, tie podporujú opakovanie, čo je zriedkavo žiaduce. Praktické odporúčanie: pre oba parametre sa drž v rozmedzí 0,0 až 0,8; nad touto hranicou vedľajšie účinky prevyšujú prínosy.

Ako vodítko podľa úlohy: extrakcia a klasifikácia prebiehajú bez akejkoľvek penalizácie (presence_penalty=0, frequency_penalty=0, na prvom mieste je presnosť); krátke písanie do 200 slov vystačí s frequency_penalty=0.2; dlhé písanie nad 500 slov profituje z kombinácie presence_penalty=0.3 a frequency_penalty=0.5; brainstorming obracia dominanciu na presence_penalty=0.6 a frequency_penalty=0.3; a zoznam jedinečných bodov ide až na presence_penalty=0.8 s frequency_penalty=0.2.

Kľúčové poznatky

  • Penalizácia prítomnosti podporuje používanie nových slov (fixná penalizácia)
  • Penalizácia frekvencie odrádza od opakovania častých slov (kumulatívna penalizácia)
  • Oba parametre majú rozsah od -2,0 do 2,0, pričom predvolená hodnota je 0
  • Aby si sa vyhol nežiaducim efektom, drž sa v rozmedzí 0,0 až 0,8
  • Použi penalizáciu prítomnosti pre tematickú rozmanitosť a penalizáciu frekvencie pre plynulosť textu