Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Penalizace a opakování

Lekce 11 z 16 Aktualizováno 28. července 2026 Začátečník
Na této stránce
  1. Jak se vyhnout smyčkám a opakování
  2. Penalizace za přítomnost (Presence Penalty)
  3. Penalizace za četnost (Frequency Penalty)
  4. Rozdíl mezi oběma penalizacemi
  5. Kdy kterou penalizaci použít
  6. Pozor na extrémní hodnoty
  7. Klíčové poznatky

Jak se vyhnout smyčkám a opakování

Jedním z nejfrustrujících chování jazykových modelů je opakování: model se zasekne ve smyčce stejných slov, větných struktur nebo myšlenek. Požádáš ho o obsáhlý článek a dostaneš tři odstavce, které všechny začínají slovem „Dále“, přičemž se na každém řádku objeví slovo „inovace“. Modely Mistral nabízejí dva parametry pro boj s tímto jevem: penalizaci za přítomnost (presence penalty) a penalizaci za četnost (frequency penalty). Na první pohled vypadají podobně, ale jejich mechanismy se natolik liší, že volba jednoho či druhého skutečně mění výsledný výstup.

Penalizace za přítomnost (Presence Penalty)

Penalizace za přítomnost je jednorázová sankce aplikovaná na jakýkoli token, který se již v generované odpovědi alespoň jednou objevil. Nezáleží na tom, zda byl token použit jednou, nebo padesátkrát: penalizace je stejná. Tento parametr přijímá hodnoty od -2,0 do 2,0, přičemž výchozí hodnota je 0 (vypnuto). Kladná hodnota povzbuzuje model k používání nových slov; záporná hodnota, což je vzácnější, ho naopak nabádá k opakovanému používání těch stejných.

# Positive presence penalty: more varied vocabulary
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Describe the benefits of remote work."}
    ],
    presence_penalty=0.6
)

V praxi je penalizace za přítomnost ideální, když chceš, aby model prozkoumal širší slovní zásobu a pokryl různé aspekty daného tématu. V上述 příkladu týkajícím se práce na dálku to model donutí přejít od flexibility pracovní doby přes firemní nemovitosti až po uhlíkovou stopu, místo aby třikrát omílal argument o úspoře času.

Penalizace za četnost (Frequency Penalty)

Penalizace za četnost je naopak kumulativní: zvyšuje se pokaždé, když je token znovu použit. Čím častěji se slovo objeví, tím vyšší je jeho penalizace, což činí tento parametr výrazně efektivnějším než penalizace za přítomnost při lámání smyček. Sdílejí stejný rozsah hodnot od -2,0 do 2,0, s výchozí hodnotou 0.

# Frequency penalty: reduces repetition of frequent words
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Write a 300-word article on artificial intelligence."}
    ],
    frequency_penalty=0.5
)

Jejich ideální využití: dlouhé texty, kde má model tendenci opakovat stejná slova nebo struktury. Článek o 300 slovech na téma umělé inteligence bez penalizace riskuje, že bude v každé větě mlátit do hlavy slova „AI“ a „technologie“; penalizace za četnost model postupně donutí jazyk obměňovat.

Rozdíl mezi oběma penalizacemi

Abys pochopil nuance, podívejme se na číselný příklad. Model již ve své odpovědi pětkrát vygeneroval slovo „inovace“. Při penalizaci za přítomnost 0,5 obdrží slovo „inovace“ penalizaci 0,5 – fixní, pět výskytů nic nemění. Při penalizaci za četnost 0,5 obdrží stejné slovo penalizaci 2,5, tedy 0,5 vynásobeno jeho pěti výskyty. Penalizace za četnost je tedy mnohem agresivnější vůči tokenům, které se často vracejí, zatímco penalizace za přítomnost vyvíjí jemný, rovnoměrný tlak na vše, co již bylo řečeno.

Kdy kterou penalizaci použít

Použij penalizaci za přítomnost, když je cílem tematická rozmanitost. Při brainstormingu chceš deset skutečně odlišných nápadů, nikoli deset přeformulování toho prvního:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "List 10 digital marketing trends for 2026."}
    ],
    presence_penalty=0.8,
    temperature=0.7
)

Použij penalizaci za četnost, když je cílem plynulost textu. U dlouhého průvodce zabrání zažití jazykových nešvarů, aniž by zkreslila sdělení:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Write a comprehensive guide on agile project management."}
    ],
    frequency_penalty=0.4,
    temperature=0.5
)

Nic ti nebrání oba parametry kombinovat pro kumulativní efekt – kreativní newsletter například těží jak z pestré slovní zásoby, tak z textu bez opakování:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Write a creative newsletter on tech trends."}
    ],
    presence_penalty=0.3,
    frequency_penalty=0.5,
    temperature=0.6
)

Pozor na extrémní hodnoty

Tyto penalizace nejsou knoflíky, které bychom měli točit na maximum: příliš vysoké hodnoty spíše degradují kvalitu, než aby ji zlepšovaly. Nad hodnotou 1,0 u penalizace za přítomnost začne model vyhýbat běžným slovům, která jsou ve skutečnosti nezbytná – členům, předložkám – a text se stane podivným. Nad hodnotou 1,0 u penalizace za četnost model vynucuje nevhodná synonyma jen proto, aby se neopakoval: „auto“ se změní na „automobil“, pak na „vozidlo“ a následně na „motorové vozidlo“ v rámci téhož odstavce. Co se týče záporných hodnot, ty opakování podporují, což je jen zřídka žádoucí. Praktické doporučení: u obou parametrů se drž v rozmezí 0,0 až 0,8; nad touto hranicí převažují vedlejší účinky nad přínosy.

Pro orientaci podle úkolu: extrakce a klasifikace probíhají bez jakékoli penalizace (presence_penalty=0, frequency_penalty=0, na prvním místě je přesnost); krátké psaní do 200 slov si vystačí s frequency_penalty=0.2; dlouhé psaní nad 500 slov těží z kombinace presence_penalty=0.3 a frequency_penalty=0.5; brainstorming obrací dominanci na presence_penalty=0.6 a frequency_penalty=0.3; a seznam jedinečných bodů jde až na presence_penalty=0.8 s frequency_penalty=0.2.

Klíčové poznatky

  • Penalizace za přítomnost podporuje používání nových slov (fixní penalizace)
  • Penalizace za četnost odrazuje od opakování častých slov (kumulativní penalizace)
  • Obě parametry mají rozsah od -2,0 do 2,0, s výchozí hodnotou 0
  • Pro vyhnutí se nežádoucím efektům se drž v rozmezí 0,0 až 0,8
  • Použij penalizaci za přítomnost pro tematickou rozmanitost, penalizaci za četnost pro plynulost textu