Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Presence ja Frequency trahvid

Õppetund 14 / 16 Värskendatud 2. november 2026 Arendajatele
Sellel lehel
  1. Korduste vältimine
  2. Presence Penalty: fikseeritud trahv
  3. Frequency Penalty: kumulatiivne trahv
  4. Konfiguratsioonid eesmärgi järgi
  5. Diagnoosi enne häälestamist
  6. Kaks viisi, kuidas kõik ära rikkuda
  7. Peamised punktid

Korduste vältimine

Keelemudelitel on loomulik kalduvus ennast korrata. See avaldub kolmel äratuntaval viisil: sama sõna kordumine lõigus, identsete lausestruktuuride kordumine reast ritta või tervete lõikude ümber sõnastamine ilma uut teavet lisamata. Temperatuur seda ei paranda – globaalse juhuslikkuse suurendamine halvendab sidusust, tagamata seejuures leksikaalset mitmekesisust. Parameetrid presence_penalty ja frequency_penalty pakuvad palju peenemat kontrolli, eeldusel, et mõistad nende erinevust.

Presence Penalty: fikseeritud trahv

Presence penalty rakendab ühekordset, fikseeritud trahvi igale tokenile, mis on genereeritud vastuses esinenud vähemalt korra. Pole tähtis, kas tokenit kasutati üks kord või viisteist korda – trahv jääb samaks. Selle eesmärk on sundida mudelit kasutama sõnu, mida ta veel pole kasutanud, laiendades sellega vastuse sõnavara. Küsi kümnet omadussõna mere kirjeldamiseks ja näed erinevust kohe – ilma trahvita kaldub variatsioon ringutama kolme-nelja semantilise välja ümber.

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

# No penalty — the model may repeat itself
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "List 10 adjectives to describe the sea."}],
    presence_penalty=0.0
)
print("No penalty:", response.choices[0].message.content)

# With presence penalty — encourages vocabulary diversity
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "List 10 adjectives to describe the sea."}],
    presence_penalty=1.0
)
print("With penalty:", response.choices[0].message.content)

Parameeter aktsepteerib väärtusi vahemikus -2.0 kuni 2.0, vaikimisi on 0.0. Positiivne väärtus karistab juba nähtud tokeneid, tekitades suuremat mitmekesisust; negatiivne väärtus teeb vastupidist ja soosib kordamist, mis on kasulik vaid väga spetsiifilistel juhtudel, nagu refräänide või korduvate valemite genereerimine. Toote keskkonnas püsi vahemikus 0.0 kuni 1.5.

Frequency Penalty: kumulatiivne trahv

Frequency penalty toimib teistmoodi: trahv on kumulatiivne ja kasvab koos tokeni esinemiste arvuga. Mida rohkem sõna korratakse, seda ebatõenäolisemaks see järgmisel korral muutub. Kui presence penalty avardab sõnavara, siis see aeglustab järk-järgult liiga sageli korduvaid sõnu, muutes selle eriti tõhusaks pikkades tekstides tekkivate tsüklite vastu.

# No frequency penalty
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Write a paragraph about artificial intelligence."}],
    frequency_penalty=0.0
)
print("No penalty:", response.choices[0].message.content)

# With frequency penalty — reduces very frequent tokens
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Write a paragraph about artificial intelligence."}],
    frequency_penalty=0.8
)
print("With penalty:", response.choices[0].message.content)

Nagu eelminegi, jääb see vahemikku -2.0 kuni 2.0 vaikimisi 0.0-ga, kusjuures positiivne väärtus karistab sagedasi tokeneid üha enam. Selle kasulik vahemik toote keskkonnas on siiski kitsam: 0.0 kuni 1.0, sest oma kumulatiivse olemuse tõttu on see samadel väärtustel agressiivsem.

Järgnev tabel võtab kokku nende erinevused.

OmadusPresence penaltyFrequency penalty
Käivitumine1. esinemiselIgal esinemisel
KasvFikseeritud (sama trahv)Kumulatiivne (suureneb)
MõjuSõnavara mitmekesisusVähendab kordusi
Parim kasutusUute teemade avastamineSõnakorduste vältimine

Konfiguratsioonid eesmärgi järgi

Praktikas häälestad neid kahte parameetrit koos temperatuuriga, sõltuvalt sellest, mida sinu rakendus toodab. Vestlusrobot vajab kerget mitmekesisust ja korduste puudumist, mitte midagi enamat. loominguline kirjutamine tõstab presence penalty väärtust sõnavara rikastamiseks, hoides samal ajal frequency penalty mõõdukana. Andmete ekstraheerimine seevastu lülitab mõlemad välja: seal on kordumine õigustatud ja sama väljanimi võib vajada kümnekordset esinemist. Kokkuvõtete tegemine asub kuskil vahepeal, kasutades piisavalt trahvi, et vältida lähteteksti kopeerimist.

# Chatbot — slight diversity, no repetitions
CONFIG_CHATBOT = {
    "temperature": 0.7,
    "presence_penalty": 0.3,
    "frequency_penalty": 0.3
}

# Creative writing — rich vocabulary, no loops
CONFIG_CREATIF = {
    "temperature": 0.9,
    "presence_penalty": 0.8,
    "frequency_penalty": 0.5
}

# Data extraction — no penalties (exact response)
CONFIG_EXTRACTION = {
    "temperature": 0.0,
    "presence_penalty": 0.0,
    "frequency_penalty": 0.0
}

# Summary — some diversity to avoid copy-paste
CONFIG_RESUME = {
    "temperature": 0.3,
    "presence_penalty": 0.2,
    "frequency_penalty": 0.4
}

Diagnoosi enne häälestamist

Nende parameetrite kõrvakuulmise järgi häälestamine viib kiiresti meelevaldsete kohandusteni. Mõõda selle asemel. Allpool olev funktsioon arvutab mitmekesisuse suhte – unikaalsed sõnad jagatud sõnade koguarvuga – ja eraldab üle kolme tähe pikkused sõnad, mis esinevad rohkem kui kaks korda, filtreerides välja artiklid ja eessõnad, mille kordumine on normaalne. Käivita see sama vihje jaoks kolme erineva frequency_penalty väärtusega ja näed, kuidas suhe kasvab ning seejärel stabiliseerub: see platoo märgib väärtust, millest kõrgemale minnes enam kasu ei saa.

def analyze_repetition(text: str) -> dict:
    """Analyzes the repetition rate of generated text."""
    words = text.lower().split()
    total = len(words)
    unique = len(set(words))

    # Count words that appear more than 2 times
    from collections import Counter
    counts = Counter(words)
    repeated = {w: c for w, c in counts.items() if c > 2 and len(w) > 3}

    return {
        "total_words": total,
        "unique_words": unique,
        "diversity_ratio": round(unique / total, 3) if total > 0 else 0,
        "repeated_words": dict(sorted(repeated.items(), key=lambda x: -x[1])[:10])
    }

# Test with and without penalties
for fp in [0.0, 0.5, 1.0]:
    response = client.chat.complete(
        model="mistral-large-latest",
        messages=[{"role": "user", "content": "Write a long paragraph about renewable energy."}],
        max_tokens=500,
        frequency_penalty=fp
    )
    text = response.choices[0].message.content
    stats = analyze_repetition(text)
    print(f"frequency_penalty={fp} | Diversity: {stats['diversity_ratio']} | Repeated: {stats['repeated_words']}")

Kaks viisi, kuidas kõik ära rikkuda

Esimene on liiga kõrgele minek. Üle 1.5 hakkab mudel vältima levinud sõnu nii palju, et asendab need sobimatute alternatiividega: tekst muutub katkendlikuks ja täis väärkasutatud haruldasi termineid. Pythagorase teoreemi selgitamisel takistavad trahvid väärtusega 2.0 mudelil kordamast sõnu „külg“ ja „kolmnurk“ – just neid sõnu tõestus vajab.

# BAD — penalty too strong
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Explain the Pythagorean theorem."}],
    presence_penalty=2.0,
    frequency_penalty=2.0
)
# Result: disjointed text, misused rare words

Teine viga on kõrgete trahvide kombineerimine kõrge temperatuuriga. Iga mehhanism lisab oma osa juhuslikkust samasse valikuprotsessi ja nende kattumine toodab peaaegu juhuslikku teksti. Nagu temperature ja top_p puhulgi, seisneb distsipliin ühe parameetri korraga kohandamises.

# AVOID — too much randomness
{"temperature": 1.5, "presence_penalty": 1.5, "frequency_penalty": 1.5}

# CORRECT — adjust one parameter at a time
{"temperature": 0.7, "presence_penalty": 0.5, "frequency_penalty": 0.3}

Peamised punktid

  • Presence penalty: fikseeritud trahv, kui token on nähtud – avardab sõnavara
  • Frequency penalty: sagedusega võrdeline kumulatiivne trahv – võitleb tsüklite vastu
  • Mõlema vahemik on -2.0 kuni 2.0, vaikimisi 0.0
  • Püsi enamikul juhtudel toote keskkonnas vahemikus 0.0 kuni 1.0
  • Ära kombineeri kõrgeid väärtusi kõrge temperatuuriga
  • Lülita trahvid välja ekstraheerimisel ja klassifitseerimisel (kus kordumine on vastuvõetav)