Pionóis Uaineachta agus Minicíochta
Ar an leathanach seo
Ag Cur i gCoinne Athrá
Tá claonadh nádúrtha ag samhlacha teanga athrá a dhéanamh. Feictear é seo ar thrí bhealach inaitheanta: an focal céanna ag dul i lúb trí pharagraf, struchtúir chomhionanna abairte ag athrú líne ar líne, nó paragraif iomlána á bhfrásáil arís gan faisnéis nua a chur leis. Ní réitíonn an teocht é seo – má mhéadaíonn tú an randamacht ghinearálta, laghdaítear an chomhleanúnachas gan éagsúlacht léicsiceach a ráthú. Tugann na paraiméadair presence_penalty agus frequency_penalty smacht i bhfad níos fearr duit, ar choinníoll go dtuigeann tú an difríocht eatarthu.
Pionós Uaineachta: Pionós Seasta
Cuirtear an pionós uaineachta i bhfeidhm mar phionós aonair, seasta ar gach token a bhfuil cuma air uair amháin ar a laghad sa fhreagra ginte. Ní dhéanann sé difríocht cibé an úsáideadh an token uair amháin nó cúig huaire déag – fanann an pionós mar an gcéanna. Is é an éifeacht atá air ná spreagadh a thabhairt don tsamhail tarraingt as focail nach bhfuil úsáidte aici fós, rud a leathnaíonn stór focal na freagra. Iarr deich aidiacht chun cur síos a dhéanamh ar an bhfarraige agus feicfidh tú an difríocht láithreach – gan phionós, bíonn claonadh ag athruithe timpeall trí nó ceithre réimse seimeantacha a rothlú.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
# No penalty — the model may repeat itself
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "List 10 adjectives to describe the sea."}],
presence_penalty=0.0
)
print("No penalty:", response.choices[0].message.content)
# With presence penalty — encourages vocabulary diversity
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "List 10 adjectives to describe the sea."}],
presence_penalty=1.0
)
print("With penalty:", response.choices[0].message.content)
Glacann an paraiméadar le luachanna ó -2.0 go 2.0, le 0.0 mar réamhshocrú. Cruthaíonn luach dearfach pionós do thokenanna a chonaic tú cheana agus mar sin bíonn níos mó éagsúlachta ann; déanann luach diúltach an rud contrártha agus fabhraíonn sé athrá, rud atá úsáideach i gcásanna an-shonracha amháin cosúil le córais a ghiniúint nó foirmlí arís agus arís eile. Sa táirgeadh, fan sa raon 0.0 go 1.5.
Pionós Minicíochta: Pionós Carnach
Oibríonn an pionós minicíochta go difriúil: tá an pionós carnach agus fásann sé de réir líon na n-uaireanta a fheictear an token. Dá mhéad a athraítear focal, is lú an seans go roghnófar é ar an gcéad uair eile. Áit a leathnaíonn an pionós uaineachta an stór focal, moillaíonn an ceann seo focail a thagann ar ais ró-mhinic go forásach, rud a fhágann go bhfuil sé thar a bheith éifeachtach i gcoinne lúba i dtéacsanna fada.
# No frequency penalty
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Write a paragraph about artificial intelligence."}],
frequency_penalty=0.0
)
print("No penalty:", response.choices[0].message.content)
# With frequency penalty — reduces very frequent tokens
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Write a paragraph about artificial intelligence."}],
frequency_penalty=0.8
)
print("With penalty:", response.choices[0].message.content)
Cosúil leis an gceann roimhe, raon ó -2.0 go 2.0 atá ann le 0.0 mar réamhshocrú, agus pionósann luach dearfach tokenanna miniceacha níos mó de réir a chéile. Tá an raon úsáideach sa táirgeadh níos cúinge, áfach: 0.0 go 1.0, toisc go bhfuil a nádúr carnach níos ionsaithí ag luachanna comhionanna.
Tá an tábla seo a leanas ag achoimriú na ndifríochtaí eatarthu.
| Gné | Pionós uaineachta | Pionós minicíochta |
|---|---|---|
| Spreagadh | Ar an 1ú huaire | Ar gach uair |
| Fás | Seasta (an pionós céanna) | Carnach (méadaíonn) |
| Éifeacht | Éagsúlacht stór focal | Laghdaíonn athrá |
| Is fearr do | Ábhair nua a iniúchadh | Lúba focail a sheachaint |
Cumraíochtaí de réir Rún
Go praiticiúil, déanann tú tiúnadh ar an dá pharaiméadar seo in éineacht leis an teocht, ag brath ar an méid a tháirgeann d’iarratas. Ní theastaíonn ach beagán éagsúlachta agus gan athrá ó chatbot, rud ar bith eile. Brúnn scríbhneoireacht chruthaitheach an pionós uaineachta chun an stór focal a shaibhriú agus an pionós minicíochta a choinneáil measartha. Ar an láimh eile, díchumasaíonn eastóscadh sonraí an dá cheann: tá athrá dlisteanach ann, agus b’fhéidir go mbeidh gá leis an ainm réimse céanna a bheith le feiceáil deich n-uaire. Suíonn achoimriú idir eatarthu, le díreach go leor pionóis chun cóipeáil-greamú den téacs foinseach a sheachaint.
# Chatbot — slight diversity, no repetitions
CONFIG_CHATBOT = {
"temperature": 0.7,
"presence_penalty": 0.3,
"frequency_penalty": 0.3
}
# Creative writing — rich vocabulary, no loops
CONFIG_CREATIF = {
"temperature": 0.9,
"presence_penalty": 0.8,
"frequency_penalty": 0.5
}
# Data extraction — no penalties (exact response)
CONFIG_EXTRACTION = {
"temperature": 0.0,
"presence_penalty": 0.0,
"frequency_penalty": 0.0
}
# Summary — some diversity to avoid copy-paste
CONFIG_RESUME = {
"temperature": 0.3,
"presence_penalty": 0.2,
"frequency_penalty": 0.4
}
Déan Diagnóis Sula ndéanann tú Tiúnadh
Má dhéanann tú tiúnadh ar na paraiméadair seo de réir éisteachta, is minic a bhíonn coigeartuithe treallacha mar thoradh air. Ina ionad sin, déan tomhas. Ríomhann an fheidhm thíos cóimheas éagsúlachta – focail uathúla thar fhocail iomlána – agus aonraíonn sí focail atá níos faide ná trí litir a fheictear níos mó ná dhá uair, rud a scagann amach ailt agus réamhfhocail a bhfuil a n-athrá gnáth. Rith é ar an leid céanna le trí luach frequency_penalty agus feicfidh tú an cóimheas ag ardú, agus ansin ag cothromú: léiríonn an cothromú sin an luach thar nach mbainfidh tú aon rud eile amach.
def analyze_repetition(text: str) -> dict:
"""Analyzes the repetition rate of generated text."""
words = text.lower().split()
total = len(words)
unique = len(set(words))
# Count words that appear more than 2 times
from collections import Counter
counts = Counter(words)
repeated = {w: c for w, c in counts.items() if c > 2 and len(w) > 3}
return {
"total_words": total,
"unique_words": unique,
"diversity_ratio": round(unique / total, 3) if total > 0 else 0,
"repeated_words": dict(sorted(repeated.items(), key=lambda x: -x[1])[:10])
}
# Test with and without penalties
for fp in [0.0, 0.5, 1.0]:
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Write a long paragraph about renewable energy."}],
max_tokens=500,
frequency_penalty=fp
)
text = response.choices[0].message.content
stats = analyze_repetition(text)
print(f"frequency_penalty={fp} | Diversity: {stats['diversity_ratio']} | Repeated: {stats['repeated_words']}")
Dhá Bhealach chun Gach Rud a Mhill
Is é an chéad cheann dul ró-ard. Thar 1.5, seachnaíonn an tsamhail focail choitianta chomh mór sin go gcuireann sí malairtí míchuí ina n-ionad: éiríonn an téacs neamhcheangailte, lán de théarmaí annamha a úsáidtear go mícheart. I míniú ar theoirim Phíotagaráis, coscaíonn pionóis ag 2.0 ar an tsamhail “taobh” agus “triantán” a athrá – go díreach na focail atá ag teastáil don chruthúnas.
# BAD — penalty too strong
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Explain the Pythagorean theorem."}],
presence_penalty=2.0,
frequency_penalty=2.0
)
# Result: disjointed text, misused rare words
Is é an dara ceann ná pionóis arda a chomhcheangal le teocht ard. Cuireann gach meicníocht a sciar féin de randamacht leis an bpróiseas roghnúcháin céanna, agus cruthaíonn a sárshuíomh téacs atá beagnach randamach. Cosúil le temperature agus top_p, is é an disciplín ná paraiméadar amháin a choigeartú ag an am.
# AVOID — too much randomness
{"temperature": 1.5, "presence_penalty": 1.5, "frequency_penalty": 1.5}
# CORRECT — adjust one parameter at a time
{"temperature": 0.7, "presence_penalty": 0.5, "frequency_penalty": 0.3}
Príomhphointí
- Pionós uaineachta: pionós seasta nuair a fheictear token – leathnaíonn sé an stór focal
- Pionós minicíochta: pionós carnach atá comhréireach leis an minicíocht – cuireann sé i gcoinne lúba
- Raon ó -2.0 go 2.0 atá ag an dá cheann, réamhshocrú 0.0
- Fan sa raon 0.0 go 1.0 sa táirgeadh don chuid is mó de na cásanna
- Ná comhcheangail luachanna arda le teocht ard
- Díchumasaigh pionóis le haghaidh eastósctha agus aicmithe (áit a bhfuil athrá inghlactha)