Top P agus Sampláil Núicléasach
Ar an leathanach seo
Dara Luas chun an Ghiniúint a Rialú
Thug an cheacht roimhe seo an chéad luas duit chun an ghiniúint a rialú: an teocht. Is comhlánú nádúrtha air sin é Top P, ar a dtugtar sampláil núicléasach freisin. Cé go n-athraíonn an teocht an dáileadh dóchúlachta iomlán, feidhmíonn Top P mar scagaire a theorannaíonn líon na dtócan iarrthóra. Bíonn tionchar ag an dá pharaiméadar ar éagsúlacht na bhfreagraí, ach trí mheicníochtaí an-éagsúil—is é an difríocht sin go díreach a ligfidh duit iompar an mhúnla Mistral a mhionchoigeartú in ionas nach mbeidh tú ag casadh cnónna go randamach.
Conas a Oibríonn Top P
Déanaimis an próiseas giniúna a shiúl arís. Ag gach céim, ríomhann an múnla dóchúlacht do gach tócan féideartha. Tagann Top P isteach le linn trí chéim: ar dtús, coigeartaítear na dóchúlachtaí de réir na teochta; ansin, déantar na tócan a shórtáil de réir dóchúlachta ag titim agus suimítear a ndóchúlachtaí go carnach; faoi dheireadh, ní choinnítear ach na tócan nach sáraíonn a ndóchúlacht charnach an tairseach Top P. Ní dhéantar an tarraingt dheiridh ach amháin i measc na dtócan a mhair an scagadh seo.
Déanann sampla an mheicníocht soiléir. Samhlaigh go gcaithfidh an múnla an chéad fhocal a roghnú tar éis “Tá an cat ar an”:
| Tócan | Dóchúlacht | Carnach |
|---|---|---|
| díon | 0.35 | 0.35 |
| leaba | 0.25 | 0.60 |
| tolg | 0.15 | 0.75 |
| urlár | 0.10 | 0.85 |
| ledse | 0.05 | 0.90 |
| balla | 0.03 | 0.93 |
| … | … | … |
Le Top P = 0.75, ní choinnítear ach “díon”, “leaba”, agus “tolg”, ós rud é go mbuaileann a suim charnach 0.75 go beacht: ní roghnóidh an múnla ach ceann amháin de na trí rogha sin. Le Top P = 0.90, tagann “urlár” agus “ledse” i gclár na n-imeachtaí freisin. Is léir an riail ghinearálta ón tábla: dá airde an Top P, is amhlaidh is mó iarrthóirí a chuirtear san áireamh.
Top P vs Teocht: Cad é an Difríocht?
Ós rud é go rialaíonn an dá pharaiméadar éagsúlacht, d’fhéadfá ceapadh go bhfuil siad inmhalartaithe. Níl. Athraíonn an teocht cruth an dáilte: déanann luach ard an cuar a chothromú agus déanann sé tócan neamhdhóchúla níos inrochtana de réir a chéile, gan aon cheann a eisiamh riamh. Ar an láimh eile, gearrann Top P an dáileadh: déantar neamhaird ar thócan faoin tairseach go hiomlán, beag beann ar a ndóchúlacht iarmharach.
Coinnigh an íomhá seo i d’intinn: is socruithe “bog” í an teocht, a choigeartaíonn de réir a chéile, ach is socruithe “géara” iad Top P, a chuimsíonn nó a eisiann. I dtéacs cruthaitheach, ceadaíonn teocht ard le Top P measartha fantaisíocht agus cosc a chur ar dhul i léig i dtreo tócan atá fíor-neamhdhóchúil—is é seo an comhcheangal is compordaí go minic.
Top P a Úsáid leis an API Mistral
Sa chód, cuirtear an paraiméadar leis an nglao go simplí, in éineacht leis an teocht:
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Propose a name for an AI startup."}
],
temperature=0.7,
top_p=0.9
)
Cathin Top P a Choigeartú
Cuireann Top P íseal, idir 0.1 agus 0.5, an múnla ar na roghanna is dóchúla—barántúlacht uasta. Is é seo an rogha cheart nuair a bhaineann an freagra a bhfuiltear ag súil leis le tacar dúnta, mar atá sa rangú dian seo:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "Respond only with: positive, neutral, or negative."},
{"role": "user", "content": "Classify: The product arrived in good condition."}
],
temperature=0.0,
top_p=0.3
)
Oireann Top P meánach, idir 0.5 agus 0.8, do chuid is mó na dtascanna gairmiúla: fanann an téacs comhleanúnach gan a bheith monatóineach. Is é seo an réim do thuairisc, do achoimre, nó do réamhrá doiciméid:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Write the introduction for a report on cybersecurity in SMEs."}
],
temperature=0.5,
top_p=0.7
)
Ar deireadh, osclaíonn Top P ard, idir 0.8 agus 1.0, an réimse don chruthaitheacht agus don taiscéalaíocht smaointe—glacann tú le hiarrthóirí nach bhfuil chomh dóchúil chun tograí atá lasmuigh den bhosca a fháil:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Invent 5 innovative restaurant concepts."}
],
temperature=0.9,
top_p=0.95
)
An Riail Phraiticiúil: Coigeartaigh Paraiméadar Amháin ag an Am
Molann doiciméadú Mistral cur chuige modúil ar chóir duit glacadh leis ó do chéad tástálacha: socraigh Top P ar 1.0 (gan scagadh) agus coigeartaigh an teocht amháin, nó socraigh an teocht ar 1.0 agus coigeartaigh Top P amháin; ní dhéanann tú an dara paraiméadar a mhionchoigeartú ach amháin ansin más gá. Is simplí an fáth: má athraíonn tú an dá cheann ag an am céanna agus má athraíonn an t-iompar, ní bheidh a fhios agat cé acu ceann atá freagrach. Is é an freagra céanna é agus atá ag díbhugáil—ní athraíonn tú ach athróg amháin ag an am.
Chun pointí tosaigh concreiteacha a thabhairt duit: de ghnáth socraítear eastóscadh sonraí nó aschur JSON ar temperature=0.0, top_p=1.0; scríbhneoireacht ghairmiúil ar temperature=0.4, top_p=0.9; giniúint chruthaitheach ar temperature=0.8, top_p=0.95; agus cód nó ábhar teicniúil ar temperature=0.2, top_p=0.9. Níl sna luachanna seo ach pointí tosaigh—tá turgnamh fíor-riachtanach do do chás úsáide sonrach.
Príomhphointí
- Scagann Top P tócan iarrthóra de réir tairsí dóchúlachta carnach
- In ionas go mbogann an teocht an dáileadh, gearrann Top P é
- Coigeartaigh paraiméadar amháin ag an am chun a thionchar a thuiscint
- Top P íseal = freagraí fócasaithe, Top P ard = freagraí éagsúla
- Tosaigh leis an teocht amháin, cuir Top P leis chun mionchoigeartú a dhéanamh