Comhlíontachtaí n
Ar an leathanach seo
Ilfhreagairtí a ghiniúint i nglao amháin
Treoraíonn an paraiméadar n an tsamhail chun ilfhreagairtí malartacha a tháirgeadh don leid chéanna laistigh d’aon iarratas API amháin. Cé go bhféadfadh sé seo a bheith ina ghné bheag ar an gcéad amharc, cuireann sé ar do chumas trí chás úsáide thromchúiseacha: dhá fhoirmliú leide a chur i gcomparáid ar shampla, an freagra is fearr a roghnú go huathoibríoch ó bhaisc, agus spás na réitigh a iniúchadh seachas glacadh leis an gcéad aschur.
Go réamhshocraithe, tá n=1, agus filleann an API freagra amháin in choices. Má shocraíonn tú n=5, beidh cúig iontráil san eagar, gach ceann acu lena index féin. Tabhair faoi deara an teocht socraithe ag 1.0 sa sampla thíos: gan randamú leordhóthanach, bheadh na cúig fhreagra go léir comhionann, rud a dhéanfadh an glao gan úsáid.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="ministral-3b-latest",
messages=[
{"role": "user", "content": "What is the best programming language for beginners? One word only."}
],
temperature=1.0, # High temperature to maximize diversity
n=5
)
for choice in response.choices:
print(f"Response {choice.index}: {choice.message.content}")
Tá dhá fhachtóir a chinneann luach praiticiúil an pharaiméadair seo. Is é an chéad cheann billeáil: ní ghearrtar táille ach uair amháin ar thócan ionchuir ós rud é go seoltar an leid uair amháin, ach gearrtar táille ar thócan aschuir do gach comhlíonadh. Le n=5 agus max_tokens=100, léimeann do theorainn aschuir go 500 tócan. Is é seo go díreach a dhéanann n tarraingteach do leide fada – is costasaí go mór cúig ghlaonna ar leith a dhéanamh ná comhthéacs mór a amórtú thar chúig fhreagra.
print(f"Prompt tokens : {response.usage.prompt_tokens}") # Charged 1x
print(f"Response tokens: {response.usage.completion_tokens}") # Charged nx
print(f"Total : {response.usage.total_tokens}")
Is é an dara fachtóir ná comhoiriúnacht: ní thacaíonn gach samhail Mistral le n. Ó Aibreán 2026, ní thacaíonn leaganacha le déanaí de mistral-large le n > 1. Bain úsáid as ministral-3b-latest nó samhlacha comhoiriúnacha eile don ghné seo – sin an fáth go mbraitheann gach sampla sa cheacht seo ar an tsamhail sin.
An freagra is fearr a roghnú
Baineann an chéad chás úsáide le roinnt iarrthóirí a ghiniúint agus an ceann is fearr a choinneáil bunaithe ar chritéar a shainíonn tú. Tá an mheicníocht d’aon ghnó ginearálta: glacann best_of_n le haon fheidhm scórála, rud a ligeann duit tomhas a dhéanamh ar an rud atá tábhachtach i do chomhthéacs – láithreacht eochairfhocail éigeantaigh, bailíocht JSON, nó cloí le fad sprioc. Léiríonn an fheidhm length_scorer an critéar deireanach seo, áit a laghdaíonn an scór de réir mar a mhéadaíonn an diall ón bhfad sprioc.
def best_of_n(client, messages, n=5, scorer=None, **kwargs):
"""Generates N responses and selects the best one."""
response = client.chat.complete(
model="ministral-3b-latest",
messages=messages,
n=n,
temperature=0.9,
**kwargs
)
candidates = [
{
"index": c.index,
"content": c.message.content,
"score": scorer(c.message.content) if scorer else 0
}
for c in response.choices
]
if scorer:
candidates.sort(key=lambda x: x["score"], reverse=True)
return candidates
# Scorer: appropriate length (not too short, not too long)
def length_scorer(text: str, target=200) -> float:
"""Score based on proximity to a target length."""
diff = abs(len(text) - target)
return max(0, 1 - diff / target)
candidates = best_of_n(
client,
[{"role": "user", "content": "Write a summary of generative AI in 2026."}],
n=5,
scorer=length_scorer,
max_tokens=300
)
print("Best response:")
print(candidates[0]["content"])
print(f"Score: {candidates[0]['score']:.2f}")
Dhá leid a chur i gcomparáid ar shampla
Is modheolaíoch seachas táirge-bhunaithe an dara cás úsáide. Nuair atá tú ag cinneadh idir dhá fhoirmliú leide, ní chruthaíonn comparáid idir freagra amháin agus ceann eile aon rud: d’fhéadfadh athraitheacht na samhlaí féin an difríocht a mhíniú. Trí N fhreagra a ghiniúint do gach leagan agus meánfhad agus ráta na bhfreagairtí ar leith a thomhas, faigheann tú fianaise réamhbhreathnaitheach. Is comhartha rabhaidh, seachas dea-scéal, é scór éagsúlachta 1.0 ar leid atá ceaptha formáid chobhsaí a tháirgeadh.
def ab_test_prompts(client, prompt_a: str, prompt_b: str, n: int = 5):
"""Compares two prompts by generating N responses for each."""
results = {}
for label, prompt in [("A", prompt_a), ("B", prompt_b)]:
response = client.chat.complete(
model="ministral-3b-latest",
messages=[{"role": "user", "content": prompt}],
n=n,
temperature=0.8,
max_tokens=200
)
texts = [c.message.content for c in response.choices]
avg_length = sum(len(t) for t in texts) / len(texts)
unique_ratio = len(set(texts)) / len(texts)
results[label] = {
"avg_length": round(avg_length),
"diversity": round(unique_ratio, 2),
"sample": texts[0][:150]
}
return results
# Test
results = ab_test_prompts(
client,
"Summarize the benefits of Python.",
"List the 3 main benefits of Python in one sentence each."
)
for label, data in results.items():
print(f"\nPrompt {label}:")
print(f" Average length : {data['avg_length']} chars")
print(f" Diversity : {data['diversity']}")
print(f" Sample : {data['sample']}...")
Iontaofacht aicmithe a fheabhsú trí vótáil
Tairgeann an tríú cás úsáide an ROI is airde i dtáirgeadh. I gcás tasc aicmithe, ní insíonn freagra amháin duit faoin muinín atá ag an tsamhail: d’fhéadfadh an freagra a bheith soiléir, nó d’fhéadfadh sé a bheith ina thuar teorannach idir dhá chatagóir. Giniúint seacht bhfreagra, comhaireamh na vótaí, agus faigheann tú lipéad agus ráta muiníne inghníomhaithe – is féidir aicmiú 4/7 a chur ar aghaidh le bailíochtú daonna, cé go dtéann 7/7 díreach tríd. Seachnaíonn úsáid uimhir chorr cheangal vótaí.
from collections import Counter
def majority_vote(client, messages, n=7, **kwargs):
"""Majority vote classification over N completions."""
response = client.chat.complete(
model="ministral-3b-latest",
messages=messages,
n=n,
temperature=0.7,
max_tokens=20,
**kwargs
)
votes = [c.message.content.strip().upper() for c in response.choices]
counts = Counter(votes)
winner, count = counts.most_common(1)[0]
confidence = count / n
return {
"result": winner,
"confidence": round(confidence, 2),
"votes": dict(counts),
"n": n
}
# Sentiment classification
result = majority_vote(
client,
messages=[
{"role": "system", "content": "Classify the sentiment: POSITIVE, NEGATIVE, or NEUTRAL. Reply with one word only."},
{"role": "user", "content": "The product is okay but the delivery was very slow."}
],
n=7
)
print(f"Result : {result['result']}")
print(f"Confidence: {result['confidence']:.0%}")
print(f"Votes : {result['votes']}")
Cathain n > 1 a úsáid
Níl an paraiméadar seo údaraithe i ngach áit: ar thrácht caighdeánach, is costas aschuir gan toradh é gach comhlíonadh breise. Déanann an tábla thíos achoimre ar luachanna cosanta bunaithe ar an gcás.
| Cás | n Molta | Cén fáth |
|---|---|---|
| Táirgeadh caighdeánach | 1 | Costas íosta |
| Roghnú cáilíochta | 3-5 | Best-of-N do théacs criticiúil |
| Aicmiú láidir | 5-9 (corr) | Vóta tromlaigh d’iontaofacht |
| Tástáil A/B leide | 5-10 | Méid sampla leordhóthanach le comparáid a dhéanamh |
| Brainstorming | 5-10 | Uasmhéid éagsúlachta smaointe |
Príomhphointí
- Gineann an paraiméadar
nilfhreagairtí i nglao API amháin - Gearrtar táille ar thócan ionchuir uair amháin; iolraítear tócan aschuir faoi N
- Ní thacaíonn gach samhail le
n > 1– fíoraigh comhoiriúnacht - Feabhsaíonn vótáil tromlaigh iontaofacht an aicmithe
- Roghnaíonn Best-of-N an freagra is fearr bunaithe ar chritéar intomhaiste
- Bain úsáid as teocht ard le
n > 1chun éagsúlacht na bhfreagairtí a uasmhéadú