Põhiparameetrid
Sellel lehel
Konfigureeri oma API päringuid
Lisaks nõutavatele väljadele model ja messages aktsepteerib Chat Completions API käputäit parameetreid, mis juhivad genereerimise käitumist. Just need seaded teevad vahet andma ekstraheerijal, mis tagastab sama arve puhul identsed tulemused, ja loosungigeneraatoril, mis ei korda ennast kunagi. Väljakutsuv kood jääb ühest kasutusjuhtumist teiseni muutumatuks; muutuvad vaid seaded, mistõttu ongi hädavajalik mõista igaühe funktsiooni.
Siin on parameetrid, mida käsitled iga päev, koos nende tüüpide ja vaikimisi väärtustega.
| Parameeter | Tüüp | Vaikimisi | Kirjeldus |
|---|---|---|---|
model | string | — | Mudeli identifikaator (nõutav) |
messages | array | — | Sõnumite massiiv (nõutav) |
max_tokens | integer | muutuv | Väljundtokenite maksimaalne arv |
temperature | float | 0.7 | Juhib loovust (0.0 kuni 1.5) |
top_p | float | 1.0 | Tuumaproovivõtt (0.0 kuni 1.0) |
stream | boolean | false | Lubab SSE voogedastuse |
safe_prompt | boolean | false | Lubab turvamehhanismid |
Parameeter model
Sinu mudelivalik määrab koheselt iga päringu võimekuse, kiiruse ja hinna – need on kolm kompromissi, mida mujal heastada ei saa. Alates aprillist 2026 on peamised mudelid järgmised:
# Lipulaev – keeruline arutluskäik, mitmekeelne
model = "mistral-large-latest"
# Kompaktne mudel – kiire, ökonoomne, ideaalne tootmiseks
model = "mistral-small-latest"
# Miniatuurne mudel – ülikiire, servarvutus
model = "ministral-3b-latest"
# Koodimudel – spetsialiseerunud programmeerimisele
model = "codestral-latest"
Liide -latest on arenduse ajal mugav: see osutab alati uusimale versioonile ilma koodi muutmata. Tootmiskeskkonnas muutub see mugavus aga riskiks, kuna Mistrali poolne värskendus võib sinu rakenduse käitumist peenelt nihutada. Eelista versioneeritud identifikaatoreid, nagu mistral-large-2512, et garanteerida oma testide reprodutseeritavus.
Parameeter max_tokens
See parameeter määrab ülemise piiri tokenite arvule, mida mudel võib oma vastuses genereerida. See ei sunni mudelit tootma täpselt seda arvu; see defineerib vaid lae, mitte midagi enamat.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Võta see tekst kokku ühe lausega."}],
max_tokens=100 # Vastus ei ületa 100 tokenit
)
Kui mudel jõuab selle piirini, katkeb vastus järsult ja finish_reason tagastab "length" asemel "stop". See on kõige levinum põhjus, miks vastused poole lause peal katkevad, ja keegi ei märka seda enne, kui seda välja jälgitakse. Õige refleks on kohandada lagi ülesandele: klassifitseerimine mahub 10–50 tokenisse, kuna ootad vaid silti; kokkuvõte vajab 200–500 tokenit; vabas vormis tekst kirjutamine võtab 1000–4000 tokenit ja koodi genereerimine ulatub hõlpsasti 2000 või 8000 tokenini, sest täielik fail on pikk.
Parameeter temperature
Temperatuur kontrollib tokenite valikulise juhuslikkuse astet. Mida madalam on väärtus, seda deterministlikumaks ja ennustatavamaks mudel muutub; mida kõrgemale see tõuseb, seda rohkem püüab mudel ebatõenäolisi jätkusid. Faktiliste küsimuste puhul soovid esimest lähenemist; nimede väljamõtlemise harjutuste puhul teist.
# Madal temperatuur – ekstraheerimine, klassifitseerimine, faktiline
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Mis on Prantsusmaa pealinn?"}],
temperature=0.1
)
# Kõrge temperatuur – loovus, ideede genereerimine
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Mõtle välja nimi tehisintellekti idufirmale."}],
temperature=1.2
)
Vahemik ulatub 0.0-st 1.5-ni. Ära tugine täiusliku determinismi saavutamisel väärtusele temperature=0: väikesed variatsioonid püsivad riistvaratasandi ujukomaarvude ümardamise tõttu.
Parameeter top_p
Tuumaproovivõtt ehk Top P toimib sama hoova kaudu, kuid teist teed pidi: see piirab kandidaattokeneid kumulatiivse tõenäosuse lävendiga. Kui top_p=0.5, jäävad võistlusesse vaid kõige tõenäolisemad tokenid, mille liidetud tõenäosused ulatuvad 50%-ni; ülejäänud visatakse kohe välja.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Lõpeta lause: Kass on..."}],
temperature=0.7,
top_p=0.9 # Arvestab tokeneid, mis katavad 90% tõenäosusest
)
Mistral soovitab korraga kohandada vaid ühte parameetrit, kas temperatuuri või top_p, mitte kunagi mõlemat koos. Põhjus on praktiline: kui väljund muutub pärast mõlema liigutaja nihutamist imelikuks, ei ütle miski, kumb selle põhjustas, ja kaotad nii silumisvõime kui ka reprodutseeritavuse.
Täielik näide kõigi parameetritega
Ühte päringusse kombineerituna loovad need seaded loosungigeneraatori, mis on tahtlikult lühike ja veidi julge, jälgides samal ajal tokenite tarbimist:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Oled lakooniline ja tabav turundustekstide kirjutaja."
},
{
"role": "user",
"content": "Kirjuta loosung meditatsioonirakendusele."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Kasutatud tokenid: {response.usage.total_tokens}")
Käivita see skript kolm korda järjest, asenda seejärel temperature=0.9 väärtusega 0.1 ja käivita seda veel kolm korda. Erinevus nende kahe seeria vahel õpetab sulle selle parameetri kohta rohkem kui ükski definitsioon.
Peamised punktid
modeljamessageson ainsad nõutavad parameetridmax_tokenson lagi, mitte siht – kontrollifinish_reason-it, et tuvastada kärpimist- Kasuta faktiliste ülesannete jaoks madalat
temperature-i ja loovuse jaoks kõrget top_ptäiustab tokenite jaotust – ära kohanda seda samaaegselttemperature-iga- Kasuta tootmiskeskkonnas reprodutseeritavuse tagamiseks versioneeritud mudeli identifikaatoreid