Pamata parametri
Šajā lapā
Konfigurē savus API izsaukumus
Papildus obligātajiem laukiem model un messages tērzēšanas pabeigšanas API (Chat Completions API) pieņem vairākus parametrus, kas kontrolē ģenerēšanas uzvedību. Tieši šie iestatījumi nosaka atšķirību starp datu izguvēju, kas vienai un tai pašai rēķina faktūrai vienmēr atgriež identiskus rezultātus, un saukļu ģeneratoru, kas nekad neatkārtojas. Izsaucošais kods no viena lietojuma gadījuma uz otru nemainās; mainās tikai iestatījumi, un tieši tāpēc tev ir jāsaprot katra no tiem darbība.
Lūk, parametri, ar kuriem strādāsi ikdienā, kopā ar to datu tipiem un noklusējuma vērtībām.
| Parametrs | Tips | Noklusējums | Apraksts |
|---|---|---|---|
model | virkne (string) | — | Modeļa identifikators (obligāts) |
messages | masīvs (array) | — | Ziņojumu masīvs (obligāts) |
max_tokens | vesels skaitlis (integer) | mainīgs | Maksimālais izejas tokena skaits |
temperature | peldošais komats (float) | 0.7 | Kontrolē radošumu (no 0.0 līdz 1.5) |
top_p | peldošais komats (float) | 1.0 | Kodola izlase (nucleus sampling) (no 0.0 līdz 1.0) |
stream | loģisks (boolean) | false | Iespējo SSE straumēšanu |
safe_prompt | loģisks (boolean) | false | Iespējo drošības aizsardzības mehānismus |
Parametrs model
Tava modeļa izvēle nekavējoties nosaka katra izsaukuma spējas, ātrumu un izmaksas – trīs kompromisi, kurus citur nevari atgūt. Sākot ar 2026. gada aprīli, galvenie modeļi ir:
# Flagship model — complex reasoning, multilingual
model = "mistral-large-latest"
# Compact model — fast, economical, ideal for production
model = "mistral-small-latest"
# Miniature model — ultra-fast, edge computing
model = "ministral-3b-latest"
# Code model — specialized for programming
model = "codestral-latest"
Piedēklis -latest ir ērts izstrādes laikā: tas vienmēr norāda uz jaunāko versiju, neprasaot koda izmaiņas. Tomēr ražošanas vidē šī ērtība kļūst par risku, jo Mistral veiktā atjaunināšana var nemanāmi mainīt tavas lietotnes uzvedību. Dod priekšroku versijām ar numuriem, piemēram, mistral-large-2512, lai garantētu testu reproducējamību.
Parametrs max_tokens
Šis parametrs nosaka augšējo robežu tokena skaitam, ko modelis var ģenerēt savā atbildē. Tas nepiespiež modeli saražot tieši šo skaitu; tas tikai definē griestus, neko vairāk.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Summarize this text in one sentence."}],
max_tokens=100 # The response will not exceed 100 tokens
)
Ja modelis sasniedz šo robežu, atbilde tiek pēkšņi pārtraukta, un finish_reason atgriež "length" "stop" vietā. Tas ir visbiežākais iemesls, kāpēc atbildes apstājas teikuma vidū, un neviens to nepamanīs, kamēr neuzrauga šo lauku. Pareizā reakcija ir pielāgot griestus uzdevumam: klasifikācijai pietiek ar 10 līdz 50 tokeniem, jo sagaidi tikai etiķeti; kopsavilkumam vajag 200 līdz 500 tokenus; brīvas formas rakstīšanai – 1000 līdz 4000; bet koda ģenerēšana viegli sasniedz 2000 vai 8000 tokenus, jo pilns fails ir garš.
Parametrs temperature
Temperatūra kontrolē tokena izvēles nejaušības pakāpi. Jo zemāka vērtība, jo determinētāks un paredzamāks kļūst modelis; jo augstāka tā ir, jo vairāk tas mēģina mazticamus turpinājumus. Faktisku jautājumu gadījumā tev vajag pirmo pieeju; nosaukumu izgudrošanas uzdevumos – otro.
# Low temperature — extraction, classification, factual
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "What is the capital of France?"}],
temperature=0.1
)
# High temperature — creativity, brainstorming
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Invent a name for an AI startup."}],
temperature=1.2
)
Diapazons ir no 0.0 līdz 1.5. Nepaļaujies uz temperature=0, lai panāktu perfektu determinismu: nelielas variācijas saglabājas aparatūras līmeņa peldošā komata noapaļošanas dēļ.
Parametrs top_p
Kodola izlase jeb Top P darbojas ar to pašu sviru, bet citu ceļu: tā ierobežo kandidātu tokenus pēc kumulatīvās varbūtības sliekšņa. Pie top_p=0.5 konkurencē paliek tikai tie visticamākie tokeni, kuru summētās varbūtības sasniedz 50%; pārējie tiek nekavējoties atmesti.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Complete: The cat is on the..."}],
temperature=0.7,
top_p=0.9 # Considers tokens covering 90% of the probability
)
Mistral iesaka pielāgot tikai vienu parametru vienlaikus – vai nu temperatūru, vai top_p, nekad abus kopā. Iemesls ir praktisks: ja izvade kļūst dīvaina pēc abu slīdņu pārvietošanas, nekas tev nepasaka, kurš no tiem to izraisīja, un tu zaudē gan atkļūdojamību, gan reproducējamību.
Pilns piemērs ar visiem parametriem
Apvienojot šos iestatījumus vienā izsaukumā, tie rada saukļu ģeneratoru, kas ir apzināti īss un nedaudz drosmīgs, vienlaikus izsekojot tokena patēriņu:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "You are a concise and punchy marketing writer."
},
{
"role": "user",
"content": "Write a slogan for a meditation app."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")
Palaid šo skriptu trīs reizes pēc kārtas, tad nomaini temperature=0.9 uz 0.1 un palaid to vēl trīs reizes. Atšķirība starp abām sērijām tev iemācīs vairāk par šo parametru nekā jebkura definīcija.
Galvenās atziņas
modelunmessagesir vienīgie obligātie parametrimax_tokensir griesti, nevis mērķis – pārbaudifinish_reason, lai noteiktu apgriešanu- Izmanto zemu
temperaturefaktiskiem uzdevumiem, augstu – radošumam top_pprecizē tokena sadalījumu – nepielāgo to vienlaikus artemperature- Ražošanas vidē izmanto versijām piesaistītus modeļa identifikatorus reproducējamībai