Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Pamata parametri

Nodarbība 3 no 16 Atjaunota 2026. gada 2. novembris Programmētājs
Šajā lapā
  1. Konfigurē savus API izsaukumus
  2. Parametrs model
  3. Parametrs max_tokens
  4. Parametrs temperature
  5. Parametrs top_p
  6. Pilns piemērs ar visiem parametriem
  7. Galvenās atziņas

Konfigurē savus API izsaukumus

Papildus obligātajiem laukiem model un messages tērzēšanas pabeigšanas API (Chat Completions API) pieņem vairākus parametrus, kas kontrolē ģenerēšanas uzvedību. Tieši šie iestatījumi nosaka atšķirību starp datu izguvēju, kas vienai un tai pašai rēķina faktūrai vienmēr atgriež identiskus rezultātus, un saukļu ģeneratoru, kas nekad neatkārtojas. Izsaucošais kods no viena lietojuma gadījuma uz otru nemainās; mainās tikai iestatījumi, un tieši tāpēc tev ir jāsaprot katra no tiem darbība.

Lūk, parametri, ar kuriem strādāsi ikdienā, kopā ar to datu tipiem un noklusējuma vērtībām.

ParametrsTipsNoklusējumsApraksts
modelvirkne (string)—Modeļa identifikators (obligāts)
messagesmasīvs (array)—Ziņojumu masīvs (obligāts)
max_tokensvesels skaitlis (integer)mainīgsMaksimālais izejas tokena skaits
temperaturepeldošais komats (float)0.7Kontrolē radošumu (no 0.0 līdz 1.5)
top_ppeldošais komats (float)1.0Kodola izlase (nucleus sampling) (no 0.0 līdz 1.0)
streamloģisks (boolean)falseIespējo SSE straumēšanu
safe_promptloģisks (boolean)falseIespējo drošības aizsardzības mehānismus

Parametrs model

Tava modeļa izvēle nekavējoties nosaka katra izsaukuma spējas, ātrumu un izmaksas – trīs kompromisi, kurus citur nevari atgūt. Sākot ar 2026. gada aprīli, galvenie modeļi ir:

# Flagship model — complex reasoning, multilingual
model = "mistral-large-latest"

# Compact model — fast, economical, ideal for production
model = "mistral-small-latest"

# Miniature model — ultra-fast, edge computing
model = "ministral-3b-latest"

# Code model — specialized for programming
model = "codestral-latest"

Piedēklis -latest ir ērts izstrādes laikā: tas vienmēr norāda uz jaunāko versiju, neprasaot koda izmaiņas. Tomēr ražošanas vidē šī ērtība kļūst par risku, jo Mistral veiktā atjaunināšana var nemanāmi mainīt tavas lietotnes uzvedību. Dod priekšroku versijām ar numuriem, piemēram, mistral-large-2512, lai garantētu testu reproducējamību.

Parametrs max_tokens

Šis parametrs nosaka augšējo robežu tokena skaitam, ko modelis var ģenerēt savā atbildē. Tas nepiespiež modeli saražot tieši šo skaitu; tas tikai definē griestus, neko vairāk.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Summarize this text in one sentence."}],
    max_tokens=100  # The response will not exceed 100 tokens
)

Ja modelis sasniedz šo robežu, atbilde tiek pēkšņi pārtraukta, un finish_reason atgriež "length" "stop" vietā. Tas ir visbiežākais iemesls, kāpēc atbildes apstājas teikuma vidū, un neviens to nepamanīs, kamēr neuzrauga šo lauku. Pareizā reakcija ir pielāgot griestus uzdevumam: klasifikācijai pietiek ar 10 līdz 50 tokeniem, jo sagaidi tikai etiķeti; kopsavilkumam vajag 200 līdz 500 tokenus; brīvas formas rakstīšanai – 1000 līdz 4000; bet koda ģenerēšana viegli sasniedz 2000 vai 8000 tokenus, jo pilns fails ir garš.

Parametrs temperature

Temperatūra kontrolē tokena izvēles nejaušības pakāpi. Jo zemāka vērtība, jo determinētāks un paredzamāks kļūst modelis; jo augstāka tā ir, jo vairāk tas mēģina mazticamus turpinājumus. Faktisku jautājumu gadījumā tev vajag pirmo pieeju; nosaukumu izgudrošanas uzdevumos – otro.

# Low temperature — extraction, classification, factual
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "What is the capital of France?"}],
    temperature=0.1
)

# High temperature — creativity, brainstorming
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Invent a name for an AI startup."}],
    temperature=1.2
)

Diapazons ir no 0.0 līdz 1.5. Nepaļaujies uz temperature=0, lai panāktu perfektu determinismu: nelielas variācijas saglabājas aparatūras līmeņa peldošā komata noapaļošanas dēļ.

Parametrs top_p

Kodola izlase jeb Top P darbojas ar to pašu sviru, bet citu ceļu: tā ierobežo kandidātu tokenus pēc kumulatīvās varbūtības sliekšņa. Pie top_p=0.5 konkurencē paliek tikai tie visticamākie tokeni, kuru summētās varbūtības sasniedz 50%; pārējie tiek nekavējoties atmesti.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Complete: The cat is on the..."}],
    temperature=0.7,
    top_p=0.9  # Considers tokens covering 90% of the probability
)

Mistral iesaka pielāgot tikai vienu parametru vienlaikus – vai nu temperatūru, vai top_p, nekad abus kopā. Iemesls ir praktisks: ja izvade kļūst dīvaina pēc abu slīdņu pārvietošanas, nekas tev nepasaka, kurš no tiem to izraisīja, un tu zaudē gan atkļūdojamību, gan reproducējamību.

Pilns piemērs ar visiem parametriem

Apvienojot šos iestatījumus vienā izsaukumā, tie rada saukļu ģeneratoru, kas ir apzināti īss un nedaudz drosmīgs, vienlaikus izsekojot tokena patēriņu:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "You are a concise and punchy marketing writer."
        },
        {
            "role": "user",
            "content": "Write a slogan for a meditation app."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")

Palaid šo skriptu trīs reizes pēc kārtas, tad nomaini temperature=0.9 uz 0.1 un palaid to vēl trīs reizes. Atšķirība starp abām sērijām tev iemācīs vairāk par šo parametru nekā jebkura definīcija.

Galvenās atziņas

  • model un messages ir vienīgie obligātie parametri
  • max_tokens ir griesti, nevis mērķis – pārbaudi finish_reason, lai noteiktu apgriešanu
  • Izmanto zemu temperature faktiskiem uzdevumiem, augstu – radošumam
  • top_p precizē tokena sadalījumu – nepielāgo to vienlaikus ar temperature
  • Ražošanas vidē izmanto versijām piesaistītus modeļa identifikatorus reproducējamībai