Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Pagrindiniai parametrai

Paskaita 3 iš 16 Atnaujinta 2026 m. lapkričio 2 d. Kūrėjas
Šiame puslapyje
  1. Konfigūruokite savo API užklausas
  2. Parametras model
  3. Parametras max_tokens
  4. Parametras temperature
  5. Parametras top_p
  6. Pilnas pavyzdys su visais parametrais
  7. Svarbiausi punktai

Konfigūruokite savo API užklausas

Be privalomų model ir messages laukų, „Chat Completions“ API priima keletą parametrų, valdančių generavimo elgseną. Būtent šie nustatymai atskiria duomenų išgavimo įrankį, kuris tai pačiai sąskaitai faktūrai grąžina identiškus rezultatus, nuo šūkio generatoriaus, kuris niekada nesikartoja. Kvietimo kodas išlieka toks pats nepaisant naudojimo atvejo; keičiasi tik nustatymai, todėl privalai suprasti kiekvieno iš jų paskirtį.

Štai parametrai, su kuriais dirbsi kasdien, kartu su jų tipais ir numatytosiomis reikšmėmis.

ParametrasTipasNumatytoji reikšmėAprašymas
modelstring—Modelio identifikatorius (privaloma)
messagesarray—Žinučių masyvas (privaloma)
max_tokensintegerkintamaMaksimalus išvesties tokenų skaičius
temperaturefloat0.7Valdo kūrybiškumą (nuo 0.0 iki 1.5)
top_pfloat1.0Branduolinis ėmimas (nuo 0.0 iki 1.0)
streambooleanfalseĮjungia SSE srautinį perdavimą
safe_promptbooleanfalseĮjungia saugumo apsaugos mechanizmus

Parametras model

Tavo pasirinktas modelis iškart lemia kiekvienos užklausos galimybes, greitį ir kainą – tai trys kompromisai, kurių negalėsi kompensuoti kitur. Nuo 2026 m. balandžio mėn. pagrindiniai modeliai yra šie:

# Pagrindinis modelis – sudėtingas samprotavimas, daugiakalbis
model = "mistral-large-latest"

# Kompaktiškas modelis – greitas, ekonomiškas, idealus gamybai
model = "mistral-small-latest"

# Miniatiūrinis modelis – itin greitas, kraštiniams skaičiavimams
model = "ministral-3b-latest"

# Kodo modelis – specializuotas programavimui
model = "codestral-latest"

Priesaga -latest yra patogi kuriant: ji visada nukreipia į naujausią versiją nereikalaujant keisti kodo. Tačiau gamybinėje aplinkoje šis patogumas tampa rizika, nes „Mistral“ atnaujinimas gali nepastebimai pakeisti tavo programos elgseną. Norėdamas užtikrinti testų atkuriamumą, rinkis versijomis pažymėtus identifikatorius, pavyzdžiui, mistral-large-2512.

Parametras max_tokens

Šis parametras nustato viršutinę ribą tokenų skaičiui, kurį modelis gali sugeneruoti atsakyme. Jis neįpareigoja modelio sugeneruoti būtent tiek tokenų; tai tik lubos, niekas daugiau.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Apibendrinkite šį tekstą vienu sakiniu."}],
    max_tokens=100  # Atsakymas neviršys 100 tokenų
)

Jei modelis pasiekia šią ribą, atsakymas staiga nutrūksta, o finish_reason grąžina "length" vietoj "stop". Tai dažniausia priežastis, kodėl atsakymai nutrūksta sakinio viduryje, ir niekas to nepastebi, kol nepradeda stebėti šio lauko. Tinkamas refleksas – pritaikyti lubas užduočiai: klasifikacijai pakanka 10–50 tokenų, nes tikiesi tik etiketės, santraukai reikia 200–500 tokenų, laisvo formato rašymui – 1 000–4 000, o kodų generavimas lengvai pasiekia 2 000 arba 8 000 tokenų, nes visas failas yra ilgas.

Parametras temperature

Temperatūra valdo tokenų pasirinkimo atsitiktinumo laipsnį. Kuo mažesnė reikšmė, tuo deterministiškesnis ir nuspėjamesnis tampa modelis; kuo ji didesnė, tuo labiau jis linksta į mažiau tikėtinas tęsinių variacijas. Faktiniams klausimams rinkis pirmąjį variantą, o pavadinimų kūrimo pratimams – antrąjį.

# Žema temperatūra – išgavimas, klasifikacija, faktai
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Kokia yra Prancūzijos sostinė?"}],
    temperature=0.1
)

# Aukšta temperatūra – kūrybiškumas, idėjų generavimas
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Sugalvok pavadinimą dirbtinio intelekto startuoliui."}],
    temperature=1.2
)

Diapazonas yra nuo 0.0 iki 1.5. Nesiremk temperature=0 norėdamas tobulo determinizmo: dėl aparatūros lygmens slankiojo kablelio apvalinimo gali išlikti nedideli skirtumai.

Parametras top_p

Branduolinis ėmimas, arba „Top P“, veikia tą patį mechanizmą, bet kitu keliu: jis riboja kandidatinius tokenus pagal kumuliacinę tikimybės ribą. Nustačius top_p=0.5, konkuruoja tik tie tikimiausi tokenai, kurių susumuota tikimybė siekia 50 %; visi kiti yra atmesti.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Užbaikite: Katė yra ant..."}],
    temperature=0.7,
    top_p=0.9  # Atnžvelgiama į tokenus, apimančius 90 % tikimybės
)

„Mistral“ rekomenduoja vienu metu keisti tik vieną parametrą – arba temperatūrą, arba top_p, bet niekada abu kartu. Priežastis praktinė: jei išvestis tampa keista pakeitus abu slankiklius, niekas nenurodys, kuris iš jų tai lėmė, ir prarasi tiek derinimo galimybes, tiek atkuriamumą.

Pilnas pavyzdys su visais parametrais

Sujungus šiuos nustatymus į vieną užklausą, sukuriamas šūkio generatorius, kuris tyčia yra trumpas ir šiek tiek drąsus, kartu stebint tokenų sunaudojimą:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Esi glaustas ir įtaigus rinkodaros rašytojas."
        },
        {
            "role": "user",
            "content": "Parašyk šūkį meditacijos programėlei."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")

Paleisk šį scenarijų tris kartus iš eilės, tada pakeisk temperature=0.9 į 0.1 ir paleisk jį dar tris kartus. Skirtumas tarp šių dviejų serijų tau daugiau papasakos apie šį parametrą nei bet koks apibrėžimas.

Svarbiausi punktai

  • model ir messages yra vieninteliai privalomi parametrai
  • max_tokens yra lubos, o ne tikslas – tikrink finish_reason, kad aptiktumėi apkarpymą
  • Naudok žemą temperature faktinėms užduotims, aukštą – kūrybinėms
  • top_p patikslina tokenų pasiskirstymą – nekoreguok jo kartu su temperature
  • Gamybinėje aplinkoje naudok versijomis pažymėtus modelio identifikatorius atkuriamumui užtikrinti