Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Toetatud mudelid ja ühilduvus

Õppetund 3 / 12 Värskendatud 2. november 2026 Arendajatele
Sellel lehel
  1. Mistrali mudelite ühilduvus
  2. Põhimudelid
  3. Õige mudeli valimine
  4. Parameeter temperature
  5. Ühilduvuse programmeerimine kontrollimine
  6. Peamised punktid

Mistrali mudelite ühilduvus

Kõik Mistrali mudelid ei töötle struktureeritud väljundeid ühtemoodi. Enne kui kirjutad esimesegi koodirea, veendu, et sinu sihtmudel toetab valitud lähenemist. See kolmekümne sekundi pikkune kontroll hoiab sind arendustsükli lõpus kokku puutumast arusaamatu API-veaga.

Hea uudis mahub ühte lausesse: peaaegu kõik Mistrali mudelid toetavad struktureeritud väljundeid, nii JSON-režiimis kui ka kohandatud struktureeritud väljundite puhul. Ainus erand, codestral-mamba, võeti Mistrali poolt kasutusest maha 2025. aasta juunis.

Põhimudelid

Siin on kõige sagedamini kasutatavad mudelid ja nende ühilduvusolek (seisuga aprill 2026):

MudelÜhilduvusTüüpiline kasutusjuhtum
mistral-large-latestTäielik tugi (JSON-režiim + Kohandatud)Komplekssed ülesanded, mis nõuavad usaldusväärseid struktureeritud väljundeid
mistral-medium-latestTäielik tugiParim jõudluse ja kulude suhe tootmiskeskkonna torustikes
mistral-small-latestTäielik tugiLihtsad ülesanded (klassifitseerimine, põhiline olemite eraldamine) piiratud eelarve korral
ministral-8b-latestTäielik tugiKerged ekstraheerimised minimaalse latentsusega
ministral-3b-latestTäielik tugiKergeim variant, kui kiirus on olulisem keerukusest
codestral-latestTäielik tugiOptimeeritud koodi jaoks, kuid sobib ka mitte-koodi ülesanneteks
mistral-embedEi kohaldataManustamismudel; ei genereeri teksti

Üldotstarbelised Large, Medium ja Small mudelid katavad enamiku vajadusi, samas kui Ministrali perekond lahendab latentsuspiirangud.

Õige mudeli valimine

Prototüüpimise etapis kasuta mudelit mistral-small-latest või ministral-8b-latest. Need on kiired, odavad ja enam kui piisavad, et valideerida skeemi toimimist ja veenduda, et sinu prompt ütleb seda, mida sa arvad, et ta ütleb. On raiskamine maksta võimsaima mudeli eest ainult selleks, et avastada hiljem välja valesti nimetatud väli.

# Prototüüpimine — kerge mudel
response = client.chat.parse(
    model="ministral-8b-latest",
    messages=messages,
    response_format=MonSchema
)

Tootmiskeskkonnas muutuvad kriteeriumid. Mitme välja ekstraheerimine, nüansirikas sentimentaalne analüüs või peeneteraline klassifitseerimine õigustavad mudeli mistral-large-latest kasutamist. Vastupidi, lihtne ülesanne, mida töödeldakse suurtes kogustes, töötab suurepäraselt ka mudeliga mistral-small-latest. Pane tähele lisatud parameetrit temperature=0; arutleme seda parameetrit üksikasjalikumalt allpool.

# Tootmine — võimas mudel
response = client.chat.parse(
    model="mistral-large-latest",
    messages=messages,
    response_format=MonSchema,
    temperature=0  # Maksimaalne reprodutseeritavus
)

Lõpuks mõtle kõrge sagedusega torustikele, kus latentsus on domineeriv piirang. Kui töötleid tuhandeid päringuid minutis – näiteks piletite klassifitseerimine või e-kirjade sorteerimine – pakub ministral-8b-latest parimat latentsuse ja kvaliteedi suhet. Parameetri maxTokens piiramine hoiab ära mudeli liiga pikkade vastuste genereerimise.

// TypeScript — kõrge sagedusega torustik
const response = await client.chat.parse({
  model: "ministral-8b-latest",
  messages,
  responseFormat: MonSchema,
  maxTokens: 128,  // Kiiruse piirang
});

Parameeter temperature

Üks punkt väärib erilist tähelepanu: temperature mõjutab väljundi varieeruvust isegi struktureeritud režiimis. Väärtusel 0 on väljund deterministlik. See on soovitatav seade tootmiskeskkonnas ja kõikjal, kus loeb reprodutseeritavus – kaks sama dokumendiga tehtud käivitust peavad andma sama kirje. Vahemikus 0.1 kuni 0.3 tood sisse kerget varieeruvust, mis on kasulik ainult siis, kui soovid erinevaid sõnastusi vaba teksti väljades, nagu kokkuvõte. Alates väärtusest 0.7 muutub varieeruvus tugevaks ja mudel võib genereerida ebajärjekindlaid väärtusi. Välti seda struktureeritud väljundite puhul.

Ühilduvuse programmeerimine kontrollimine

Tootmiskeskkonnas, selle asemel et tugineda staatilisele loetelule, püüda kinni viga, mille SDK tagastab, kui mudel ei suuda päringut täita:

from mistralai.client import Mistral
from mistralai.client.errors import SDKError

client = Mistral(api_key=api_key)

try:
    response = client.chat.parse(
        model=modele,  # identifikaator loetakse sinu konfiguratsioonist
        messages=[{"role": "user", "content": "Test"}],
        response_format=MonSchema
    )
except SDKError as e:
    print(f"Mudel ei ühildu: {e}")

See harjumus jääb ajas väärtuslikuks. Mistral avaldab regulaarselt uusi mudeleid ja struktureeritud väljundite tugi on muutunud standardiks, mida uued põlvkonnad süstemaatiliselt toetavad. Enne identifikaatori fikseerimist oma konfiguratsioonis konsulteeri ametliku dokumentatsiooniga, et saada jooksev nimekiri.

Peamised punktid

  • Praegused Mistrali mudelid toetavad struktureeritud väljundeid; ajalooline erand, codestral-mamba, võeti kasutusest maha 2025. aasta juunis
  • Kasuta tootmiskeskkonnas reprodutseeritavate väljundite saamiseks väärtust temperature: 0
  • Vali mudel oma vajaduste põhjal: mistral-large kvaliteedi jaoks, ministral-8b kiiruse jaoks
  • Mõlemat lähenemist (JSON-režiim ja Kohandatud) toetavad samad mudelid