Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Atbalstītie modeļi un saderība

Nodarbība 3 no 12 Atjaunota 2026. gada 2. novembris Programmētājs
Šajā lapā
  1. Mistral modeļu saderība
  2. Pamata modeļi
  3. Pareizā modeļa izvēle
  4. Parametrs temperature
  5. Saderības programmētiska pārbaude
  6. Galvenās atziņas

Mistral modeļu saderība

Ne visi Mistral modeļi apstrādā strukturētas izvades vienādi. Pirms uzraksti pirmo koda rindiņu, pārliecinies, ka tavs izvēlētais modelis atbalsta izraudzīto pieeju. Šī trīsdesmit sekunžu pārbaude pasargās tevi no nesaprotamas API kļūdas izstrādes noslēgumā.

Labs ziņas slēpjas vienā teikumā: gandrīz visi Mistral modeļi atbalsta strukturētas izvades, gan JSON režīmā, gan ar pielāgotām strukturētām izvadem. Vienīgais izņēmums, codestral-mamba, tika izņemts no aprites 2025. gada jūnijā.

Pamata modeļi

Lūk, visbiežāk izmantotie modeļi un to saderības statuss (2026. gada aprīļa dati):

ModelisSaderībaTipisks lietojums
mistral-large-latestPilna atbalsta (JSON režīms + Pielāgots)Sarežģīti uzdevumi, kas prasa uzticamas strukturētas izvades
mistral-medium-latestPilna atbalstaLabākais veiktspējas un izmaksu līdzsvars ražošanas cauruļvadiem
mistral-small-latestPilna atbalstaVienkārši uzdevumi (klasifikācija, pamata entīšu ekstrakcija) ar ierobežotu budžetu
ministral-8b-latestPilna atbalstaViegla datu ekstrakcija ar minimālu latentumu
ministral-3b-latestPilna atbalstaViegākais variants, kad ātrums ir svarīgāks par sarežģītību
codestral-latestPilna atbalstaOptimizēts kodam, bet darbojas arī ar nekoda uzdevumiem
mistral-embedNepiemērojamsIegulšanas (embedding) modelis; ģenerē tekstu

Vispārējai lietošanai paredzētie Large, Medium un Small modeļi sedz lielāko daļu vajadzību, savukārt Ministral saime risina latentuma ierobežojumus.

Pareizā modeļa izvēle

Prototipēšanas posmā izmanto mistral-small-latest vai ministral-8b-latest. Tie ir ātri, lēti un vairāk nekā pietiekami, lai pārbaudītu, vai tava shēma ir stabila un tavs prompts pateic to, ko domā. Ir lieki maksāt par jaudīgāko modeli, tikai lai vēlāk atklātu, ka kāds lauks ir nosaukts nepareizi.

# Prototipēšana — viegls modelis
response = client.chat.parse(
    model="ministral-8b-latest",
    messages=messages,
    response_format=MonSchema
)

Ražošanas vidē kritēriji mainās. Daudzlauku ekstrakcija, niansēta sentimenta analīze vai smalkgrainaina klasifikācija attaisno mistral-large-latest izmantošanu. Turpretī vienkāršs uzdevums, ko apstrādā lielos apjomos, joprojām labi darbojas ar mistral-small-latest. Ņem vērā šeit pievienoto temperature=0; mēs šo parametru detalizēti aplūkosim tālāk.

# Ražošana — jaudīgs modelis
response = client.chat.parse(
    model="mistral-large-latest",
    messages=messages,
    response_format=MonSchema,
    temperature=0  # Maksimāla reproducējamība
)

Visbeidzot, padomā par augstas frekvences cauruļvadiem, kur latentums ir galvenais ierobežojums. Ja apstrādā tūkstošiem pieprasījumu minūtē — piemēram, biļešu klasifikāciju vai e-pastu šķirošanu — ministral-8b-latest piedāvā labāko latentuma un kvalitātes attiecību. Ierobežojot maxTokens, tu novērsi modeļa aizkavēšanos, ģenerējot pārāk garas atbildes.

// TypeScript — augstas frekvences cauruļvads
const response = await client.chat.parse({
  model: "ministral-8b-latest",
  messages,
  responseFormat: MonSchema,
  maxTokens: 128,  // Ātruma ierobežojums
});

Parametrs temperature

Vienam punktam ir vērts pievērst īpašu uzmanību: temperature ietekmē izvades mainīgumu pat strukturētā režīmā. Pie vērtības 0 izvade ir deterministiska. Šis ir ieteicamais iestatījums ražošanas vidē un visur, kur svarīga reproducējamība — diviem vienāda dokumenta apstrādes gājieniem jārada identisks ieraksts. Robežās no 0.1 līdz 0.3 tu ievieš nelielu mainīgumu, kas noder tikai tad, ja brīvā teksta laukos (piemēram, kopsavilkumā) vēlies dažādus formulējumus. Sākot no 0.7, mainīgums kļūst spēcīgs, un modelis var ģenerēt nekonsekventas vērtības. Izvairies no tā, strādājot ar strukturētām izvadem.

Saderības programmētiska pārbaude

Ražošanas vidē, nevis paļaujoties uz statisku sarakstu, noķer kļūdu, ko SDK atgriež, ja modelis nevar izpildīt pieprasījumu:

from mistralai.client import Mistral
from mistralai.client.errors import SDKError

client = Mistral(api_key=api_key)

try:
    response = client.chat.parse(
        model=modele,  # identifikators, nolasīts no konfigurācijas
        messages=[{"role": "user", "content": "Test"}],
        response_format=MonSchema
    )
except SDKError as e:
    print(f"Modelis nav saderīgs: {e}")

Šis ieradums saglabā savu vērtību laika gaitā. Mistral regulāri laida klajā jaunus modeļus, un strukturēto izvadu atbalsts ir kļuvis par standartu, ko jaunās paaudzes atbalsta sistemātiski. Pirms fiksē identifikatoru savā konfigurācijā, konsultējies ar oficiālo dokumentāciju, lai iegūtu aktuālo sarakstu.

Galvenās atziņas

  • Pašreizējie Mistral modeļi atbalsta strukturētas izvades; vēsturiskais izņēmums codestral-mamba tika izņemts no aprites 2025. gada jūnijā
  • Ražošanas vidē izmanto temperature: 0, lai nodrošinātu reproducējamas izvades
  • Izvēlies modeli atbilstoši savām vajadzībām: mistral-large kvalitātei, ministral-8b ātrumam
  • Abas pieejas (JSON režīms un Pielāgots) atbalsta tie paši modeļi