Atbalstītie modeļi un saderība
Šajā lapā
Mistral modeļu saderība
Ne visi Mistral modeļi apstrādā strukturētas izvades vienādi. Pirms uzraksti pirmo koda rindiņu, pārliecinies, ka tavs izvēlētais modelis atbalsta izraudzīto pieeju. Šī trīsdesmit sekunžu pārbaude pasargās tevi no nesaprotamas API kļūdas izstrādes noslēgumā.
Labs ziņas slēpjas vienā teikumā: gandrīz visi Mistral modeļi atbalsta strukturētas izvades, gan JSON režīmā, gan ar pielāgotām strukturētām izvadem. Vienīgais izņēmums, codestral-mamba, tika izņemts no aprites 2025. gada jūnijā.
Pamata modeļi
Lūk, visbiežāk izmantotie modeļi un to saderības statuss (2026. gada aprīļa dati):
| Modelis | Saderība | Tipisks lietojums |
|---|---|---|
mistral-large-latest | Pilna atbalsta (JSON režīms + Pielāgots) | Sarežģīti uzdevumi, kas prasa uzticamas strukturētas izvades |
mistral-medium-latest | Pilna atbalsta | Labākais veiktspējas un izmaksu līdzsvars ražošanas cauruļvadiem |
mistral-small-latest | Pilna atbalsta | Vienkārši uzdevumi (klasifikācija, pamata entīšu ekstrakcija) ar ierobežotu budžetu |
ministral-8b-latest | Pilna atbalsta | Viegla datu ekstrakcija ar minimālu latentumu |
ministral-3b-latest | Pilna atbalsta | Viegākais variants, kad ātrums ir svarīgāks par sarežģītību |
codestral-latest | Pilna atbalsta | Optimizēts kodam, bet darbojas arī ar nekoda uzdevumiem |
mistral-embed | Nepiemērojams | Iegulšanas (embedding) modelis; ģenerē tekstu |
Vispārējai lietošanai paredzētie Large, Medium un Small modeļi sedz lielāko daļu vajadzību, savukārt Ministral saime risina latentuma ierobežojumus.
Pareizā modeļa izvēle
Prototipēšanas posmā izmanto mistral-small-latest vai ministral-8b-latest. Tie ir ātri, lēti un vairāk nekā pietiekami, lai pārbaudītu, vai tava shēma ir stabila un tavs prompts pateic to, ko domā. Ir lieki maksāt par jaudīgāko modeli, tikai lai vēlāk atklātu, ka kāds lauks ir nosaukts nepareizi.
# Prototipēšana — viegls modelis
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
Ražošanas vidē kritēriji mainās. Daudzlauku ekstrakcija, niansēta sentimenta analīze vai smalkgrainaina klasifikācija attaisno mistral-large-latest izmantošanu. Turpretī vienkāršs uzdevums, ko apstrādā lielos apjomos, joprojām labi darbojas ar mistral-small-latest. Ņem vērā šeit pievienoto temperature=0; mēs šo parametru detalizēti aplūkosim tālāk.
# Ražošana — jaudīgs modelis
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maksimāla reproducējamība
)
Visbeidzot, padomā par augstas frekvences cauruļvadiem, kur latentums ir galvenais ierobežojums. Ja apstrādā tūkstošiem pieprasījumu minūtē — piemēram, biļešu klasifikāciju vai e-pastu šķirošanu — ministral-8b-latest piedāvā labāko latentuma un kvalitātes attiecību. Ierobežojot maxTokens, tu novērsi modeļa aizkavēšanos, ģenerējot pārāk garas atbildes.
// TypeScript — augstas frekvences cauruļvads
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Ātruma ierobežojums
});
Parametrs temperature
Vienam punktam ir vērts pievērst īpašu uzmanību: temperature ietekmē izvades mainīgumu pat strukturētā režīmā. Pie vērtības 0 izvade ir deterministiska. Šis ir ieteicamais iestatījums ražošanas vidē un visur, kur svarīga reproducējamība — diviem vienāda dokumenta apstrādes gājieniem jārada identisks ieraksts. Robežās no 0.1 līdz 0.3 tu ievieš nelielu mainīgumu, kas noder tikai tad, ja brīvā teksta laukos (piemēram, kopsavilkumā) vēlies dažādus formulējumus. Sākot no 0.7, mainīgums kļūst spēcīgs, un modelis var ģenerēt nekonsekventas vērtības. Izvairies no tā, strādājot ar strukturētām izvadem.
Saderības programmētiska pārbaude
Ražošanas vidē, nevis paļaujoties uz statisku sarakstu, noķer kļūdu, ko SDK atgriež, ja modelis nevar izpildīt pieprasījumu:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identifikators, nolasīts no konfigurācijas
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Modelis nav saderīgs: {e}")
Šis ieradums saglabā savu vērtību laika gaitā. Mistral regulāri laida klajā jaunus modeļus, un strukturēto izvadu atbalsts ir kļuvis par standartu, ko jaunās paaudzes atbalsta sistemātiski. Pirms fiksē identifikatoru savā konfigurācijā, konsultējies ar oficiālo dokumentāciju, lai iegūtu aktuālo sarakstu.
Galvenās atziņas
- Pašreizējie Mistral modeļi atbalsta strukturētas izvades; vēsturiskais izņēmums
codestral-mambatika izņemts no aprites 2025. gada jūnijā - Ražošanas vidē izmanto
temperature: 0, lai nodrošinātu reproducējamas izvades - Izvēlies modeli atbilstoši savām vajadzībām:
mistral-largekvalitātei,ministral-8bātrumam - Abas pieejas (JSON režīms un Pielāgots) atbalsta tie paši modeļi