Modele acceptate și compatibilitate
Pe această pagină
Compatibilitatea modelelor Mistral
Nu toate modelele Mistral gestionează ieșirile structurate în același mod. Înainte de a scrie prima linie de cod, verificați dacă modelul țintă acceptă abordarea aleasă de dumneavoastră. Această verificare de treizeci de secunde vă scutește de întâlnirea cu o eroare API incomprehensibilă la finalul dezvoltării.
Iată vestea bună într-o singură propoziție: aproape toate modelele Mistral acceptă ieșiri structurate, atât în Modul JSON, cât și în Ieșiri Structurate Personalizate. Singura excepție, codestral-mamba, a fost retrasă de Mistral în iunie 2025.
Modele principale
Iată cele mai utilizate modele și starea lor de compatibilitate (la data de aprilie 2026):
| Model | Compatibilitate | Caz de utilizare tipic |
|---|---|---|
mistral-large-latest | Suport complet (Modul JSON + Personalizat) | Sarcini complexe care necesită ieșiri structurate fiabile |
mistral-medium-latest | Suport complet | Cel mai bun raport performanță/cost pentru fluxurile de producție |
mistral-small-latest | Suport complet | Sarcini simple (clasificare, extragere de bază a entităților) cu buget limitat |
ministral-8b-latest | Suport complet | Extrageri ușoare cu latență minimă |
ministral-3b-latest | Suport complet | Cea mai ușoară opțiune când viteza primează în fața complexității |
codestral-latest | Suport complet | Optimizat pentru cod, dar funcționează și pentru sarcini non-cod |
mistral-embed | Nu se aplică | Model de încorporare; nu generează text |
Modelele generaliste Large, Medium și Small acoperă majoritatea nevoilor, în timp ce familia Ministral gestionează constrângerile de latență.
Alegerea modelului potrivit
În timpul prototipării, utilizați mistral-small-latest sau ministral-8b-latest. Acestea sunt rapide, ieftine și mai mult decât suficiente pentru a valida că schema dumneavoastră rezistă și că promptul spune exact ceea ce credeți că spune. A plăti pentru cel mai puternic model doar pentru a descoperi ulterior că un câmp a fost denumit greșit constituie o risipă.
# Prototipare — model ușor
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
Producția schimbă criteriile. Extracția pe mai multe câmpuri, analiza nuanțată a sentimentelor sau clasificarea fină justifică utilizarea lui mistral-large-latest. În schimb, o sarcină simplă procesată la volum mare rulează în continuare eficient pe mistral-small-latest. Observați adăugarea lui temperature=0 aici; vom acoperi acest parametru în detaliu mai jos.
# Producție — model puternic
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Reproductibilitate maximă
)
În final, luați în considerare fluxurile de lucru de înaltă frecvență unde latența este constrângerea dominantă. Dacă procesați mii de cereri pe minut—cum ar fi clasificarea tichetelor sau triajul emailurilor—ministral-8b-latest oferă cel mai bun raport latență-calitate. Limitarea lui maxTokens împiedică modelul să zăbovească asupra unor răspunsuri excesiv de lungi.
// TypeScript — flux de lucru de înaltă frecvență
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Limită pentru viteză
});
Parametrul temperature
Un aspect merită atenția dumneavoastră: temperature influențează variabilitatea ieșirii chiar și în modul structurat. La valoarea 0, ieșirea este deterministă. Aceasta este setarea recomandată pentru producție și oriunde contează reproductibilitatea—două rulări pe același document trebuie să producă aceeași înregistrare. Între 0.1 și 0.3, introduceți o ușoară variabilitate, ceea ce este util doar dacă doriți formulări diferite în câmpurile de text liber, cum ar fi un rezumat. De la 0.7 în sus, variabilitatea devine puternică, iar modelul poate produce valori inconsistente. Evitați acest lucru atunci când utilizați ieșiri structurate.
Verificarea compatibilității programatic
În producție, în loc să vă bazați pe o listă statică, gestionați eroarea returnată de SDK atunci când un model nu poate onora cererea:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identificator citit din configurația dumneavoastră
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Model incompatibil: {e}")
Această practică rămâne valoroasă în timp. Mistral lansează regulat modele noi, iar suportul pentru ieșiri structurate a devenit un standard pe care noile generații îl acceptă sistematic. Consultați documentația oficială pentru lista actualizată înainte de a fixa un identificator în configurația dumneavoastră.
Puncte cheie
- Modelele Mistral actuale acceptă ieșiri structurate; excepția istorică,
codestral-mamba, a fost retrasă în iunie 2025 - Utilizați
temperature: 0în producție pentru ieșiri reproductibile - Alegeți modelul în funcție de nevoile dumneavoastră:
mistral-largepentru calitate,ministral-8bpentru viteză - Ambele abordări (Modul JSON și Personalizat) sunt acceptate de aceleași modele