Поддържани модели и съвместимост
На тази страница
Съвместимост на моделите на Mistral
Не всички модели на Mistral обработват структурираните изходи по един и същи начин. Преди да напишете и ред код, уверете се, че избраният от Вас модел поддържа подхода, който сте избрали. Тази тридесетсекундна проверка ще Ви спести сблъсъка с неразбираема грешка в API в края на разработката.
Ето и добрата новина в едно изречение: почти всички модели на Mistral поддържат структурирани изходи, както в JSON режим, така и чрез персонализирани структурирани изходи. Единственото изключение, codestral-mamba, беше оттеглено от Mistral през юни 2025 г.
Основни модели
Ето най-често използваните модели и техният статус на съвместимост (към април 2026 г.):
| Модел | Съвместимост | Типичен случай на употреба |
|---|---|---|
mistral-large-latest | Пълна поддръжка (JSON режим + Персонализиран) | Сложни задачи, изискващи надеждни структурирани изходи |
mistral-medium-latest | Пълна поддръжка | Най-добро съотношение производителност/разходи за производствени конвейери |
mistral-small-latest | Пълна поддръжка | Прости задачи (класификация, основно извличане на entidades) при ограничен бюджет |
ministral-8b-latest | Пълна поддръжка | Леки извличания с минимална латентност |
ministral-3b-latest | Пълна поддръжка | Най-леката опция, когато скоростта е по-важна от сложността |
codestral-latest | Пълна поддръжка | Оптимизиран за код, но работи и за задачи, несвързани с код |
mistral-embed | Не е приложимо | Модел за вграждания; не генерира текст |
Универсалните модели Large, Medium и Small покриват повечето нужди, докато семейството Ministral се справя с ограниченията във времето за отговор (латентност).
Избор на правилния модел
По време на прототипиране използвайте mistral-small-latest или ministral-8b-latest. Те са бързи, евтини и повече от достатъчни, за да потвърдите, че Вашата схема е издържана и че Вашият промпт казва точно това, което мислите, че казва. Плащането за най-мощния модел, само за да откриете, че едно поле е наименувано грешно, е загуба на ресурси.
# Прототипиране — лек модел
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
В производствена среда критериите се променят. Извличането на множество полета, нюансираният анализ на настроенията или финалната класификация оправдават използването на mistral-large-latest. Обратно, проста задача, обработвана в голям обем, все още работи отлично на mistral-small-latest. Обърнете внимание на добавянето на temperature=0 тук; ще разгледаме този параметър подробно по-долу.
# Производство — мощен модел
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Максимална възпроизводимост
)
Накрая, помислете за конвейери с висока честота, където латентността е водещото ограничение. Ако обработвате хиляди заявки в минута – като класификация на билети или сортиране на имейли – ministral-8b-latest предлага най-доброто съотношение между латентност и качество. Ограничаването на maxTokens предотвратява задържането на модела върху прекалено дълги отговори.
// TypeScript — конвейер с висока честота
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Ограничение за скорост
});
Параметърът temperature
Един момент заслужава Вашето внимание: temperature влияе върху вариативността на изхода дори в структуриран режим. При стойност 0 изходът е детерминиран. Това е препоръчителната настройка за производство и навсякъде, където възпроизводимостта има значение – две изпълнения върху един и същи документ трябва да дадат един и същи запис. Между 0.1 и 0.3 въвеждате лека вариативност, което е полезно само ако искате различни формулировки в текстовите полета, като например обобщение. От 0.7 нагоре вариативността става силна и моделът може да произведе непоследователни стойности. Избягвайте това при структурирани изходи.
Програмна проверка на съвместимостта
В производствена среда, вместо да разчитате на статичен списък, прихващайте грешката, върната от SDK, когато даден модел не може да изпълни заявката:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # идентификатор, прочетен от Вашата конфигурация
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Model not compatible: {e}")
Този навик остава ценен с течение на времето. Mistral редовно пуска нови модели, а поддръжката на структуриран изход се превърна в стандарт, който новите поколения поддържат систематично. Консултирайте се с официалната документация за актуалния списък, преди да фиксирате идентификатор във Вашата конфигурация.
Ключови изводи
- Текущите модели на Mistral поддържат структурирани изходи; историческото изключение,
codestral-mamba, беше оттеглено през юни 2025 г. - Използвайте
temperature: 0в производство за възпроизводими изходи. - Изберете своя модел въз основа на нуждите си:
mistral-largeза качество,ministral-8bза скорост. - И двата подхода (JSON режим и Персонализиран) се поддържат от едни и същи модели.