Obsługiwane modele i kompatybilność
Na tej stronie
Kompatybilność modeli Mistral
Nie wszystkie modele Mistral obsługują wyjścia strukturalne w ten sam sposób. Zanim napiszesz pierwszą linię kodu, upewnij się, że wybrany przez Ciebie model obsługuje przyjęte podejście. Ta trzydziestosekundowa weryfikacja uchroni Cię przed niezrozumiałym błędem API na samym końcu procesu deweloperskiego.
Oto dobra wiadomość w jednym zdaniu: prawie wszystkie modele Mistral obsługują wyjścia strukturalne, zarówno w trybie JSON, jak i w przypadku niestandardowych wyjść strukturalnych. Jedynym wyjątkiem był codestral-mamba, który został wycofany przez Mistral w czerwcu 2025 roku.
Modele podstawowe
Oto najczęściej używane modele i ich status kompatybilności (stan na kwiecień 2026):
| Model | Kompatybilność | Typowe zastosowanie |
|---|---|---|
mistral-large-latest | Pełne wsparcie (tryb JSON + niestandardowe) | Złożone zadania wymagające niezawodnych wyjść strukturalnych |
mistral-medium-latest | Pełne wsparcie | Najlepszy stosunek wydajności do kosztów w potokach produkcyjnych |
mistral-small-latest | Pełne wsparcie | Proste zadania (klasyfikacja, podstawowe wydobywanie encji) przy ograniczonym budżecie |
ministral-8b-latest | Pełne wsparcie | Lekkie ekstrakcje z minimalnym opóźnieniem |
ministral-3b-latest | Pełne wsparcie | Najlżejsza opcja, gdy szybkość jest ważniejsza niż złożoność |
codestral-latest | Pełne wsparcie | Zoptymalizowany pod kod, ale działa również dla zadań niekodowych |
mistral-embed | Nie dotyczy | Model osadzania (embedding); nie generuje tekstu |
Modele ogólnego przeznaczenia Large, Medium i Small pokrywają większość potrzeb, podczas gdy rodzina Ministral radzi sobie z wymaganiami dotyczącymi niskiego opóźnienia.
Wybór odpowiedniego modelu
Podczas prototypowania użyj mistral-small-latest lub ministral-8b-latest. Są szybkie, tanie i w zupełności wystarczające, aby zweryfikować, czy Twoja schema działa poprawnie, a prompt mówi dokładnie to, co myślisz. Płacenie za najpotężniejszy model tylko po to, by odkryć, że pole zostało błędnie nazwane, to strata czasu i pieniędzy.
# Prototypowanie — lekki model
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
W środowisku produkcyjnym kryteria ulegają zmianie. Ekstrakcja wielu pól, subtelna analiza sentymentu czy klasyfikacja o wysokiej granulacji uzasadniają użycie mistral-large-latest. Z drugiej strony, proste zadania przetwarzane na dużą skalę nadal działają świetnie na mistral-small-latest. Zwróć uwagę na dodanie parametru temperature=0; omówimy go szczegółowo poniżej.
# Produkcja — potężny model
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maksymalna powtarzalność
)
Na koniec rozważ potoki wysokiej częstotliwości, gdzie opóźnienie jest głównym ograniczeniem. Jeśli przetwarzasz tysiące żądań na minutę – na przykład klasyfikację zgłoszeń lub wstępną segregację e-maili – ministral-8b-latest oferuje najlepszy stosunek opóźnienia do jakości. Ograniczenie parametru maxTokens zapobiega generowaniu przez model zbyt długich odpowiedzi.
// TypeScript — potok wysokiej częstotliwości
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Limit dla szybkości
});
Parametr temperature
Jeden punkt zasługuje na szczególną uwagę: temperature wpływa na zmienność wyjścia nawet w trybie strukturalnym. Przy wartości 0 wyjście jest deterministyczne. Jest to zalecane ustawienie dla środowiska produkcyjnego i wszędzie tam, gdzie liczy się powtarzalność – dwa uruchomienia na tym samym dokumencie muszą zwrócić ten sam rekord. W zakresie od 0.1 do 0.3 wprowadzasz niewielką zmienność, co jest przydatne tylko wtedy, gdy chcesz uzyskać różne sformułowania w polach tekstowych, takich jak podsumowanie. Od wartości 0.7 w górę zmienność staje się silna, a model może generować niespójne wartości. Unikaj tego przy wyjściach strukturalnych.
Programowe sprawdzanie kompatybilności
W środowisku produkcyjnym, zamiast polegać na statycznej liście, przechwyć błąd zwracany przez SDK, gdy model nie może obsłużyć żądania:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identyfikator odczytany z konfiguracji
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Model niekompatybilny: {e}")
Ten nawyk pozostaje cenny z upływem czasu. Mistral regularnie wypuszcza nowe modele, a obsługa wyjść strukturalnych stała się standardem, który nowe generacje obsługują systematycznie. Przed zablokowaniem identyfikatora w konfiguracji sprawdź oficjalną dokumentację pod kątem aktualnej listy.
Kluczowe wnioski
- Obecne modele Mistral obsługują wyjścia strukturalne; historyczny wyjątek,
codestral-mamba, został wycofany w czerwcu 2025 roku - Używaj
temperature: 0w środowisku produkcyjnym, aby uzyskać powtarzalne wyjścia - Dobierz model do swoich potrzeb:
mistral-largedla jakości,ministral-8bdla szybkości - Oba podejścia (tryb JSON i niestandardowe) są obsługiwane przez te same modele