Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Understøttede modeller og kompatibilitet

Lektion 3 af 12 Opdateret 2. november 2026 Udvikler
På denne side
  1. Kompatibilitet med Mistral-modeller
  2. Kernemodeller
  3. Valg af den rigtige model
  4. Parameteren temperature
  5. Programmatisk kontrol af kompatibilitet
  6. Vigtige pointer

Kompatibilitet med Mistral-modeller

Ikke alle Mistral-modeller håndterer strukturerede output på samme måde. Før du skriver en eneste linje kode, skal du verificere, at din valgte model understøtter den tilgang, du har valgt. Dette tjek på tredive sekunder sparer dig for at støde på en uforståelig API-fejl helt tilbage i udviklingsfasen.

Her er de gode nyheder i én sætning: næsten alle Mistral-modeller understøtter strukturerede output, både i JSON-tilstand og med brugerdefinerede strukturerede output. Den eneste undtagelse, codestral-mamba, blev udfaset af Mistral i juni 2025.

Kernemodeller

Her er de mest anvendte modeller og deres kompatibilitetsstatus (pr. april 2026):

ModelKompatibilitetTypisk brugssag
mistral-large-latestFuld understøttelse (JSON-tilstand + Brugerdefineret)Komplekse opgaver, der kræver pålidelige strukturerede output
mistral-medium-latestFuld understøttelseBedste balance mellem ydeevne og omkostninger til produktionspipelines
mistral-small-latestFuld understøttelseEnkle opgaver (klassificering, grundlæggende enhedsekstraktion) med begrænset budget
ministral-8b-latestFuld understøttelseLetvægts-ekstraktioner med minimal ventetid
ministral-3b-latestFuld understøttelseDet letteste valg, når hastighed vægter højere end kompleksitet
codestral-latestFuld understøttelseOptimeret til kode, men fungerer også til ikke-kode relaterede opgaver
mistral-embedIkke relevantIndlejringsmodel; genererer ikke tekst

De generelle Large-, Medium- og Small-modeller dækker de fleste behov, mens Ministral-familien håndterer begrænsninger relateret til ventetid.

Valg af den rigtige model

Under prototyping bør du bruge mistral-small-latest eller ministral-8b-latest. De er hurtige, billige og mere end tilstrækkelige til at validere, at dit skema holder, og at din prompt siger det, du tror, den siger. Det er spild af penge at betale for den mest kraftfulde model, kun for at opdage, at et felt er navngivet forkert.

# Prototyping — letvægtsmodel
response = client.chat.parse(
    model="ministral-8b-latest",
    messages=messages,
    response_format=MonSchema
)

I produktion ændres kriterierne. Ekstraktion af flere felter, nuanceret sentimenanalyse eller finkornet klassificering berettiger brugen af mistral-large-latest. Omvendt kører en simpel opgave, der behandles i stort volumen, stadig fint på mistral-small-latest. Bemærk tilføjelsen af temperature=0 her; vi vil dække denne parameter i detaljer nedenfor.

# Produktion — kraftfuld model
response = client.chat.parse(
    model="mistral-large-latest",
    messages=messages,
    response_format=MonSchema,
    temperature=0  # Maksimal reproducerbarhed
)

Overvej endelig pipelines med høj frekvens, hvor ventetid er den dominerende begrænsning. Hvis du behandler tusindvis af anmodninger i minuttet – såsom billetklassificering eller e-mail-sortering – tilbyder ministral-8b-latest det bedste forhold mellem ventetid og kvalitet. Begrænsning af maxTokens forhindrer modellen i at bruge for lang tid på alt for lange svar.

// TypeScript — pipeline med høj frekvens
const response = await client.chat.parse({
  model: "ministral-8b-latest",
  messages,
  responseFormat: MonSchema,
  maxTokens: 128,  // Grænse for hastighed
});

Parameteren temperature

Ét punkt fortjener din opmærksomhed: temperature påvirker variabiliteten i outputtet, selv i struktureret tilstand. Ved 0 er outputtet deterministisk. Dette er den anbefalede indstilling til produktion og alle steder, hvor reproducerbarhed er vigtig – to kørsler på samme dokument skal give den samme post. Mellem 0.1 og 0.3 introducerer du en let variabilitet, hvilket kun er nyttigt, hvis du ønsker forskellige formuleringer i frit tekstfelt som f.eks. et resumé. Fra 0.7 og opefter bliver variabiliteten stærk, og modellen kan producere inkonsistente værdier. Undgå dette ved strukturerede output.

Programmatisk kontrol af kompatibilitet

I produktionen bør du i stedet for at stole på en statisk liste fange den fejl, som SDK’en returnerer, når en model ikke kan opfylde anmodningen:

from mistralai.client import Mistral
from mistralai.client.errors import SDKError

client = Mistral(api_key=api_key)

try:
    response = client.chat.parse(
        model=modele,  # identifikator læst fra din konfiguration
        messages=[{"role": "user", "content": "Test"}],
        response_format=MonSchema
    )
except SDKError as e:
    print(f"Model ikke kompatibel: {e}")

Denne vane forbliver værdifuld over tid. Mistral udgiver regelmæssigt nye modeller, og understøttelse af strukturerede output er blevet en standard, som nye generationer understøtter systematisk. Konsulter den officielle dokumentation for den aktuelle liste, før du låser en identifikator fast i din konfiguration.

Vigtige pointer

  • Nuværende Mistral-modeller understøtter strukturerede output; den historiske undtagelse, codestral-mamba, blev udfaset i juni 2025
  • Brug temperature: 0 i produktion for reproducerbare output
  • Vælg din model ud fra dine behov: mistral-large til kvalitet, ministral-8b til hastighed
  • Begge tilgange (JSON-tilstand og Brugerdefineret) understøttes af de samme modeller