Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Grundlæggende parametre

Lektion 3 af 16 Opdateret 2. november 2026 Udvikler
På denne side
  1. Konfigurér dine API-kald
  2. Parameteren model
  3. Parameteren max_tokens
  4. Parameteren temperature
  5. Parameteren top_p
  6. Komplet eksempel med alle parametre
  7. Vigtige pointer

Konfigurér dine API-kald

Ud over de påkrævede felter model og messages accepterer Chat Completions API’en en håndfuld parametre, der styrer genereringsadfærden. Disse indstillinger er forskellen på en dataekstraktor, der returnerer identiske resultater for den samme faktura, og en slogan-generator, der aldrig gentager sig selv. Den kaldende kode forbliver uændret fra brugssag til brugssag; kun indstillingerne ændres, og netop derfor skal du forstå, hvad hver enkelt gør.

Her er de parametre, du vil håndtere dagligt, sammen med deres typer og standardværdier.

ParameterTypeStandardBeskrivelse
modelstring—Modelidentifikator (påkrævet)
messagesarray—Array af beskeder (påkrævet)
max_tokensintegervariabelMaksimalt antal output-tokens
temperaturefloat0.7Styrer kreativitet (0.0 til 1.5)
top_pfloat1.0Nukleus-sampling (0.0 til 1.0)
streambooleanfalseAktiverer SSE-streaming
safe_promptbooleanfalseAktiverer sikkerhedsforanstaltninger

Parameteren model

Dit valg af model bestemmer øjeblikkeligt kapaciteten, hastigheden og omkostningerne ved hvert eneste kald – tre afvejninger, du ikke kan genvinde andre steder. Fra april 2026 er de primære modeller:

# Flagship model — complex reasoning, multilingual
model = "mistral-large-latest"

# Compact model — fast, economical, ideal for production
model = "mistral-small-latest"

# Miniature model — ultra-fast, edge computing
model = "ministral-3b-latest"

# Code model — specialized for programming
model = "codestral-latest"

Suffikset -latest er praktisk under udvikling: det peger altid på den nyeste version uden at kræve kodeændringer. I produktion bliver denne bekvemmelighed dog til en risiko, da en opdatering fra Mistral kan ændre din applikations adfærd subtilt. Foretræk versionsbestemte identifikatorer som mistral-large-2512 for at garantere reproducerbarheden af dine tests.

Parameteren max_tokens

Denne parameter sætter den øvre grænse for antallet af tokens, som modellen kan generere i sit svar. Den tvinger ikke modellen til at producere præcis dette antal; den definerer et loft, ikke andet.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Summarize this text in one sentence."}],
    max_tokens=100  # The response will not exceed 100 tokens
)

Hvis modellen rammer denne grænse, afbrydes svaret brat, og finish_reason returnerer "length" i stedet for "stop". Dette er den hyppigste årsag til svar, der stopper midt i en sætning, og ingen lægger mærke til det, før de overvåger dette felt. Den rette refleks er at kalibrere loftet efter opgaven: klassificering passer i 10 til 50 tokens, da du kun forventer et label, en sammenfatning kræver 200 til 500 tokens, frit skrivework tager 1.000 til 4.000, og kodegenerering når nemt 2.000 eller 8.000 tokens, fordi en hel fil er lang.

Parameteren temperature

Temperaturen styrer graden af tilfældighed i token-valget. Jo lavere værdien er, desto mere deterministisk og forudsigelig bliver modellen; jo højere den går, desto mere forsøger den usandsynlige fortsættelser. Til faktuelle spørgsmål ønsker du den første tilgang; til navneøvelser den sidste.

# Low temperature — extraction, classification, factual
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "What is the capital of France?"}],
    temperature=0.1
)

# High temperature — creativity, brainstorming
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Invent a name for an AI startup."}],
    temperature=1.2
)

Intervallet spænder fra 0.0 til 1.5. Stol ikke på temperature=0 for perfekt determinisme: små variationer består på grund af hardware-niveau flydende komma-afrunding.

Parameteren top_p

Nukleus-sampling, eller Top P, virker på samme løftestang, men via en anden vej: den begrænser kandidat-tokens ved en kumulativ sandsynlighedstærskel. Med top_p=0.5 forbliver kun de mest sandsynlige tokens, hvis summerede sandsynligheder når 50 %, i konkurrencen; resten kasseres fuldstændigt.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Complete: The cat is on the..."}],
    temperature=0.7,
    top_p=0.9  # Considers tokens covering 90% of the probability
)

Mistral anbefaler at justere kun én parameter ad gangen, enten temperaturen eller top_p, aldrig begge sammen. Årsagen er praktisk: hvis et output bliver mærkeligt efter at have flyttet begge skydere, fortæller intet dig, hvilken der forårsagede det, og du mister både fejlsøgningsmulighed og reproducerbarhed.

Komplet eksempel med alle parametre

Samlet i et enkelt kald skaber disse indstillinger en slogan-generator, der bevidst er kortfattet og lidt dristig, mens den også sporer token-forbrug:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "You are a concise and punchy marketing writer."
        },
        {
            "role": "user",
            "content": "Write a slogan for a meditation app."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")

Kør dette script tre gange i træk, og udskift derefter temperature=0.9 med 0.1 og kør det tre gange mere. Forskellen mellem de to serier vil lære dig mere om denne parameter end nogen definition kunne.

Vigtige pointer

  • model og messages er de eneste påkrævede parametre
  • max_tokens er et loft, ikke et mål – tjek finish_reason for at opdage afkortning
  • Brug lav temperature til faktuelle opgaver, høj til kreativitet
  • top_p forfiner token-fordelingen – justér den ikke samtidig med temperature
  • Brug versionsbestemte modelidentifikatorer i produktion for reproducerbarhed