Grundlæggende parametre
På denne side
Konfigurér dine API-kald
Ud over de påkrævede felter model og messages accepterer Chat Completions API’en en håndfuld parametre, der styrer genereringsadfærden. Disse indstillinger er forskellen på en dataekstraktor, der returnerer identiske resultater for den samme faktura, og en slogan-generator, der aldrig gentager sig selv. Den kaldende kode forbliver uændret fra brugssag til brugssag; kun indstillingerne ændres, og netop derfor skal du forstå, hvad hver enkelt gør.
Her er de parametre, du vil håndtere dagligt, sammen med deres typer og standardværdier.
| Parameter | Type | Standard | Beskrivelse |
|---|---|---|---|
model | string | — | Modelidentifikator (påkrævet) |
messages | array | — | Array af beskeder (påkrævet) |
max_tokens | integer | variabel | Maksimalt antal output-tokens |
temperature | float | 0.7 | Styrer kreativitet (0.0 til 1.5) |
top_p | float | 1.0 | Nukleus-sampling (0.0 til 1.0) |
stream | boolean | false | Aktiverer SSE-streaming |
safe_prompt | boolean | false | Aktiverer sikkerhedsforanstaltninger |
Parameteren model
Dit valg af model bestemmer øjeblikkeligt kapaciteten, hastigheden og omkostningerne ved hvert eneste kald – tre afvejninger, du ikke kan genvinde andre steder. Fra april 2026 er de primære modeller:
# Flagship model — complex reasoning, multilingual
model = "mistral-large-latest"
# Compact model — fast, economical, ideal for production
model = "mistral-small-latest"
# Miniature model — ultra-fast, edge computing
model = "ministral-3b-latest"
# Code model — specialized for programming
model = "codestral-latest"
Suffikset -latest er praktisk under udvikling: det peger altid på den nyeste version uden at kræve kodeændringer. I produktion bliver denne bekvemmelighed dog til en risiko, da en opdatering fra Mistral kan ændre din applikations adfærd subtilt. Foretræk versionsbestemte identifikatorer som mistral-large-2512 for at garantere reproducerbarheden af dine tests.
Parameteren max_tokens
Denne parameter sætter den øvre grænse for antallet af tokens, som modellen kan generere i sit svar. Den tvinger ikke modellen til at producere præcis dette antal; den definerer et loft, ikke andet.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Summarize this text in one sentence."}],
max_tokens=100 # The response will not exceed 100 tokens
)
Hvis modellen rammer denne grænse, afbrydes svaret brat, og finish_reason returnerer "length" i stedet for "stop". Dette er den hyppigste årsag til svar, der stopper midt i en sætning, og ingen lægger mærke til det, før de overvåger dette felt. Den rette refleks er at kalibrere loftet efter opgaven: klassificering passer i 10 til 50 tokens, da du kun forventer et label, en sammenfatning kræver 200 til 500 tokens, frit skrivework tager 1.000 til 4.000, og kodegenerering når nemt 2.000 eller 8.000 tokens, fordi en hel fil er lang.
Parameteren temperature
Temperaturen styrer graden af tilfældighed i token-valget. Jo lavere værdien er, desto mere deterministisk og forudsigelig bliver modellen; jo højere den går, desto mere forsøger den usandsynlige fortsættelser. Til faktuelle spørgsmål ønsker du den første tilgang; til navneøvelser den sidste.
# Low temperature — extraction, classification, factual
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "What is the capital of France?"}],
temperature=0.1
)
# High temperature — creativity, brainstorming
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Invent a name for an AI startup."}],
temperature=1.2
)
Intervallet spænder fra 0.0 til 1.5. Stol ikke på temperature=0 for perfekt determinisme: små variationer består på grund af hardware-niveau flydende komma-afrunding.
Parameteren top_p
Nukleus-sampling, eller Top P, virker på samme løftestang, men via en anden vej: den begrænser kandidat-tokens ved en kumulativ sandsynlighedstærskel. Med top_p=0.5 forbliver kun de mest sandsynlige tokens, hvis summerede sandsynligheder når 50 %, i konkurrencen; resten kasseres fuldstændigt.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Complete: The cat is on the..."}],
temperature=0.7,
top_p=0.9 # Considers tokens covering 90% of the probability
)
Mistral anbefaler at justere kun én parameter ad gangen, enten temperaturen eller top_p, aldrig begge sammen. Årsagen er praktisk: hvis et output bliver mærkeligt efter at have flyttet begge skydere, fortæller intet dig, hvilken der forårsagede det, og du mister både fejlsøgningsmulighed og reproducerbarhed.
Komplet eksempel med alle parametre
Samlet i et enkelt kald skaber disse indstillinger en slogan-generator, der bevidst er kortfattet og lidt dristig, mens den også sporer token-forbrug:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "You are a concise and punchy marketing writer."
},
{
"role": "user",
"content": "Write a slogan for a meditation app."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")
Kør dette script tre gange i træk, og udskift derefter temperature=0.9 med 0.1 og kør det tre gange mere. Forskellen mellem de to serier vil lære dig mere om denne parameter end nogen definition kunne.
Vigtige pointer
modelogmessageser de eneste påkrævede parametremax_tokenser et loft, ikke et mål – tjekfinish_reasonfor at opdage afkortning- Brug lav
temperaturetil faktuelle opgaver, høj til kreativitet top_pforfiner token-fordelingen – justér den ikke samtidig medtemperature- Brug versionsbestemte modelidentifikatorer i produktion for reproducerbarhed