Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Grundläggande parametrar

Lektion 3 av 16 Uppdaterad 2 november 2026 Utvecklare
På denna sida
  1. Konfigurera dina API-anrop
  2. Parametern model
  3. Parametern max_tokens
  4. Parametern temperature
  5. Parametern top_p
  6. Komplett exempel med alla parametrar
  7. Viktiga punkter

Konfigurera dina API-anrop

Utöver de obligatoriska fälten model och messages accepterar Chat Completions API ett fåtal parametrar som styr genereringsbeteendet. Dessa inställningar är vad som skiljer en dataextraherare som returnerar identiska resultat för samma faktura från en slogan-generator som aldrig upprepar sig. Den anropande koden förblir oförändrad från ett användningsfall till nästa; det är bara inställningarna som ändras, vilket är exakt varför du behöver förstå vad varje parameter gör.

Här är de parametrar du kommer att hantera dagligen, tillsammans med deras datatyper och standardvärden.

ParameterTypStandardBeskrivning
modelstring—Modellidentifierare (obligatorisk)
messagesarray—Array med meddelanden (obligatorisk)
max_tokensintegervariabelMaximalt antal utdatatokens
temperaturefloat0.7Styr kreativitet (0.0 till 1.5)
top_pfloat1.0Nukleus-sampling (0.0 till 1.0)
streambooleanfalseAktiverar SSE-streaming
safe_promptbooleanfalseAktiverar säkerhetsfilter

Parametern model

Ditt val av modell avgör omedelbart kapacitet, hastighet och kostnad för varje anrop – tre kompromisser du inte kan kompensera för någon annanstans. Från och med april 2026 är de primära modellerna:

# Flaggskeppsmodell – komplex resonemang, flerspråkig
model = "mistral-large-latest"

# Kompakt modell – snabb, ekonomisk, idealisk för produktion
model = "mistral-small-latest"

# Miniatyrmodell – ultra-snabb, edge-datorer
model = "ministral-3b-latest"

# Kodmodell – specialiserad för programmering
model = "codestral-latest"

Suffixet -latest är bekvämt under utveckling: det pekar alltid på den senaste versionen utan att kräva kodändringar. I produktion blir denna bekvämlighet dock en risk, eftersom en uppdatering från Mistral:s sida subtilt kan ändra ditt programs beteende. Föredra versionsnumrerade identifierare som mistral-large-2512 för att garantera reproducerbarheten i dina tester.

Parametern max_tokens

Denna parameter sätter den övre gränsen för antalet tokens modellen får generera i sitt svar. Den tvingar inte modellen att producera exakt det antalet; den definierar ett tak, inget mer.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Sammanfatta denna text i en mening."}],
    max_tokens=100  # Svaret kommer inte att överskrida 100 tokens
)

Om modellen når denna gräns avbryts svaret abrupt och finish_reason returnerar "length" istället för "stop". Detta är den vanligaste orsaken till svar som stoppar mitt i en mening, och ingen märker det förrän de övervakar detta fält. Rätt reflex är att kalibrera taket efter uppgiften: klassificering ryms inom 10 till 50 tokens eftersom du bara förväntar dig en etikett, en sammanfattning behöver 200 till 500 tokens, fritt skrivande tar 1 000 till 4 000, och kodgenerering når lätt 2 000 eller 8 000 tokens eftersom en hel fil är lång.

Parametern temperature

Temperaturen styr graden av slumpmässighet vid val av tokens. Ju lägre värde, desto mer deterministisk och förutsägbar blir modellen; ju högre den går, desto mer försöker den osannolika fortsättningar. För faktiska frågor vill du ha det förstnämnda tillvägagångssättet; för namngivningsövningar det sistnämnda.

# Låg temperatur – extraktion, klassificering, fakta
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Vad är huvudstaden i Frankrike?"}],
    temperature=0.1
)

# Hög temperatur – kreativitet, brainstorming
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Hitta på ett namn på ett AI-startup."}],
    temperature=1.2
)

Intervallet sträcker sig från 0.0 till 1.5. Förlita dig inte på temperature=0 för perfekt determinism: små variationer kvarstår på grund av avrundning av flyttal på hårdvarunivå.

Parametern top_p

Nukleus-sampling, eller Top P, verkar på samma hävstång men via en annan väg: den begränsar kandidattokens genom ett tröskelvärde för kumulativ sannolikhet. Med top_p=0.5 är endast de mest sannolika tokens vars summerade sannolikheter når 50 % kvar i tävlingen; resten kasseras omedelbart.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Fortsätt: Katten sitter på..."}],
    temperature=0.7,
    top_p=0.9  # Beaktar tokens som täcker 90 % av sannolikheten
)

Mistral rekommenderar att du bara justerar en parameter i taget, antingen temperaturen eller top_p, aldrig båda samtidigt. Anledningen är praktisk: om ett utdata blir konstigt efter att du flyttat båda reglagen, finns inget som talar om för dig vilken som orsakade det, och du förlorar både felsökningsmöjligheter och reproducerbarhet.

Komplett exempel med alla parametrar

Sammanslagna i ett enda anrop skapar dessa inställningar en slogan-generator som är avsiktligt kortfattad och lite vågad, samtidigt som den spårar tokenanvändningen:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Du är en kortfattad och punchig marknadsföringsskribent."
        },
        {
            "role": "user",
            "content": "Skriv en slogan för en meditationsapp."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")

Kör detta skript tre gånger i rad, byt sedan ut temperature=0.9 mot 0.1 och kör det tre gånger till. Skillnaden mellan de två serierna kommer att lära dig mer om denna parameter än någon definition någonsin skulle kunna.

Viktiga punkter

  • model och messages är de enda obligatoriska parametrarna
  • max_tokens är ett tak, inte ett mål – kontrollera finish_reason för att upptäcka avkortning
  • Använd låg temperature för faktabaserade uppgifter, hög för kreativitet
  • top_p förfinar tokenfördelningen – justera den inte samtidigt som temperature
  • Använd versionsnumrerade modellidentifierare i produktion för reproducerbarhet