Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Temperatur og generationsparametre

Lektion 3 af 14 Opdateret 3. november 2026 Begynder
På denne side
  1. Styr generationen med parametre
  2. Temperatur
  3. Parameteren top_p (nukleus-sampling)
  4. max_completion_tokens
  5. Parameteren seed
  6. Parametre, der afvises af ræsonnementsmodeller
  7. Anbefalede indstillinger
  8. Praktisk øvelse
  9. Vigtige pointer

Lektionen er omskrevet den 3. november 2026 baseret på xAI’s bedste praksis, API-referencen (Chat Completions og Responses) og Reasoning-guiden: xAI anbefaler temperature på 0,7 og top_p på 0,95 til sine modeller; temperaturer over 1 begrænses til 1, top_p har standardværdien 0,95, max_completion_tokens begrænser kun det synlige svar (standard 128.000 tokens), og seed garanterer ikke determinisme. Den tidligere version anbefalede temperaturer op til 2, en standard top_p på 1 og en grænse, der inkluderede ræsonnement. Kilder: Bedste praksis · Chat Completions · Reasoning.

Styr generationen med parametre

Ud over din prompttekst accepterer Grok API’en flere numeriske parametre, der påvirker, hvordan modellen genererer sit svar. Med de nuværende modeller er hovedlektien kontraintuitiv: håndtér disse indstillinger med stor tilbageholdenhed, og husk, at prompten – langt mere end skyderne – styrer svarets kvalitet.

Et kreativt svar opnået via prompten i Grok-applikationen

Temperatur

Temperatur styrer graden af tilfældighed i token-valget. API-referencen beskriver det klassisk: en lav værdi, som 0,2, gør outputtet mere fokuseret og deterministisk; en højere værdi, som 0,8, gør det mere varieret. Den accepterer værdier fra 0 til 2, men alt over 1 samples som 1.

xAI’s bedste praksis går videre: sæt temperature til 0,7 og afvig ikke meget fra dette. Ifølge xAI reagerer Grok-modeller dårligt på andre sampling-indstillinger, og kvaliteten falder generelt, når du ændrer dem.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0.7
Temperature recommended by xAI
1
Effective temperature cap
0.95
Recommended and default top_p

For at opnå mere kreativitet, stringens eller koncision skal du i stedet bruge prompten: bed eksplicit om uventede forslag, en faktuel tone eller et svar i tre punkter. Dette er fokus for de følgende lektioner.

Parameteren top_p (nukleus-sampling)

Parameteren top_p begrænser valget til tokens, der samlet set udgør en given sandsynlighedsmasse: ved 0,1 betragtes kun tokens, der repræsenterer de øverste 10 % af sandsynligheden. Nuværende Grok-tekstmodeller har denne indstilling sat til standardværdien 0,95, og værdier over modellens standard begrænses til denne standardværdi.

API-referencen gentager det sædvanlige råd om at ændre enten temperature eller top_p, men ikke begge. xAI’s bedste praksis, som er nyere og specifik for deres modeller, beder dig i stedet om at sætte begge eksplicit ved hver anmodning – 0,7 og 0,95 – så dine resultater ikke afhænger af serverens standardindstillinger, og for at bruge de samme værdier til alle modeller, du sammenligner.

max_completion_tokens

Denne parameter begrænser antallet af tokens i svaret. Den tjener til at kontrollere længden og omkostningerne ved den synlige del.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Summarize this document in three points"}],
  "max_completion_tokens": 500
}

Vigtige pointer ifølge API-referencen:

  • Den gælder kun for synlige tokens: ræsonnement og funktionskald tæller ikke; indsatsen for ræsonnement (reasoning_effort) styrer refleksionen
  • Uden en værdi er standarden 128.000 tokens; den gamle max_tokens er udfaset
  • Hvis grænsen nås, afbrydes svaret, og finish_reason bliver "length" i stedet for "stop" (Responses API’en kalder denne grænse max_output_tokens og signalerer en status incomplete)

Parameteren seed

Parameteren seed anmoder om, at systemets sampling er så deterministisk som muligt: gentagne anmodninger med samme seed og parametre bør give samme resultat. API-referencen specificerer, at determinisme ikke er garanteret, og henviser til feltet system_fingerprint i svaret for at opdage ændringer på serversiden.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

Anvendelsestilfælde for seed:

  • Test og fejlfinding: verificér, at en prompt producerer stabile resultater
  • Sammenligning: test forskellige prompt-formuleringer med samme seed for at isolere effekten af ændringen
  • Sporing: log seed og system_fingerprint sammen med hvert resultat for at forklare varians

Parametre, der afvises af ræsonnementsmodeller

Nuværende Grok-modeller udfører ræsonnement: presence_penalty, frequency_penalty og stop kan ikke sendes til dem, og en anmodning, der indeholder dem, returnerer en fejl. logprobs ignoreres derimod fra Grok 4.20. Hvis du porterer kode skrevet til en anden udbyder, skal du fjerne disse parametre.

Anbefalede indstillinger

xAI foreslår ikke et sæt indstillinger pr. brugstilfælde: deres anbefaling er den samme overalt.

{"temperature": 0.7, "top_p": 0.95}

Tilføj en max_completion_tokens tilpasset den forventede længde efter behov, en seed til dine tests og, på grok-4.5 til 4.7, en ræsonnementsindsats (reasoning_effort) valgt ud fra opgavens sværhedsgrad: dette, og ikke temperaturen, afgør hastighed, omkostninger og dybde.

Praktisk øvelse

Send den samme prompt tre gange med temperature på 0,7 og top_p på 0,95, og send derefter tre gange en version af prompten, der specificerer den forventede tone og format:

Prompt A: "Propose three names for a meditation app"
Prompt B: "Propose three short, evocative, and unexpected names for a meditation app
designed for busy executives. One name per line, no explanation."

Sammenlign variationen og relevansen af svarene: forskellen kommer fra prompten, ikke parametrene.

Vigtige pointer

  • xAI anbefaler temperature på 0,7 og top_p på 0,95, sat eksplicit ved hver anmodning
  • Over 1 begrænses temperaturen til 1; top_p overstiger ikke modellens standard (0,95)
  • max_completion_tokens begrænser kun det synlige svar, standard 128.000 tokens
  • seed sigter mod reproducerbarhed uden garanti: spor system_fingerprint
  • presence_penalty, frequency_penalty og stop afvises af ræsonnementsmodeller