Temperatur og generationsparametre
På denne side
Lektionen er omskrevet den 3. november 2026 baseret på xAI’s bedste praksis, API-referencen (Chat Completions og Responses) og Reasoning-guiden: xAI anbefaler
temperaturepå 0,7 ogtop_ppå 0,95 til sine modeller; temperaturer over 1 begrænses til 1,top_phar standardværdien 0,95,max_completion_tokensbegrænser kun det synlige svar (standard 128.000 tokens), ogseedgaranterer ikke determinisme. Den tidligere version anbefalede temperaturer op til 2, en standardtop_ppå 1 og en grænse, der inkluderede ræsonnement. Kilder: Bedste praksis · Chat Completions · Reasoning.
Styr generationen med parametre
Ud over din prompttekst accepterer Grok API’en flere numeriske parametre, der påvirker, hvordan modellen genererer sit svar. Med de nuværende modeller er hovedlektien kontraintuitiv: håndtér disse indstillinger med stor tilbageholdenhed, og husk, at prompten – langt mere end skyderne – styrer svarets kvalitet.

Temperatur
Temperatur styrer graden af tilfældighed i token-valget. API-referencen beskriver det klassisk: en lav værdi, som 0,2, gør outputtet mere fokuseret og deterministisk; en højere værdi, som 0,8, gør det mere varieret. Den accepterer værdier fra 0 til 2, men alt over 1 samples som 1.
xAI’s bedste praksis går videre: sæt temperature til 0,7 og afvig ikke meget fra dette. Ifølge xAI reagerer Grok-modeller dårligt på andre sampling-indstillinger, og kvaliteten falder generelt, når du ændrer dem.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
"temperature": 0.7,
"top_p": 0.95
}
For at opnå mere kreativitet, stringens eller koncision skal du i stedet bruge prompten: bed eksplicit om uventede forslag, en faktuel tone eller et svar i tre punkter. Dette er fokus for de følgende lektioner.
Parameteren top_p (nukleus-sampling)
Parameteren top_p begrænser valget til tokens, der samlet set udgør en given sandsynlighedsmasse: ved 0,1 betragtes kun tokens, der repræsenterer de øverste 10 % af sandsynligheden. Nuværende Grok-tekstmodeller har denne indstilling sat til standardværdien 0,95, og værdier over modellens standard begrænses til denne standardværdi.
API-referencen gentager det sædvanlige råd om at ændre enten temperature eller top_p, men ikke begge. xAI’s bedste praksis, som er nyere og specifik for deres modeller, beder dig i stedet om at sætte begge eksplicit ved hver anmodning – 0,7 og 0,95 – så dine resultater ikke afhænger af serverens standardindstillinger, og for at bruge de samme værdier til alle modeller, du sammenligner.
max_completion_tokens
Denne parameter begrænser antallet af tokens i svaret. Den tjener til at kontrollere længden og omkostningerne ved den synlige del.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Summarize this document in three points"}],
"max_completion_tokens": 500
}
Vigtige pointer ifølge API-referencen:
- Den gælder kun for synlige tokens: ræsonnement og funktionskald tæller ikke; indsatsen for ræsonnement (
reasoning_effort) styrer refleksionen - Uden en værdi er standarden 128.000 tokens; den gamle
max_tokenser udfaset - Hvis grænsen nås, afbrydes svaret, og
finish_reasonbliver"length"i stedet for"stop"(Responses API’en kalder denne grænsemax_output_tokensog signalerer en statusincomplete)
Parameteren seed
Parameteren seed anmoder om, at systemets sampling er så deterministisk som muligt: gentagne anmodninger med samme seed og parametre bør give samme resultat. API-referencen specificerer, at determinisme ikke er garanteret, og henviser til feltet system_fingerprint i svaret for at opdage ændringer på serversiden.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
Anvendelsestilfælde for seed:
- Test og fejlfinding: verificér, at en prompt producerer stabile resultater
- Sammenligning: test forskellige prompt-formuleringer med samme seed for at isolere effekten af ændringen
- Sporing: log
seedogsystem_fingerprintsammen med hvert resultat for at forklare varians
Parametre, der afvises af ræsonnementsmodeller
Nuværende Grok-modeller udfører ræsonnement: presence_penalty, frequency_penalty og stop kan ikke sendes til dem, og en anmodning, der indeholder dem, returnerer en fejl. logprobs ignoreres derimod fra Grok 4.20. Hvis du porterer kode skrevet til en anden udbyder, skal du fjerne disse parametre.
Anbefalede indstillinger
xAI foreslår ikke et sæt indstillinger pr. brugstilfælde: deres anbefaling er den samme overalt.
{"temperature": 0.7, "top_p": 0.95}
Tilføj en max_completion_tokens tilpasset den forventede længde efter behov, en seed til dine tests og, på grok-4.5 til 4.7, en ræsonnementsindsats (reasoning_effort) valgt ud fra opgavens sværhedsgrad: dette, og ikke temperaturen, afgør hastighed, omkostninger og dybde.
Praktisk øvelse
Send den samme prompt tre gange med temperature på 0,7 og top_p på 0,95, og send derefter tre gange en version af prompten, der specificerer den forventede tone og format:
Prompt A: "Propose three names for a meditation app"
Prompt B: "Propose three short, evocative, and unexpected names for a meditation app
designed for busy executives. One name per line, no explanation."
Sammenlign variationen og relevansen af svarene: forskellen kommer fra prompten, ikke parametrene.
Vigtige pointer
- xAI anbefaler
temperaturepå 0,7 ogtop_ppå 0,95, sat eksplicit ved hver anmodning - Over 1 begrænses temperaturen til 1;
top_poverstiger ikke modellens standard (0,95) max_completion_tokensbegrænser kun det synlige svar, standard 128.000 tokensseedsigter mod reproducerbarhed uden garanti: sporsystem_fingerprintpresence_penalty,frequency_penaltyogstopafvises af ræsonnementsmodeller