Temperatur och generationsparametrar
På denna sida
Lektionen omskriven den 3 november 2026 baserat på bästa praxis från xAI, API-referensen (Chat Completions och Responses) samt guiden för Reasoning: xAI rekommenderar
temperaturepå 0,7 ochtop_ppå 0,95 för sina modeller. Temperaturer över 1 kapas till 1,top_phar standardvärdet 0,95,max_completion_tokensbegränsar endast det synliga svaret (standard är 128 000 token) ochseedgaranterar inte determinism. Den tidigare versionen rekommenderade temperaturer upp till 2, ett standardvärde förtop_ppå 1 och en begränsning som inkluderade resonemang. Källor: Bästa praxis · Chat Completions · Reasoning.
Styr generationen med parametrar
Utöver din prompttext accepterar Grok API:et flera numeriska parametrar som påverkar hur modellen genererar sitt svar. Med dagens modeller är den viktigaste lärdomen kontraintuitiv: hantera dessa inställningar med stor återhållsamhet och kom ihåg att prompten, långt mer än reglagen, styr svarskvaliteten.

Temperatur
Temperatur styr graden av slumpmässighet vid val av token. API-referensen beskriver det klassiskt: ett lågt värde, som 0,2, gör utdata mer fokuserad och deterministisk; ett högre värde, som 0,8, gör den mer varierad. Parametern accepterar värden från 0 till 2, men allt över 1 samplas som 1.
Bästa praxis från xAI går längre: ställ in temperature på 0,7 och avvik inte mycket från detta. Enligt xAI reagerar Grok-modeller dåligt på andra samplingsinställningar, och kvaliteten sjunker generellt när du modifierar dem.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
"temperature": 0.7,
"top_p": 0.95
}
För att få mer kreativitet, noggrannhet eller koncisitet, använd istället prompten: be explicit om oväntade förslag, en faktabaserad ton eller ett svar i tre punkter. Detta är fokus för de följande lektionerna.
Parametern top_p (nukleussampling)
Parametern top_p begränsar valet till token som tillsammans når en given sannolikhetsmassa: vid 0,1 beaktas endast token som representerar de 10 % högsta sannolikheten. Dagens Grok-textmodeller har detta standardiserat till 0,95, och värden över modellens standardvärde kapas till den standarden.
API-referensen upprepar det vanliga rådet att modifiera antingen temperature eller top_p, men inte båda. Bästa praxis från xAI, som är nyare och specifik för dess modeller, ber dig istället att ställa in båda explicit vid varje förfrågan – 0,7 och 0,95 – så att dina resultat inte beror på serverns standardvärden, och att använda samma värden för alla modeller du jämför.
max_completion_tokens
Denna parameter begränsar antalet token i svaret. Den tjänar till att kontrollera längden och kostnaden för den synliga delen.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Summarize this document in three points"}],
"max_completion_tokens": 500
}
Viktiga punkter enligt API-referensen:
- Den gäller endast synliga token: resonemang och funktionsanrop räknas inte; ansträngningsnivån för resonemang styr reflektionen
- Utan ett värde är standarden 128 000 token; den gamla
max_tokensär föråldrad - Om gränsen nås klipps svaret av och
finish_reasonblir"length"istället för"stop"(Responses API:n kallar denna takgränsmax_output_tokensoch signalerar statusenincomplete)
Parametern seed
Parametern seed begär att systemsamplingen ska vara så deterministisk som möjligt: upprepade förfrågningar med samma seed och parametrar bör ge samma resultat. API-referensen specificerar att determinism inte garanteras och hänvisar till fältet system_fingerprint i svaret för att upptäcka ändringar på serversidan.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
Användningsområden för seed:
- Tester och felsökning: verifiera att en prompt ger stabila resultat
- Jämförelse: testa olika promptformuleringar med samma seed för att isolera effekten av ändringen
- Spårning: logga
seedochsystem_fingerprinttillsammans med varje resultat för att förklara varians
Parametrar som avvisas av resonemangsmodeller
Nuvarande Grok-modeller resonerar: presence_penalty, frequency_penalty och stop kan inte skickas till dem, och en förfrågan som innehåller dem returnerar ett fel. logprobs ignoreras däremot från och med Grok 4.20. Om du porterar kod skriven för en annan leverantör, ta bort dessa parametrar.
Rekommenderade inställningar
xAI föreslår inte en uppsättning inställningar per användningsfall: rekommendationen är densamma överallt.
{"temperature": 0.7, "top_p": 0.95}
Lägg till en max_completion_tokens anpassad till den förväntade längden vid behov, en seed för dina tester och, på grok-4.5 till 4.7, en ansträngningsnivå för resonemang (reasoning_effort) vald utifrån uppgiftens svårighetsgrad: detta, inte temperaturen, avgör hastighet, kostnad och djup.
Praktisk övning
Skicka samma prompt tre gånger, med temperature på 0,7 och top_p på 0,95, och skicka sedan tre gånger en version av prompten som specificerar den förväntade tonen och formatet:
Prompt A: "Propose three names for a meditation app"
Prompt B: "Propose three short, evocative, and unexpected names for a meditation app
designed for busy executives. One name per line, no explanation."
Jämför variationen och relevansen i svaren: skillnaden kommer från prompten, inte parametrarna.
Viktiga punkter
- xAI rekommenderar
temperaturepå 0,7 ochtop_ppå 0,95, inställda explicit vid varje förfrågan - Över 1 kapas temperaturen till 1;
top_pöverskrider inte modellens standardvärde (0,95) max_completion_tokensbegränsar endast det synliga svaret, standard är 128 000 tokenseedsyftar till reproducerbarhet utan garanti: spårasystem_fingerprintpresence_penalty,frequency_penaltyochstopavvisas av resonemangsmodeller