Hőmérséklet és generálási paraméterek
Ezen az oldalon
A leckét 2026. november 3-án írtuk át az xAI legjobb gyakorlatai, az API-referencia (Chat Completions és Responses), valamint a Reasoning útmutató alapján: az xAI a modelljeihez 0,7-es
temperatureés 0,95-östop_pértéket javasol; az 1 feletti hőmérsékleti értékeket a rendszer 1-re korlátozza; atop_palapértelmezett értéke 0,95; amax_completion_tokenskizárólag a látható választ korlátozza (alapértelmezetten 128 000 token), míg aseednem garantálja a determinisztikus működést. A korábbi verzió 2-ig terjedő hőmérsékleti értékeket, 1-es alapértelmezetttop_p-t és a gondolkodási folyamatot is tartalmazó korlátot javasolt. Források: Legjobb gyakorlatok · Chat Completions · Reasoning.
A generálás vezérlése paraméterekkel
A prompt szövegén túl a Grok API számos numerikus paramétert fogad el, amelyek befolyásolják, hogyan generálja a modell a választ. A jelenlegi modellek esetén a legfontosabb tanulság ellentmondásos lehet: ezeket a beállításokat rendkívül visszafogottan kell kezelned, és ne feledd, hogy a válasz minőségét sokkal inkább a prompt határozza meg, mint a csúszkák.

Hőmérséklet (Temperature)
A hőmérséklet szabályozza a tokenkiválasztás véletlenszerűségének mértékét. Az API-referencia klasszikusan írja le ezt: egy alacsony érték, például 0,2, fókuszáltabbá és determinisztikusabbá teszi a kimenetet; egy magasabb érték, például 0,8, változatosabbá. Az érték 0 és 2 között lehet, de bármi, ami 1 felett van, azt a rendszer 1-nek veszi.
Az xAI legjobb gyakorlatai ennél tovább mennek: állítsd a temperature értékét 0,7-re, és ne térj el jelentősen ettől. Az xAI szerint a Grok modellek rosszul reagálnak egyéb mintavételezési beállításokra, és a minőség általában romlik, ha módosítod ezeket.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
"temperature": 0.7,
"top_p": 0.95
}
Ha több kreativitásra, szigorúságra vagy tömörségre van szükséged, használd inkább a promptot: kérj explicit módon váratlan javaslatokat, tényközlő hangnemet, vagy kérj választ három pontban. Erről szólnak a következő leckék.
A top_p paraméter (nukleusz mintavételezés)
A top_p paraméter korlátozza a választást azokra a tokenekre, amelyek egy adott valószínűségi tömeget halmoznak fel: 0,1-es értéknél csak a legfelső 10% valószínűséget képviselő tokenek jönnek szóba. A jelenlegi Grok szöveges modelleknél ez az érték alapértelmezetten 0,95, és a modell alapértelmezett értékét meghaladó értékeket a rendszer erre az alapértelmezett szintre korlátozza.
Bár az API-referencia megismétli a szokásos tanácsot, miszerint vagy a temperature, vagy a top_p értékét módosítsd, de mindkettőét ne, az xAI újabb, kifejezetten a saját modelljeire vonatkozó legjobb gyakorlatai azt kérik, hogy mindkét értéket állítsd be explicit módon minden kérésnél – 0,7-re és 0,95-re –, hogy az eredményeid ne függjenek a szerver alapértelmezéseitől, és ugyanazokat az értékeket használd minden összehasonlított modell esetén.
max_completion_tokens
Ez a paraméter korlátozza a válaszban lévő tokenek számát. Arra szolgál, hogy kontrolláld a látható rész hosszát és költségét.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Summarize this document in three points"}],
"max_completion_tokens": 500
}
Fontos tudnivalók az API-referencia alapján:
- Kizárólag a látható tokenekre vonatkozik: a gondolkodási folyamatok és a függvényhívások nem számítanak bele; a gondolkodási erőfeszítést a
reasoning_effortvezérli. - Érték megadása nélkül az alapértelmezett érték 128 000 token; a régi
max_tokensparaméter elavult. - Ha eléri a korlátot, a válasz levágásra kerül, és a
finish_reasonértéke"length"lesz a"stop"helyett (a Responses API ezt a korlátotmax_output_tokensnéven említi, ésincompletestátuszt jelez).
A seed paraméter
A seed paraméter arra kéri a rendszert, hogy a mintavételezés a lehető legdeterminisztikusabb legyen: az azonos seed-del és paraméterekkel végzett ismételt kéréseknek elvileg ugyanazt az eredményt kellene adniuk. Az API-referencia leszögezi, hogy a determinisztikus működés nem garantált, és a válaszban található system_fingerprint mezőre hivatkozik a szerveroldali változások észlelésére.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
A seed felhasználási esetei:
- Tesztelés és hibakeresés: annak ellenőrzése, hogy egy prompt stabil eredményeket produkál-e.
- Összehasonlítás: különböző prompt-formulációk tesztelése ugyanazzal a seed-del, hogy elkülönítsd a változtatás hatását.
- Nyomon követés: a
seedés asystem_fingerprintnaplózása minden eredménnyel együtt a variancia magyarázatára.
A gondolkodó modellek által elutasított paraméterek
A jelenlegi Grok modellek gondolkodnak: a presence_penalty, frequency_penalty és a stop paraméterek nem küldhetők el nekik, és az ezeket tartalmazó kérés hibát eredményez. A logprobs paramétert meanwhile a Grok 4.20 verziótól kezdve figyelmen kívül hagyja a rendszer. Ha más szolgáltatóhoz írt kódot portsz át, távolítsd el ezeket a paramétereket.
Javasolt beállítások
Az xAI nem javasol használatesetenként eltérő beállításokat: a javaslatuk mindenhol ugyanaz.
{"temperature": 0.7, "top_p": 0.95}
Szükség szerint adj hozzá egy az elvárt hosszhoz igazított max_completion_tokens értéket, egy seed-et a tesztjeidhez, valamint a grok-4.5 és 4.7 modelleknél egy a feladat nehézsége szerint választott gondolkodási erőfeszítést (reasoning_effort): ez, és nem a hőmérséklet, dönt a sebességről, a költségről és a mélységről.
Gyakorlati feladat
Küldd el ugyanazt a promptot háromszor, 0,7-es temperature és 0,95-ös top_p értékkel, majd küldj el háromszor egy olyan verziót, amely expliciten meghatározza az elvárt hangnemet és formátumot:
Prompt A: "Propose three names for a meditation app"
Prompt B: "Propose three short, evocative, and unexpected names for a meditation app
designed for busy executives. One name per line, no explanation."
Hasonlítsd össze a válaszok változatosságát és relevanciáját: a különbség a promptból, nem pedig a paraméterekből adódik.
Főbb megállapítások
- Az xAI 0,7-es
temperatureés 0,95-östop_pértéket javasol, amelyet minden kérésnél explicit módon be kell állítani. - 1 felett a hőmérsékletet a rendszer 1-re korlátozza; a
top_pnem haladhatja meg a modell alapértelmezett értékét (0,95). - A
max_completion_tokenskizárólag a látható választ korlátozza, alapértelmezetten 128 000 tokenig. - A
seeda reprodukálhatóságot célozza meg garancia nélkül: kövesd nyomon asystem_fingerprintértéket. - A
presence_penalty,frequency_penaltyés astopparamétereket a gondolkodó modellek elutasítják.