Teplota a parametre generovania
Na tejto strane
Lekcia prepísaná 3. novembra 2026 na základe osvedčených postupov xAI, referencie API (Chat Completions a Responses) a príručky Reasoning: xAI odporúča nastaviť
temperaturena 0.7 atop_pna 0.95 pre svoje modely; hodnoty teploty nad 1 sú orezané na 1, predvolená hodnotatop_pje 0.95,max_completion_tokensobmedzuje iba viditeľnú odpoveď (predvolene 128 000 tokenov) aseednezaručuje determinizmus. Predchádzajúca verzia odporúčala teploty až do 2, predvolenétop_pna 1 a limit zahrňujúci aj uvažovanie. Zdroje: Osvedčené postupy · Chat Completions · Reasoning.
Ovládanie generovania pomocou parametrov
Okrem textu tvojho promptu prijíma API Grok niekoľko číselných parametrov, ktoré ovplyvňujú spôsob generovania odpovede modelom. Pri súčasných modeloch platí counter-intuitívne pravidlo: s týmito nastaveniami zaobchádzaj s veľkou zdržanlivosťou a pamätaj, že kvalitu odpovede určuje predovšetkým prompt, nie posuvníky nastavení.

Teplota
Teplota riadi mieru náhodnosti pri výbere tokenov. Referencia API ju opisuje klasicky: nízka hodnota, napríklad 0.2, robí výstup zameranejší a deterministickejší; vyššia hodnota, napríklad 0.8, ho robí rozmanitejším. Prijíma hodnoty od 0 do 2, ale všetko nad 1 je vzorkované ako 1.
Osvedčené postupy xAI idú ďalej: nastav temperature na 0.7 a príliš sa od tejto hodnoty nevzďaľuj. Podľa xAI reagujú modely Grok zle na iné nastavenia vzorkovania a kvalita sa pri ich zmene zvyčajne zhoršuje.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Navrhni slogan pre biopekáreň"}],
"temperature": 0.7,
"top_p": 0.95
}
Ak chceš dosiahnuť väčšiu kreativitu, presnosť alebo stručnosť, využij radšej prompt: explicitne požiadaj o nečakané návrhy, faktický tón alebo odpoveď v troch bodoch. Tomu sa budeme venovať v nasledujúcich lekciách.
Parameter top_p (vzorkovanie jadrom)
Parameter top_p obmedzuje výber na tokeny, ktoré spolu tvoria danú pravdepodobnostnú hmotu: pri hodnote 0.1 sa berú do úvahy iba tokeny predstavujúce horných 10 % pravdepodobnosti. Súčasné textové modely Grok majú túto hodnotu predvolene nastavenú na 0.95 a hodnoty nad predvolenou hodnotou modelu sú orezané na túto predvolenú hodnotu.
Referencia API opakuje bežnú radu upravovať buď temperature, alebo top_p, ale nie obe naraz. Novšie osvedčené postupy xAI, špecifické pre jej modely, však žiadajú nastaviť obe hodnoty explicitne v každej požiadavke – 0.7 a 0.95 – aby tvoje výsledky nezáviseli od predvolených nastavení servera a aby si používal rovnaké hodnoty pre všetky porovnávané modely.
max_completion_tokens
Tento parameter obmedzuje počet tokenov v odpovedi. Slúži na kontrolu dĺžky a nákladov viditeľnej časti.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Zhrň tento dokument do troch bodov"}],
"max_completion_tokens": 500
}
Dôležité body podľa referencie API:
- Vzťahuje sa iba na viditeľné tokeny: uvažovanie a volania funkcií sa nepočítajú; úsilie o uvažovanie (
reasoning_effort) riadi reflexiu. - Bez zadanej hodnoty je predvolená hodnota 128 000 tokenov; starý parameter
max_tokensje zastaraný. - Ak sa dosiahne limit, odpoveď sa preruší a
finish_reasonmá hodnotu"length"namiesto"stop"(API Responses nazýva tento limitmax_output_tokensa signalizuje stavincomplete).
Parameter seed
Parameter seed požaduje, aby bolo vzorkovanie systému čo najviac deterministické: opakované požiadavky s rovnakým seed a parametrami by mali priniesť rovnaký výsledok. Referencia API špecifikuje, že determinizmus nie je zaručený, a odkazuje na pole system_fingerprint v odpovedi na odhalenie zmien na strane servera.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Vygeneruj 5 názvov pre technologický startup"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
Prípady použitia pre seed:
- Testovanie a ladenie: overenie, či prompt prináša stabilné výsledky.
- Porovnávanie: testovanie rôznych formulácií promptu s rovnakým seedom na izolovanie efektu zmeny.
- Sledovanie: logovanie
seedasystem_fingerprintku každému výsledku na vysvetlenie rozptylu.
Parametre odmietané modelmi s uvažovaním
Súčasné modely Grok uvažujú: parametre presence_penalty, frequency_penalty a stop im nemožno odoslať a požiadavka, ktorá ich obsahuje, vráti chybu. Parameter logprobs je od verzie Grok 4.20 ignorovaný. Ak portuješ kód napísaný pre iného poskytovateľa, tieto parametre odstráň.
Odporúčané nastavenia
xAI nenavrhuje sadu nastavení pre jednotlivé prípady použitia: jej odporúčanie je všade rovnaké.
{"temperature": 0.7, "top_p": 0.95}
Podľa potreby pridaj max_completion_tokens prispôsobený očakávanej dĺžke, seed pre svoje testy a pri modeloch grok-4.5 až 4.7 aj úsilie o uvažovanie (reasoning_effort) zvolené podľa náročnosti úlohy: práve toto, nie teplota, rozhoduje o rýchlosti, nákladoch a hĺbke.
Praktické cvičenie
Odošli ten istý prompt trikrát s temperature nastavenou na 0.7 a top_p na 0.95, potom trikrát verziu promptu, ktorá špecifikuje očakávaný tón a formát:
Prompt A: "Navrhni tri názvy pre meditačnú aplikáciu"
Prompt B: "Navrhni tri krátke, evokatívne a nečakané názvy pre meditačnú aplikáciu
určenú pre zaneprázdnených manažérov. Jeden názov na riadok, bez vysvetlenia."
Porovnaj rozmanitosť a relevantnosť odpovedí: rozdiel pramení z promptu, nie z parametrov.
Kľúčové poznatky
- xAI odporúča nastaviť
temperaturena 0.7 atop_pna 0.95, pričom obe hodnoty treba explicitne zadať v každej požiadavke. - Hodnoty teploty nad 1 sú orezané na 1;
top_pnepresahuje predvolenú hodnotu modelu (0.95). max_completion_tokensobmedzuje iba viditeľnú odpoveď, predvolene na 128 000 tokenov.seedsmeruje k reprodukovateľnosti bez záruky: sledujsystem_fingerprint.- Modely s uvažovaním odmietajú parametre
presence_penalty,frequency_penaltyastop.