Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Hőmérséklet és generálási paraméterek

3. lecke 14 közül Frissítve 2026. november 3. Kezdő
Ezen az oldalon
  1. A generálás vezérlése paraméterekkel
  2. Hőmérséklet (Temperature)
  3. A top_p paraméter (nukleusz mintavételezés)
  4. max_completion_tokens
  5. A seed paraméter
  6. A gondolkodó modellek által elutasított paraméterek
  7. Javasolt beállítások
  8. Gyakorlati feladat
  9. Főbb megállapítások

A leckét 2026. november 3-án írtuk át az xAI legjobb gyakorlatai, az API-referencia (Chat Completions és Responses), valamint a Reasoning útmutató alapján: az xAI a modelljeihez 0,7-es temperature és 0,95-ös top_p értéket javasol; az 1 feletti hőmérsékleti értékeket a rendszer 1-re korlátozza; a top_p alapértelmezett értéke 0,95; a max_completion_tokens kizárólag a látható választ korlátozza (alapértelmezetten 128 000 token), míg a seed nem garantálja a determinisztikus működést. A korábbi verzió 2-ig terjedő hőmérsékleti értékeket, 1-es alapértelmezett top_p-t és a gondolkodási folyamatot is tartalmazó korlátot javasolt. Források: Legjobb gyakorlatok · Chat Completions · Reasoning.

A generálás vezérlése paraméterekkel

A prompt szövegén túl a Grok API számos numerikus paramétert fogad el, amelyek befolyásolják, hogyan generálja a modell a választ. A jelenlegi modellek esetén a legfontosabb tanulság ellentmondásos lehet: ezeket a beállításokat rendkívül visszafogottan kell kezelned, és ne feledd, hogy a válasz minőségét sokkal inkább a prompt határozza meg, mint a csúszkák.

Egy kreatív válasz, amelyet a prompt segítségével kaptunk a Grok alkalmazásban

Hőmérséklet (Temperature)

A hőmérséklet szabályozza a tokenkiválasztás véletlenszerűségének mértékét. Az API-referencia klasszikusan írja le ezt: egy alacsony érték, például 0,2, fókuszáltabbá és determinisztikusabbá teszi a kimenetet; egy magasabb érték, például 0,8, változatosabbá. Az érték 0 és 2 között lehet, de bármi, ami 1 felett van, azt a rendszer 1-nek veszi.

Az xAI legjobb gyakorlatai ennél tovább mennek: állítsd a temperature értékét 0,7-re, és ne térj el jelentősen ettől. Az xAI szerint a Grok modellek rosszul reagálnak egyéb mintavételezési beállításokra, és a minőség általában romlik, ha módosítod ezeket.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0.7
Az xAI által javasolt hőmérséklet
1
Tényleges hőmérsékleti felső korlát
0.95
Javasolt és alapértelmezett top_p

Ha több kreativitásra, szigorúságra vagy tömörségre van szükséged, használd inkább a promptot: kérj explicit módon váratlan javaslatokat, tényközlő hangnemet, vagy kérj választ három pontban. Erről szólnak a következő leckék.

A top_p paraméter (nukleusz mintavételezés)

A top_p paraméter korlátozza a választást azokra a tokenekre, amelyek egy adott valószínűségi tömeget halmoznak fel: 0,1-es értéknél csak a legfelső 10% valószínűséget képviselő tokenek jönnek szóba. A jelenlegi Grok szöveges modelleknél ez az érték alapértelmezetten 0,95, és a modell alapértelmezett értékét meghaladó értékeket a rendszer erre az alapértelmezett szintre korlátozza.

Bár az API-referencia megismétli a szokásos tanácsot, miszerint vagy a temperature, vagy a top_p értékét módosítsd, de mindkettőét ne, az xAI újabb, kifejezetten a saját modelljeire vonatkozó legjobb gyakorlatai azt kérik, hogy mindkét értéket állítsd be explicit módon minden kérésnél – 0,7-re és 0,95-re –, hogy az eredményeid ne függjenek a szerver alapértelmezéseitől, és ugyanazokat az értékeket használd minden összehasonlított modell esetén.

max_completion_tokens

Ez a paraméter korlátozza a válaszban lévő tokenek számát. Arra szolgál, hogy kontrolláld a látható rész hosszát és költségét.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Summarize this document in three points"}],
  "max_completion_tokens": 500
}

Fontos tudnivalók az API-referencia alapján:

  • Kizárólag a látható tokenekre vonatkozik: a gondolkodási folyamatok és a függvényhívások nem számítanak bele; a gondolkodási erőfeszítést a reasoning_effort vezérli.
  • Érték megadása nélkül az alapértelmezett érték 128 000 token; a régi max_tokens paraméter elavult.
  • Ha eléri a korlátot, a válasz levágásra kerül, és a finish_reason értéke "length" lesz a "stop" helyett (a Responses API ezt a korlátot max_output_tokens néven említi, és incomplete státuszt jelez).

A seed paraméter

A seed paraméter arra kéri a rendszert, hogy a mintavételezés a lehető legdeterminisztikusabb legyen: az azonos seed-del és paraméterekkel végzett ismételt kéréseknek elvileg ugyanazt az eredményt kellene adniuk. Az API-referencia leszögezi, hogy a determinisztikus működés nem garantált, és a válaszban található system_fingerprint mezőre hivatkozik a szerveroldali változások észlelésére.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

A seed felhasználási esetei:

  • Tesztelés és hibakeresés: annak ellenőrzése, hogy egy prompt stabil eredményeket produkál-e.
  • Összehasonlítás: különböző prompt-formulációk tesztelése ugyanazzal a seed-del, hogy elkülönítsd a változtatás hatását.
  • Nyomon követés: a seed és a system_fingerprint naplózása minden eredménnyel együtt a variancia magyarázatára.

A gondolkodó modellek által elutasított paraméterek

A jelenlegi Grok modellek gondolkodnak: a presence_penalty, frequency_penalty és a stop paraméterek nem küldhetők el nekik, és az ezeket tartalmazó kérés hibát eredményez. A logprobs paramétert meanwhile a Grok 4.20 verziótól kezdve figyelmen kívül hagyja a rendszer. Ha más szolgáltatóhoz írt kódot portsz át, távolítsd el ezeket a paramétereket.

Javasolt beállítások

Az xAI nem javasol használatesetenként eltérő beállításokat: a javaslatuk mindenhol ugyanaz.

{"temperature": 0.7, "top_p": 0.95}

Szükség szerint adj hozzá egy az elvárt hosszhoz igazított max_completion_tokens értéket, egy seed-et a tesztjeidhez, valamint a grok-4.5 és 4.7 modelleknél egy a feladat nehézsége szerint választott gondolkodási erőfeszítést (reasoning_effort): ez, és nem a hőmérséklet, dönt a sebességről, a költségről és a mélységről.

Gyakorlati feladat

Küldd el ugyanazt a promptot háromszor, 0,7-es temperature és 0,95-ös top_p értékkel, majd küldj el háromszor egy olyan verziót, amely expliciten meghatározza az elvárt hangnemet és formátumot:

Prompt A: "Propose three names for a meditation app"
Prompt B: "Propose three short, evocative, and unexpected names for a meditation app
designed for busy executives. One name per line, no explanation."

Hasonlítsd össze a válaszok változatosságát és relevanciáját: a különbség a promptból, nem pedig a paraméterekből adódik.

Főbb megállapítások

  • Az xAI 0,7-es temperature és 0,95-ös top_p értéket javasol, amelyet minden kérésnél explicit módon be kell állítani.
  • 1 felett a hőmérsékletet a rendszer 1-re korlátozza; a top_p nem haladhatja meg a modell alapértelmezett értékét (0,95).
  • A max_completion_tokens kizárólag a látható választ korlátozza, alapértelmezetten 128 000 tokenig.
  • A seed a reprodukálhatóságot célozza meg garancia nélkül: kövesd nyomon a system_fingerprint értéket.
  • A presence_penalty, frequency_penalty és a stop paramétereket a gondolkodó modellek elutasítják.