Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

It-Temperatura u l-Parametri tal-Ġenerazzjoni

Lezzjoni 3 / 14 Aġġornat 3 ta’ Novembru 2026 Bidbieni
F'din il-paġna
  1. Ikkontrolla l-ġenerazzjoni bil-parametri
  2. It-Temperatura
  3. Il-parametru top_p (kampjunar tan-nukleu)
  4. max_completion_tokens
  5. Il-parametru seed
  6. Parametri miċħuda mill-mudelli tar-raġunament
  7. Settings irrakkomandati
  8. Prattika prattika
  9. Punti Ewlenin

Lezzjon miktuba mill-ġdid fit-3 ta’ Novembru 2026 ibbażata fuq l-aħjar prattiki ta’ xAI, ir-referenza tal-API (Chat Completions u Responses), u l-gwida Reasoning: xAI tirrakkomanda temperature ta’ 0.7 u top_p ta’ 0.95 għall-mudelli tagħha; it-temperaturi ‘l fuq minn 1 huma limitati għal 1; top_p huwa definit b’mod predefinit għal 0.95; max_completion_tokens jillimita biss ir-risposta viżibbli (128,000 token b’mod predefinit); u seed ma jiggarantix id-determiniżmu. Il-verżjoni preċedenti kienet tirrakkomanda temperaturi sa 2, top_p predefinit ta’ 1, u limitu li jinkludi r-raġunament. Sorsi: L-aħjar prattiki · Chat Completions · Reasoning.

Ikkontrolla l-ġenerazzjoni bil-parametri

Lil hinn mit-test tal-prompt tiegħek, l-API ta’ Grok taċċetta diversi parametri numeriċi li jinfluwenzaw kif il-mudell jiġġenera r-risposta tiegħu. Bil-mudelli attwali, il-lezzjoni ewlenija hija kontra l-intuwizzjoni: immaniġġja dawn l-issettjar b’moderazzjoni kbira, u ftakar li l-prompt, ferm aktar mill-”sliders”, imexxi l-kwalità tar-risposta.

Risposta kreattiva miksuba permezz tal-prompt, fl-applikazzjoni Grok

It-Temperatura

It-temperatura tikkontrolla l-grad ta’ każwalità fil-għażla tat-token. Ir-referenza tal-API tiddeskriviha b’mod klassiku: valur baxx, bħal 0.2, jagħmel l-output aktar iffukat u deterministiku; valur ogħla, bħal 0.8, jagħmlu aktar varjat. Taċċetta valuri minn 0 sa 2, iżda kull ħaġa ‘l fuq minn 1 tiġi kkampjunata bħala 1.

L-aħjar prattiki ta’ xAI imorru aktar ‘il quddiem: issettja t-temperature għal 0.7 u tibdilx ħafna minnha. Skont xAI, il-mudelli ta’ Grok jirreaġixxu ħażin għal settings oħra ta’ kampjunar, u l-kwalità ġeneralment tonqos meta timmodifikahom.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0.7
Temperatura rrakkomandata minn xAI
1
Limitu effettiv tat-temperatura
0.95
top_p irrakkomandat u predefinit

Biex tikseb aktar kreattività, rigoru jew konċiżjoni, uża l-prompt minflok: itlob espliċitament proposti mhux mistennija, ton fattwali, jew risposta f’tliet punti. Dan huwa l-fokus tal-lezzjonijiet li jmiss.

Il-parametru top_p (kampjunar tan-nukleu)

Il-parametru top_p jillimita l-għażla għat-token li jakkumulaw massa ta’ probabbiltà mogħtija: f’0.1, jitqiesu biss it-token li jirrappreżentaw l-ogħla 10% tal-probabbiltà. Il-mudelli attwali tat-test ta’ Grok għandhom dan issettjat b’mod predefinit għal 0.95, u valuri ogħla mid-definizzjoni predefinita tal-mudell huma limitati għal dik id-definizzjoni predefinita.

Ir-referenza tal-API tirrepeti l-parir usuali li timmodifika jew it-temperature jew il-top_p, iżda mhux it-tnejn. L-aħjar prattiki ta’ xAI, li huma aktar ġodda u speċifiċi għall-mudelli tagħha, jitlob minflok li tissettja t-tnejn espliċitament fuq kull talba — 0.7 u 0.95 — sabiex ir-riżultati tiegħek ma jiddependux fuq id-definizzjonijiet predefiniti tas-server, u tuża l-istess valuri għall-mudelli kollha li tqabbel.

max_completion_tokens

Dan il-parametru jillimita n-numru ta’ token fir-risposta. Iservi biex jikkontrolla t-tul u l-ispiża tal-parti viżibbli.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Summarize this document in three points"}],
  "max_completion_tokens": 500
}

Punti importanti, skont ir-referenza tal-API:

  • Japplika biss għat-token viżibbli: ir-raġunament u s-sejħiet tal-funzjonijiet ma jgħoddux; l-isforz tar-raġunament jikkontrolla r-riflessjoni
  • Mingħajr valur, huwa definit b’mod predefinit għal 128,000 token; il-max_tokens antik huwa skadut
  • Jekk jintlaħaq il-limitu, ir-risposta tiġi maqtugħa u r-finish_reason ikun "length" minflok "stop" (l-API tar-Risponsi tsejjaħ dan il-limitu max_output_tokens u tissinjala status incomplete)

Il-parametru seed

Il-parametru seed jitlob kampjunar tas-sistema kemm jista’ jkun deterministiku: talbiet ripetuti bl-istess seed u parametri għandhom jagħtu l-istess riżultat. Ir-referenza tal-API tispeċifika li d-determiniżmu mhuwiex garantit, u tirreferi għall-qasam system_fingerprint fir-risposta biex tiskopri bidliet fuq in-naħa tas-server.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

Każijiet ta’ użu għas-seed:

  • Testijiet u debugging: ivverifika li prompt jipproduċi riżultati stabbli
  • Tqabbil: ittestja formulazzjonijiet differenti tal-prompt bl-istess seed biex tiżola l-effett tal-bidla
  • Traċċar: irreġistra s-seed u s-system_fingerprint ma’ kull riżultat biex tispjega l-varjanza

Parametri miċħuda mill-mudelli tar-raġunament

Il-mudelli attwali ta’ Grok jirraġunaw: presence_penalty, frequency_penalty, u stop ma jistgħux jintbagħtu lilhom, u talba li fiha dawn tirritorna żball. logprobs, min-naħa l-oħra, jiġi injorat minn Grok 4.20 ‘il quddiem. Jekk qed timporta kodiċi miktub għal fornitur ieħor, neħħi dawn il-parametri.

Settings irrakkomandati

xAI ma tipproponix sett ta’ settings għal kull każ ta’ użu: ir-rakkomandazzjoni tagħha hija l-istess kullimkien.

{"temperature": 0.7, "top_p": 0.95}

Żid max_completion_tokens adattat għat-tul mistenni skont il-ħtieġa, seed għat-testijiet tiegħek, u, fuq grok-4.5 sa 4.7, sforz tar-raġunament (reasoning_effort) magħżul skont id-diffikultà tal-kompitu: dan, mhux it-temperatura, jirbit il-veloċità, l-ispiża u l-fond.

Prattika prattika

Ibgħat l-istess prompt tliet darbiet, b’temperature ta’ 0.7 u top_p ta’ 0.95, imbagħad tliet darbiet verżjoni tal-prompt li tispeċifika t-ton u l-format mistenni:

Prompt A: "Propose three names for a meditation app"
Prompt B: "Propose three short, evocative, and unexpected names for a meditation app
designed for busy executives. One name per line, no explanation."

Qabbel il-varjetà u r-rilevanza tar-risposti: id-differenza tiġi mill-prompt, mhux mill-parametri.

Punti Ewlenin

  • xAI tirrakkomanda temperature ta’ 0.7 u top_p ta’ 0.95, issettjati espliċitament fuq kull talba
  • ‘Il fuq minn 1, it-temperatura hija limitata għal 1; top_p ma jaqbiżx id-definizzjoni predefinita tal-mudell (0.95)
  • max_completion_tokens jillimita biss ir-risposta viżibbli, 128,000 token b’mod predefinit
  • seed jimmira għar-riproduċibbiltà mingħajr garanzija: traċċa s-system_fingerprint
  • presence_penalty, frequency_penalty, u stop huma miċħuda mill-mudelli tar-raġunament