Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Temperatūra, top_p un ģenerēšanas parametri

Nodarbība 2 no 16 Atjaunota 2026. gada 3. novembris Programmētājs
Šajā lapā
  1. Temperatūra, top_p un ģenerēšanas parametri
  2. Kā modelis izvēlas nākamo tokeni
  3. Temperatūra
  4. Top_p (kodola izlase)
  5. Citi svarīgi parametri
  6. Novēro variācijas pats
  7. Galvenās atziņas

Atjaunināts 2026. gada 3. novembrī, pamatojoties uz OpenAI dokumentāciju: temperature un top_p tiek pieņemti tikai ar spriešanas līmeni none, savukārt GPT-5.6 modeļi pēc noklusējuma veic spriešanu (medium). Tādēļ izsaukumos, kuros iestatīti šie parametri, ir jānorāda reasoning={"effort": "none"} (Responses API) vai reasoning_effort="none" (Chat Completions). Avoti: Using GPT-6 · GPT-5.6 Terra.

Temperatūra, top_p un ģenerēšanas parametri

Kad nosūti uzvedni valodu modelim, ģenerētais teksts pēc noklusējuma nav deterministisks: divi stingri identiski izsaukumi var atgriezt divas dažādas atbildes. Ģenerēšanas parametri ļauj tev kontrolēt šo atbilžu radošuma vai precizitātes pakāpi. To apgūšana kalpo diviem konkrētiem mērķiem: iegūt rezultātus, kas pielāgoti katram lietojumam, un zināt, kur meklēt problēmu cēloni, ja integrācijas testu komplekts sāk neizdoties katru trešo reizi bez acīmredzama iemesla.

Kā modelis izvēlas nākamo tokeni

Katrā ģenerēšanas solī modelis aprēķina varbūtību sadalījumu visam savam vārdu krājumam un pēc tam no šī sadalījuma izlases veidā atlasa nākamo tokeni. “Labākais” vārds neparādās mehāniski; tā ir izloze. Ģenerēšanas parametri iejaucas pirms izlases veikšanas, vai nu sašaurinot sadalījumu ap ticamākajiem kandidātiem, vai arī to izlīdzinot, lai dotu iespēju arī mazāk ticamajiem variantiem. Zemāk redzamie divi izsaukumi ilustrē šīs nepieciešamības galējības: maiznīcas sauklis ir vērtīgs tikai tad, ja tas pārsteidz, savukārt saraksta komprehensijas sintaksei nekad nevajadzētu pārsteigt.

from openai import OpenAI

client = OpenAI()

# Radoša atbilde (augsta temperatūra)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Faktiska atbilde (zema temperatūra)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Temperatūra

Temperatūra ir reizināšanas koeficients, ko piemēro logitiem pirms softmax funkcijas. Pie 0 sadalījums sašaurinās tik ļoti, ka modelis vienmēr izvēlas visvarbūtīgāko tokeni: uzvedība kļūst gandrīz deterministiska, kas ir tieši tas, ko vēlies no datu ieguves rīka, ko atkārto vienības testā. Robežās no 0,1 līdz 0,3 atbildes paliek ļoti konsekventas no izsaukuma uz izsaukumu: tā ir koda un faktisko atbilžu teritorija. Diapazons no 0,7 līdz 0,9 līdzsvaro radošumu un konsekvenci, kas ir piemērots vispārīgai rakstīšanai. Pārsniedzot to, robežās no 1,0 līdz 1,5, izvades kļūst daudzveidīgas un reizēm mulsinošas – vēlamais efekts smadzeņu vētrai, bet letāls trūkums visur citur.

Zemāk esošajā tabulā apkopoti iestatījumi, kas labi darbojas visbiežākajos lietojumos. Uztver to kā sākumpunktu, ko validēt ar saviem uzvedņiem: ļoti ierobežots uzvednis pieļauj augstāku temperatūru, nekā vari domāt, savukārt vaļīgs uzvednis ātrāk novirzās no ceļa.

Lietojums Temperatūra top_p
Koda ģenerēšana 0,0 – 0,2 1,0
Datu ieguve 0,0 1,0
Profesionāla rakstīšana 0,5 – 0,7 0,9
Smaidzeņu vētra 1,0 – 1,3 0,95
Radoša rakstīšana 1,0 – 1,5 0,9

Top_p (kodola izlase)

Parametrs top_p iedarbojas uz to pašu sadalījumu, bet izmanto pavisam citu mehānismu: tas filtrē tokenus, pamatojoties uz to kumulatīvo varbūtību. Pie top_p=0.9 modelis ņem vērā tikai tos tokenus, kuru kumulatīvā varbūtība sasniedz 90%, vienkārši un bez liekām runām izslēdzot mazticamo izvēļu garo asti. Kamēr temperatūra sagrozīja visu kandidātu varbūtības, top_p saīsina pieļaujamo kandidātu sarakstu.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

No tā izriet praktisks noteikums, kura ievērošanu tu nožēlosi, ja ignorēsi: nemaini temperatūru un top_p vienlaicīgi. Tā kā abi iedarbojas uz vienu un to pašu mehānismu, tu nespēsi piedēvēt novēroto efektu vienam vai otram, un tavi iestatījumi pārvērtīsies par māņticību. Pielāgo vienu parametru, atstājot otru tā noklusējuma vērtībā; OpenAI iesaka sākt ar temperatūru.

Citi svarīgi parametri

max_output_tokens ierobežo atbildes garumu tokenos. Tā ir tava drošība gan attiecībā uz izmaksām, gan bezgalīgām atbildēm, īpaši noderīga, ja izvadei jāietilpst ierobežota interfeisa laukā: ģenerēšanas laikā ierāmēta atbilde ir labāka nekā apgriešana displeja pusē.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

Kopš GPT-5.6 spriešana vairs nav atsevišķs modelis: tas ir iestatījums, kas kontrolē pārdomu laiku visā saimē.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Līmenis low ātri atbild uz vienkāršiem jautājumiem, medium ir godīgs kompromiss lielākajai daļai uzdevumu, bet high iesaista dziļu spriešanu, kas būtu jārezervē patiešām sarežģītām problēmām. Iepriekš minētais diferenciālvienādojums to ir pelnījis; iepazīšanās teikuma pārrakstīšana – nē, jo tu maksātu par pārdomu laiku uzdevumam, kam tas nav vajadzīgs.

Novēro variācijas pats

Nekas neaizstās šo iestatījumu redzēšanu darbībā. Uzraksti Python skriptu, kas nosūta vienu un to pašu uzvedni GPT-5.6 Terra ar piecām temperatūras vērtībām (0, 0,3, 0,7, 1,0 un 1,3) un parāda piecas izvades blakus. Izvēlies atklāti radošu instrukciju, piemēram, „Izgudro nosaukumu mākslīgā intelekta startapam”: gandrīz vārds vārdā atkārtošanās pie 0 un izkliede pie 1,3 kļūs neiespējami nepamanāmas, un šī vizuālā atmiņa kalpos kā atsauces punkts daudz ilgāk nekā vērtību tabula.

Galvenās atziņas

  • Temperatūra kontrolē varbūtību sadalījuma izkliedi
  • top_p filtrē tokenus pēc kumulatīvās varbūtības
  • Nekad nemaini abus vienlaicīgi
  • Zema temperatūra faktiskiem uzdevumiem, augsta – radošiem
  • Spriešanas iestatījums (no none līdz max) attiecas uz visu GPT-5.6 saimi