Температура, top_p и параметри за генериране
На тази страница
Обновено на 3 ноември 2026 г. въз основа на документацията на OpenAI:
temperatureиtop_pсе приемат само при усилие за разсъждение (reasoning effort) от типаnone, докато моделите GPT-5.6 разсъждават по подразбиране (medium). Следователно заявките, които задават тези параметри, трябва изрично да посочватreasoning={"effort": "none"}(Responses API) илиreasoning_effort="none"(Chat Completions). Източници: Using GPT-6 · GPT-5.6 Terra.
Температура, top_p и параметри за генериране
Когато изпратите подкана (prompt) към езиков модел, генерираният текст не е детерминиран по подразбиране: две строго идентични заявки могат да върнат два различни отговора. Параметрите за генериране Ви позволяват да контролирате степента на креативност или строгост в тези отговори. Овладяването им служи на две конкретни цели: получаване на резултати, адаптирани към всеки случай на употреба, и знание къде да търсите причината, когато наборът от интеграционни тестове започне да се проваля един път на три без видимо обяснение.
Как моделът избира следващия токен
На всяка стъпка от генерирането моделът изчислява разпределение на вероятностите върху целия си речник, след което избира следващия токен от това разпределение. „Най-добрата“ дума не изскача механично; тя е резултат от теглене. Параметрите за генериране intervenират преди семплирането, като или стесняват разпределението около най-вероятните кандидати, или го изравняват, за да дадат шанс на по-малко вероятните варианти. Двете заявки по-долу илюстрират крайностите на тази необходимост: слоганът за пекарна има стойност само ако изненадва, докато синтаксисът на списъчно включване (list comprehension) никога не бива да изненадва.
from openai import OpenAI
client = OpenAI()
# Креативен отговор (висока температура)
response_creative = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a creative writer.",
input="Propose a slogan for an artisanal bakery.",
temperature=1.2
)
# Фактологичен отговор (ниска температура)
response_factual = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a precise technical assistant.",
input="What is the syntax of a list comprehension in Python?",
temperature=0.1
)
Температура
Температурата е мултипликативен фактор, приложен към логитите преди софтбокса (softmax). При стойност 0 разпределението се стеснява дотолкова, че моделът винаги избира най-вероятния токен: поведението става квази-детерминирано, което е точно това, което искате от извличач на данни, изпълняван в юнит тест. Между 0.1 и 0.3 отговорите остават много последователни от заявка до заявка: това е територията на кода и фактологичните отговори. Диапазонът от 0.7 до 0.9 балансира креативността и последователността, подходящ за общо писане. Отвъд това, между 1.0 и 1.5, изходните данни стават разнообразни и понякога объркващи – желаният ефект за брейнсторминг, но фатален недостатък навсякъде другаде.
Таблицата по-долу събира настройки, които работят добре за най-честите случаи на употреба. Разглеждайте я като отправна точка, която да валидирате със собствените си подкани: една силно ограничена подкана търпи по-висока температура, отколкото бихте си помислили, докато една свободна подкана се обърква по-бързо.
| Случай на употреба | Температура | top_p |
|---|---|---|
| Генериране на код | 0.0 – 0.2 | 1.0 |
| Извличане на данни | 0.0 | 1.0 |
| Професионално писане | 0.5 – 0.7 | 0.9 |
| Брейнсторминг | 1.0 – 1.3 | 0.95 |
| Креативно писане | 1.0 – 1.5 | 0.9 |
Top_p (Семплиране на ядрото)
Параметърът top_p действа върху същото разпределение, но чрез напълно различен механизъм: той филтрира токените въз основа на тяхната кумулативна вероятност. При top_p=0.9 моделът разглежда само токените, чиято кумулативна вероятност достига 90%, като чисто и просто премахва дългата опашка от малко вероятни избори. Докато температурата изкривява вероятностите на всички кандидати, top_p отрязва списъка с допустими кандидати.
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="Generate a technical summary.",
input="Summarize how TLS 1.3 works.",
temperature=0.3,
top_p=0.95
)
Това води до едно практическо правило, за което няма да съжалите, че сте приложили: не променяйте едновременно температурата и top_p. Тъй като и двете действат върху един и същи механизъм, няма да можете да атрибутирате наблюдавания ефект на едното или другото, а настройките Ви ще се превърнат в въпрос на суеверие. Коригирайте един параметър, оставяйки другия на стойността му по подразбиране; OpenAI препоръчва да започнете с температурата.
Други важни параметри
max_output_tokens ограничава дължината на отговора в токени. Това е Вашата гаранция както за разходите, така и срещу безкрайни отговори, особено полезно, когато изходът трябва да се побере в ограничено поле на интерфейса: един отговор, рамкиран по време на генерирането, е по-добър от отрязване на страната на дисплея.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer in one sentence.",
input="What is DNS?",
max_output_tokens=100
)
От GPT-5.6 насам разсъждението вече не е отделен модел: то е настройка, която контролира времето за размисъл в рамките на цялото семейство модели.
response = client.responses.create(
model="gpt-5.6-terra",
input="Solve this differential equation: y' + 2y = e^(-x)",
reasoning={
"effort": "high" # "none", "low", "medium", "high", "xhigh", "max"
}
)
Нивото low отговаря бързо на прости въпроси, medium представлява чест компромис за мнозинството задачи, а high ангажира задълбочено разсъждение, което трябва да се запази за наистина трудни проблеми. Горното диференциално уравнение го заслужава; преразказването на изречение за добре дошли – не, тъй като бихте плащали за време за размисъл върху задача, която не изисква такова.
Наблюдавайте вариацията сами
Нищо не може да замени виждането на тези настройки в действие. Напишете Python скрипт, който изпраща една и съща подкана към GPT-5.6 Terra с пет стойности на температурата (0, 0.3, 0.7, 1.0 и 1.3) и показва петте изхода един до друг. Изберете откровено креативна инструкция, например „Измислете име за стартъп за изкуствен интелект“: почти буквалното повторение при 0 и разпръскването при 1.3 стават невъзможни за пропускане, а тази визуална памет ще служи като отправна точка много по-дълго от всяка таблица със стойности.
Ключови изводи
- Температурата контролира разпръскването на разпределението на вероятностите
top_pфилтрира токените по кумулативна вероятност- Никога не променяйте и двете едновременно
- Ниска температура за фактологични задачи, висока за креативни
- Настройката за разсъждение (от none до max) се прилага към цялото семейство GPT-5.6