Температура и параметри за генериране
На тази страница
Урокът е пренаписан на 3 ноември 2026 г. въз основа на най-добрите практики на xAI, справочника за API (Chat Completions и Responses) и ръководството Reasoning: xAI препоръчва
temperatureот 0.7 иtop_pот 0.95 за своите модели; стойности на температурата над 1 се ограничават до 1;top_pпо подразбиране е 0.95;max_completion_tokensограничава само видимия отговор (по подразбиране 128 000 токена); аseedне гарантира детерминизъм. Предишната версия препоръчваше температури до 2, стойност по подразбиране заtop_pот 1 и ограничение, включващо разсъжденията. Източници: Най-добри практики · Chat Completions · Reasoning.
Контрол на генерирането чрез параметри
Освен текста на Вашата подкана, API на Grok приема няколко числови параметъра, които влияят върху начина, по който моделът генерира своя отговор. При текущите модели основният извод е контраинтуитивен: боравeте с тези настройки със значителна въздържаност и помнете, че подканата, далеч повече от плъзгачите, определя качеството на отговора.

Температура
Температурата контролира степента на случайност при избора на токени. Справочникът за API я описва класически: ниска стойност, като 0.2, прави изхода по-фокусиран и детерминиран; по-висока стойност, като 0.8, го прави по-разнообразен. Тя приема стойности от 0 до 2, но всичко над 1 се семплира като 1.
Най-добрите практики на xAI отиват по-далеч: задайте temperature на 0.7 и не се отклонявайте значително от тази стойност. Според xAI моделите на Grok реагират лошо на други настройки за семплиране и качеството обикновено спада, когато ги модифицирате.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
"temperature": 0.7,
"top_p": 0.95
}
За да постигнете повече креативност, строгост или краткост, използвайте вместо това подканата: изрично поискайте неочаквани предложения, фактологичен тон или отговор в три точки. Това е фокусът на следващите уроци.
Параметърът top_p (семплиране на ядрото)
Параметърът top_p ограничава избора до токени, които сумират дадена вероятностна маса: при 0.1 се разглеждат само токените, представляващи първите 10% от вероятността. Текущите текстови модели на Grok имат този параметър зададен по подразбиране на 0.95, а стойностите над подразбираното за модела се ограничават до тази стойност по подразбиране.
Справочникът за API повтаря обичайния съвет да модифицирате или temperature, или top_p, но не и двете едновременно. Най-добрите практики на xAI, които са по-нови и специфични за нейните модели, изискват вместо това да задавате изрично и двете при всяка заявка — 0.7 и 0.95, — за да не зависят резултатите Ви от сървърните настройки по подразбиране и да използвате едни и същи стойности за всички модели, които сравнявате.
max_completion_tokens
Този параметър ограничава броя на токените в отговора. Той служи за контрол на дължината и разходите за видимата част.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Summarize this document in three points"}],
"max_completion_tokens": 500
}
Важни точки според справочника за API:
- Прилага се само за видимите токени: разсъжденията и извикванията на функции не се броят; усилието за разсъждение контролира рефлексията.
- Без зададена стойност се приема по подразбиране 128 000 токена; старият
max_tokensе остарял. - Ако лимитът бъде достигнат, отговорът се отрязва и
finish_reasonе"length"вместо"stop"(API за Responses нарича този лимитmax_output_tokensи сигнализира статусincomplete).
Параметърът seed
Параметърът seed изисква системното семплиране да бъде възможно най-детерминирано: повторени заявки с един и същ seed и параметри би следвало да дадат един и същ резултат. Справочникът за API уточнява, че детерминизмът не е гарантиран, и препраща към полето system_fingerprint в отговора, за да се открият промени от страна на сървъра.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
Случаи на употреба за seed:
- Тестове и отстраняване на грешки: проверете дали дадена подкана произвежда стабилни резултати.
- Сравнение: тествайте различни формулировки на подканата с един и същ seed, за да изолирате ефекта от промяната.
- Проследяване: записвайте
seedиsystem_fingerprintс всеки резултат, за да обясните вариацията.
Параметри, отхвърлени от моделите за разсъждение
Текущите модели на Grok разсъждават: presence_penalty, frequency_penalty и stop не могат да се изпращат до тях и заявка, съдържаща ги, връща грешка. logprobs, от друга страна, се игнорира от Grok 4.20 нататък. Ако пренасяте код, написан за друг доставчик, премахнете тези параметри.
Препоръчителни настройки
xAI не предлага набор от настройки за всеки случай на употреба: нейната препоръка е еднаква навсякъде.
{"temperature": 0.7, "top_p": 0.95}
Добавете max_completion_tokens, адаптиран към очакваната дължина, според нуждите, seed за Вашите тестове и, при grok-4.5 до 4.7, усилие за разсъждение (reasoning_effort), избрано според трудността на задачата: това, а не температурата, арбитражира скоростта, разходите и дълбочината.
Практическо упражнение
Изпратете една и съща подкана три пъти с temperature 0.7 и top_p 0.95, след което три пъти версия на подканата, която уточнява очаквания тон и формат:
Подкана А: "Предложете три имена за приложение за медитация"
Подкана Б: "Предложете три кратки, въздействащи и неочаквани имена за приложение за медитация,
предназначено за заети ръководители. По едно име на ред, без обяснения."
Сравнете разнообразието и уместността на отговорите: разликата идва от подканата, а не от параметрите.
Ключови изводи
- xAI препоръчва
temperatureот 0.7 иtop_pот 0.95, зададени изрично при всяка заявка. - Над 1 температурата се ограничава до 1;
top_pне надвишава стойността по подразбиране за модела (0.95). max_completion_tokensограничава само видимия отговор, по подразбиране 128 000 токена.seedцели възпроизводимост без гаранция: проследявайтеsystem_fingerprint.presence_penalty,frequency_penaltyиstopсе отхвърлят от моделите за разсъждение.