Премини към основното съдържание
Български— Изберете език
Меню

Температура и параметри за генериране

Урок 3 от 14 Обновен 3 ноември 2026 г. Начинаещ
На тази страница
  1. Контрол на генерирането чрез параметри
  2. Температура
  3. Параметърът top_p (семплиране на ядрото)
  4. max_completion_tokens
  5. Параметърът seed
  6. Параметри, отхвърлени от моделите за разсъждение
  7. Препоръчителни настройки
  8. Практическо упражнение
  9. Ключови изводи

Урокът е пренаписан на 3 ноември 2026 г. въз основа на най-добрите практики на xAI, справочника за API (Chat Completions и Responses) и ръководството Reasoning: xAI препоръчва temperature от 0.7 и top_p от 0.95 за своите модели; стойности на температурата над 1 се ограничават до 1; top_p по подразбиране е 0.95; max_completion_tokens ограничава само видимия отговор (по подразбиране 128 000 токена); а seed не гарантира детерминизъм. Предишната версия препоръчваше температури до 2, стойност по подразбиране за top_p от 1 и ограничение, включващо разсъжденията. Източници: Най-добри практики · Chat Completions · Reasoning.

Контрол на генерирането чрез параметри

Освен текста на Вашата подкана, API на Grok приема няколко числови параметъра, които влияят върху начина, по който моделът генерира своя отговор. При текущите модели основният извод е контраинтуитивен: боравeте с тези настройки със значителна въздържаност и помнете, че подканата, далеч повече от плъзгачите, определя качеството на отговора.

Креативен отговор, получен чрез подкана в приложението Grok

Температура

Температурата контролира степента на случайност при избора на токени. Справочникът за API я описва класически: ниска стойност, като 0.2, прави изхода по-фокусиран и детерминиран; по-висока стойност, като 0.8, го прави по-разнообразен. Тя приема стойности от 0 до 2, но всичко над 1 се семплира като 1.

Най-добрите практики на xAI отиват по-далеч: задайте temperature на 0.7 и не се отклонявайте значително от тази стойност. Според xAI моделите на Grok реагират лошо на други настройки за семплиране и качеството обикновено спада, когато ги модифицирате.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0.7
Температура, препоръчана от xAI
1
Ефективен лимит на температурата
0.95
Препоръчителна и стойност по подразбиране за top_p

За да постигнете повече креативност, строгост или краткост, използвайте вместо това подканата: изрично поискайте неочаквани предложения, фактологичен тон или отговор в три точки. Това е фокусът на следващите уроци.

Параметърът top_p (семплиране на ядрото)

Параметърът top_p ограничава избора до токени, които сумират дадена вероятностна маса: при 0.1 се разглеждат само токените, представляващи първите 10% от вероятността. Текущите текстови модели на Grok имат този параметър зададен по подразбиране на 0.95, а стойностите над подразбираното за модела се ограничават до тази стойност по подразбиране.

Справочникът за API повтаря обичайния съвет да модифицирате или temperature, или top_p, но не и двете едновременно. Най-добрите практики на xAI, които са по-нови и специфични за нейните модели, изискват вместо това да задавате изрично и двете при всяка заявка — 0.7 и 0.95, — за да не зависят резултатите Ви от сървърните настройки по подразбиране и да използвате едни и същи стойности за всички модели, които сравнявате.

max_completion_tokens

Този параметър ограничава броя на токените в отговора. Той служи за контрол на дължината и разходите за видимата част.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Summarize this document in three points"}],
  "max_completion_tokens": 500
}

Важни точки според справочника за API:

  • Прилага се само за видимите токени: разсъжденията и извикванията на функции не се броят; усилието за разсъждение контролира рефлексията.
  • Без зададена стойност се приема по подразбиране 128 000 токена; старият max_tokens е остарял.
  • Ако лимитът бъде достигнат, отговорът се отрязва и finish_reason е "length" вместо "stop" (API за Responses нарича този лимит max_output_tokens и сигнализира статус incomplete).

Параметърът seed

Параметърът seed изисква системното семплиране да бъде възможно най-детерминирано: повторени заявки с един и същ seed и параметри би следвало да дадат един и същ резултат. Справочникът за API уточнява, че детерминизмът не е гарантиран, и препраща към полето system_fingerprint в отговора, за да се открият промени от страна на сървъра.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

Случаи на употреба за seed:

  • Тестове и отстраняване на грешки: проверете дали дадена подкана произвежда стабилни резултати.
  • Сравнение: тествайте различни формулировки на подканата с един и същ seed, за да изолирате ефекта от промяната.
  • Проследяване: записвайте seed и system_fingerprint с всеки резултат, за да обясните вариацията.

Параметри, отхвърлени от моделите за разсъждение

Текущите модели на Grok разсъждават: presence_penalty, frequency_penalty и stop не могат да се изпращат до тях и заявка, съдържаща ги, връща грешка. logprobs, от друга страна, се игнорира от Grok 4.20 нататък. Ако пренасяте код, написан за друг доставчик, премахнете тези параметри.

Препоръчителни настройки

xAI не предлага набор от настройки за всеки случай на употреба: нейната препоръка е еднаква навсякъде.

{"temperature": 0.7, "top_p": 0.95}

Добавете max_completion_tokens, адаптиран към очакваната дължина, според нуждите, seed за Вашите тестове и, при grok-4.5 до 4.7, усилие за разсъждение (reasoning_effort), избрано според трудността на задачата: това, а не температурата, арбитражира скоростта, разходите и дълбочината.

Практическо упражнение

Изпратете една и съща подкана три пъти с temperature 0.7 и top_p 0.95, след което три пъти версия на подканата, която уточнява очаквания тон и формат:

Подкана А: "Предложете три имена за приложение за медитация"
Подкана Б: "Предложете три кратки, въздействащи и неочаквани имена за приложение за медитация,
предназначено за заети ръководители. По едно име на ред, без обяснения."

Сравнете разнообразието и уместността на отговорите: разликата идва от подканата, а не от параметрите.

Ключови изводи

  • xAI препоръчва temperature от 0.7 и top_p от 0.95, зададени изрично при всяка заявка.
  • Над 1 температурата се ограничава до 1; top_p не надвишава стойността по подразбиране за модела (0.95).
  • max_completion_tokens ограничава само видимия отговор, по подразбиране 128 000 токена.
  • seed цели възпроизводимост без гаранция: проследявайте system_fingerprint.
  • presence_penalty, frequency_penalty и stop се отхвърлят от моделите за разсъждение.