Премини към основното съдържание
Български— Изберете език
Меню

Температура

Урок 9 от 16 Обновен 2 ноември 2026 г. Начинаещ
На тази страница
  1. Контрол на креативността на модела
  2. Как работи температурата
  3. Използване на температурата с Mistral API
  4. Температура 0 не е перфектно детерминистична
  5. Адаптиране на температурата към контекста
  6. Експериментирайте, за да откриете правилната настройка
  7. Ключови изводи

Контрол на креативността на модела

Досега се фокусирахме върху съдържанието на Вашите подкани. Сега разглеждаме друг equally мощен лост: параметрите на генериране. Първият и най-фундаментален от тях е температурата. Тя действа директно върху разпределението на вероятностите за токените, определяйки дали моделът ще се държи детерминистично – произвеждайки предвидими, почти идентични отговори при всяко извикване – или креативно, генерирайки разнообразни и понякога изненадващи резултати. Една и съща подкана, изпратена с две различни температури, може да доведе до суха техническа спецификация или до текст, който поема в неочаквани посоки. Разбирането на този параметър е от съществено значение за адаптиране на поведението на моделите на Mistral към всеки конкретен случай на употреба.

Как работи температурата

Припомнете си основния механизъм: на всяка стъпка от генерирането моделът изчислява вероятност за всеки възможен токен, след което избира един. Температурата променя формата на това разпределение преди избора. При ниска температура, близка до 0, разпределението става „остро“: моделът се фокусира почти изключително върху най-вероятните токени, правейки отговорите предвидими и последователни. Ако го попитате коя е столицата на Италия при температура 0.1, ще получите почти едно и също изречение всеки път.

При висока температура, близка до 1, разпределението напротив се „изглажда“: по-малко вероятните токени стават отново достъпни, моделът разглежда по-широк кръг от възможни последователности и отговорите придобиват разнообразие – понякога за сметка на свързаността. Това е точно това, което искате за брейнсторминг, и точно това, което трябва да избягвате при извличане на данни. Следващата таблица обобщава полезните диапазони.

Температура Поведение Случаи на употреба
0.0 Квази-детерминистично, винаги най-вероятният токен Извличане на данни, класификация, фактологични отговори
0.1 - 0.3 Много предвидимо с леки вариации Генериране на код, превод, техническа документация
0.4 - 0.6 Баланс между свързаност и разнообразие Професионално писане, преформулиране, обобщаване
0.7 - 0.8 Креативно с добра свързаност Брейнсторминг, маркетингови текстове, разказване на истории
0.9 - 1.0 Много креативно, изненадващо, понякога несвързано Поезия, белетристика, свободно генериране на идеи, изследване

Използване на температурата с Mistral API

В API температурата се предава като обикновен параметър на извикването. Сравнете тези две заявки: първата очаква фактологичен и стабилен отговор, втората търси разнообразие.

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

# Ниска температура: фактологичен и детерминистичен отговор
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "What is the ROI formula?"}],
    temperature=0.1
)

# Висока температура: креативен и разнообразен отговор
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Invent a slogan for an organic coffee brand."}],
    temperature=0.8
)

Температура 0 не е перфектно детерминистична

Едно често срещано погрешно схващане трябва да бъде коригирано веднага: дори при temperature=0, отговорите на Mistral могат да покажат леки вариации от една заявка до друга. Това се дължи на хардуерни фактори – изчисления с плаваща запетая, паралелизация на GPU – които въвеждат/tiny разлики в закръгляването, достатъчни понякога да променят избора на токен. Следователно, ако изграждате автоматизирани тестове или бенчмаркове, където възпроизводимостта е от критично значение, не разчитайте единствено на temperature=0: комбинирайте ниска температура с проверка от страна на кода, която валидира същността на отговора, а не неговата точна форма.

Адаптиране на температурата към контекста

Нека видим как тази настройка се проявява в три типични професионални ситуации. При класификация или извличане искате един и същ отзив за клиент винаги да води до една и съща присъда: това е температура 0.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "Classify the sentiment: positive, neutral, negative."},
        {"role": "user", "content": "The product works correctly."}
    ],
    temperature=0.0
)

За маркетингови текстове твърде механичният отговор би бил блед; при 0.7 моделът варира формулировките си, запазвайки свързаността – идеално за създаване на няколко куки и избор на най-добрата.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "You are a creative copywriter."},
        {"role": "user", "content": "Write 3 hooks for an email campaign."}
    ],
    temperature=0.7
)

За брейнсторминг накрая, стигнете до 0.9: приемате, че някои идеи ще бъдат далечни, тъй като ще ги филтрирате по-късно. Десет потенциала с три отлични са по-добри от пет потенциала, които са всички разумни и всички вече видени.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Propose 10 innovative feature ideas for a fitness app."}
    ],
    temperature=0.9
)

Експериментирайте, за да откриете правилната настройка

Няма универсално оптимална температура: правилната стойност зависи от Вашата подкана, Вашия модел и Вашата толерантност към вариативност. Единственият надежден метод е експериментирането, проведено стриктно:

  1. Започнете със стойността по подразбиране на модела
  2. Тествайте Вашата подкана с 3-4 стойности на температурата (0.1, 0.4, 0.7, 0.9)
  3. Сравнете резултатите за 5-10 изпълнения за всяка стойност
  4. Идентифицирайте стойността, която предлага най-добрия баланс между свързаност и разнообразие за Вашия случай
  5. Документирайте избраната настройка заедно с Вашата подкана

Този последен пункт често се пренебрегва: производствена подкана без документирана температура е полу-специфицирана подкана, която Вашият колега ще използва повторно с различна настройка и ще се чуди защо получава различни резултати.

Ключови изводи

  • Температурата контролира нивото на креативност срещу детерминизъм на модела
  • Ниски стойности (0-0.3) за фактологични задачи, високи стойности (0.7-1.0) за креативни задачи
  • Дори при температура 0 са възможни леки вариации
  • Експериментирайте с няколко стойности, за да откриете оптималната настройка
  • Винаги документирайте използваната температура заедно с Вашите подкани в производствена среда