Премини към основното съдържание
Български— Изберете език
Меню

Основни параметри

Урок 3 от 16 Обновен 2 ноември 2026 г. Програмист
На тази страница
  1. Конфигуриране на вашите API повиквания
  2. Параметърът model
  3. Параметърът max_tokens
  4. Параметърът temperature
  5. Параметърът top_p
  6. Пълен пример с всички параметри
  7. Ключови изводи

Конфигуриране на вашите API повиквания

В допълнение към задължителните полета model и messages, API за Chat Completions приема няколко параметъра, които контролират поведението при генериране. Тези настройки правят разликата между извличач на данни, който връща идентични резултати за една и съща фактура, и генератор на слогани, който никога не се повтаря. Извикващият код остава непроменен от един случай на употреба към друг; променят се единствено настройките, което е точно причината да разберете функцията на всеки от тях.

Ето параметрите, с които ще работите ежедневно, заедно с техните типове и стойности по подразбиране.

ПараметърТипПо подразбиранеОписание
modelstring—Идентификатор на модела (задължително)
messagesarray—Масив от съобщения (задължително)
max_tokensintegerпроменливаМаксимален брой изходни токени
temperaturefloat0.7Контрол на креативността (0.0 до 1.5)
top_pfloat1.0Ядрена семплинг техника (0.0 до 1.0)
streambooleanfalseАктивира SSE стрийминг
safe_promptbooleanfalseАктивира защитни механизми за безопасност

Параметърът model

Изборът ви на модел незабавно определя възможностите, скоростта и цената на всяко повикване – три компромиса, които не можете да компенсирате другаде. Към април 2026 г. основните модели са:

# Флагмански модел — сложно разсъждение, многоезичен
model = "mistral-large-latest"

# Компактен модел — бърз, икономичен, идеален за продукция
model = "mistral-small-latest"

# Миниатюрен модел — ултра-бърз, ръбови изчисления
model = "ministral-3b-latest"

# Код модел — специализиран за програмиране
model = "codestral-latest"

Наставката -latest е удобна по време на разработка: тя винаги сочи към най-новата версия, без да изисква промени в кода. В производствена среда обаче това удобство се превръща в риск, тъй като актуализация от страна на Mistral може леко да промени поведението на вашето приложение. Предпочитайте версионирани идентификатори като mistral-large-2512, за да гарантирате възпроизводимостта на вашите тестове.

Параметърът max_tokens

Този параметър задава горната граница на броя токени, които моделът може да генерира в своя отговор. Той не принуждава модела да произведе точно този брой; той дефинира таван, нищо повече.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Обобщете този текст в едно изречение."}],
    max_tokens=100  # Отговорът няма да надвиши 100 токена
)

Ако моделът достигне този лимит, отговорът се прекъсва рязко, а finish_reason връща "length" вместо "stop". Това е най-честата причина за отговори, които спират по средата на изречението, и никой не го забелязва, докато не започне да следи това поле. Правилният рефлекс е да калибрирате тавана спрямо задачата: класификацията се побира в 10 до 50 токена, тъй като очаквате само етикет; обобщението изисква 200 до 500 токена; свободното писане отнема 1000 до 4000, а генерирането на код лесно достига 2000 или 8000 токена, защото един пълен файл е дълъг.

Параметърът temperature

Температурата контролира степента на рандомизация при избора на токени. Колкото по-ниска е стойността, толкова по-детерминиран и предвидим става моделът; колкото по-висока става, толкова повече той се опитва да предложи малко вероятни продължения. За фактологични въпроси искате първия подход; за упражнения по именуване – втория.

# Ниска температура — извличане, класификация, фактология
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Коя е столицата на Франция?"}],
    temperature=0.1
)

# Висока температура — креативност, брейнсторминг
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Измисли име за стартъп в сферата на изкуствения интелект."}],
    temperature=1.2
)

Диапазонът обхваща стойности от 0.0 до 1.5. Не разчитайте на temperature=0 за перфектен детерминизъм: леки вариации продължават да съществуват поради закръглянето на числата с плаваща запетая на хардуерно ниво.

Параметърът top_p

Ядрената семплинг техника, или Top P, действа върху същия лост, но по различен път: тя ограничава кандидат-токените чрез праг на кумулативна вероятност. При top_p=0.5, остават в състезанието само най-вероятните токени, чиито сумирани вероятности достигат 50%; останалите се отхвърлят изцяло.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Довършете: Котката е на..."}],
    temperature=0.7,
    top_p=0.9  # Разглежда токени, покриващи 90% от вероятността
)

Mistral препоръчва да коригирате само един параметър наведнъж – или температурата, или top_p, но никога и двете едновременно. Причината е практическа: ако изходът стане странен след преместване на двата плъзгача, нищо не ви подсказва кой от тях е причината и губите както възможност за отстраняване на грешки, така и възпроизводимост.

Пълен пример с всички параметри

Комбинирани в едно повикване, тези настройки създават генератор на слогани, който е умишлено кратък и леко дързък, като същевременно следи потреблението на токени:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Вие сте лаконичен и ударен маркетинг писател."
        },
        {
            "role": "user",
            "content": "Напишете слоган за приложение за медитация."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")

Стартирайте този скрипт три пъти подред, след което заменете temperature=0.9 с 0.1 и го стартирайте още три пъти. Разликата между двете серии ще ви научи повече за този параметър, отколкото всяка дефиниция би могла.

Ключови изводи

  • model и messages са единствените задължителни параметри
  • max_tokens е таван, а не цел – проверявайте finish_reason, за да откриете съкращаване
  • Използвайте ниска temperature за фактологични задачи, висока за креативност
  • top_p прецизира разпределението на токените – не го коригирайте едновременно с temperature
  • Използвайте версионирани идентификатори на моделите в продукция за възпроизводимост