Основни параметри
На тази страница
Конфигуриране на вашите API повиквания
В допълнение към задължителните полета model и messages, API за Chat Completions приема няколко параметъра, които контролират поведението при генериране. Тези настройки правят разликата между извличач на данни, който връща идентични резултати за една и съща фактура, и генератор на слогани, който никога не се повтаря. Извикващият код остава непроменен от един случай на употреба към друг; променят се единствено настройките, което е точно причината да разберете функцията на всеки от тях.
Ето параметрите, с които ще работите ежедневно, заедно с техните типове и стойности по подразбиране.
| Параметър | Тип | По подразбиране | Описание |
|---|---|---|---|
model | string | — | Идентификатор на модела (задължително) |
messages | array | — | Масив от съобщения (задължително) |
max_tokens | integer | променлива | Максимален брой изходни токени |
temperature | float | 0.7 | Контрол на креативността (0.0 до 1.5) |
top_p | float | 1.0 | Ядрена семплинг техника (0.0 до 1.0) |
stream | boolean | false | Активира SSE стрийминг |
safe_prompt | boolean | false | Активира защитни механизми за безопасност |
Параметърът model
Изборът ви на модел незабавно определя възможностите, скоростта и цената на всяко повикване – три компромиса, които не можете да компенсирате другаде. Към април 2026 г. основните модели са:
# Флагмански модел — сложно разсъждение, многоезичен
model = "mistral-large-latest"
# Компактен модел — бърз, икономичен, идеален за продукция
model = "mistral-small-latest"
# Миниатюрен модел — ултра-бърз, ръбови изчисления
model = "ministral-3b-latest"
# Код модел — специализиран за програмиране
model = "codestral-latest"
Наставката -latest е удобна по време на разработка: тя винаги сочи към най-новата версия, без да изисква промени в кода. В производствена среда обаче това удобство се превръща в риск, тъй като актуализация от страна на Mistral може леко да промени поведението на вашето приложение. Предпочитайте версионирани идентификатори като mistral-large-2512, за да гарантирате възпроизводимостта на вашите тестове.
Параметърът max_tokens
Този параметър задава горната граница на броя токени, които моделът може да генерира в своя отговор. Той не принуждава модела да произведе точно този брой; той дефинира таван, нищо повече.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Обобщете този текст в едно изречение."}],
max_tokens=100 # Отговорът няма да надвиши 100 токена
)
Ако моделът достигне този лимит, отговорът се прекъсва рязко, а finish_reason връща "length" вместо "stop". Това е най-честата причина за отговори, които спират по средата на изречението, и никой не го забелязва, докато не започне да следи това поле. Правилният рефлекс е да калибрирате тавана спрямо задачата: класификацията се побира в 10 до 50 токена, тъй като очаквате само етикет; обобщението изисква 200 до 500 токена; свободното писане отнема 1000 до 4000, а генерирането на код лесно достига 2000 или 8000 токена, защото един пълен файл е дълъг.
Параметърът temperature
Температурата контролира степента на рандомизация при избора на токени. Колкото по-ниска е стойността, толкова по-детерминиран и предвидим става моделът; колкото по-висока става, толкова повече той се опитва да предложи малко вероятни продължения. За фактологични въпроси искате първия подход; за упражнения по именуване – втория.
# Ниска температура — извличане, класификация, фактология
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Коя е столицата на Франция?"}],
temperature=0.1
)
# Висока температура — креативност, брейнсторминг
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Измисли име за стартъп в сферата на изкуствения интелект."}],
temperature=1.2
)
Диапазонът обхваща стойности от 0.0 до 1.5. Не разчитайте на temperature=0 за перфектен детерминизъм: леки вариации продължават да съществуват поради закръглянето на числата с плаваща запетая на хардуерно ниво.
Параметърът top_p
Ядрената семплинг техника, или Top P, действа върху същия лост, но по различен път: тя ограничава кандидат-токените чрез праг на кумулативна вероятност. При top_p=0.5, остават в състезанието само най-вероятните токени, чиито сумирани вероятности достигат 50%; останалите се отхвърлят изцяло.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Довършете: Котката е на..."}],
temperature=0.7,
top_p=0.9 # Разглежда токени, покриващи 90% от вероятността
)
Mistral препоръчва да коригирате само един параметър наведнъж – или температурата, или top_p, но никога и двете едновременно. Причината е практическа: ако изходът стане странен след преместване на двата плъзгача, нищо не ви подсказва кой от тях е причината и губите както възможност за отстраняване на грешки, така и възпроизводимост.
Пълен пример с всички параметри
Комбинирани в едно повикване, тези настройки създават генератор на слогани, който е умишлено кратък и леко дързък, като същевременно следи потреблението на токени:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Вие сте лаконичен и ударен маркетинг писател."
},
{
"role": "user",
"content": "Напишете слоган за приложение за медитация."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")
Стартирайте този скрипт три пъти подред, след което заменете temperature=0.9 с 0.1 и го стартирайте още три пъти. Разликата между двете серии ще ви научи повече за този параметър, отколкото всяка дефиниция би могла.
Ключови изводи
modelиmessagesса единствените задължителни параметриmax_tokensе таван, а не цел – проверявайтеfinish_reason, за да откриете съкращаване- Използвайте ниска
temperatureза фактологични задачи, висока за креативност top_pпрецизира разпределението на токените – не го коригирайте едновременно сtemperature- Използвайте версионирани идентификатори на моделите в продукция за възпроизводимост