Paramètres de base
Pe această pagină
Configurați apelurile API
Dincolo de câmpurile obligatorii model și messages, API-ul Chat Completions acceptă câțiva parametri care controlează comportamentul de generare. Aceste setări fac diferența dintre un extractor de date care returnează rezultate identice pentru aceeași factură și un generator de sloganuri care nu se repetă niciodată. Codul de apel rămâne neschimbat de la un caz de utilizare la altul; doar setările se modifică, motiv pentru care este esențial să înțelegeți funcția fiecăruia.
Iată parametrii pe care îi veți gestiona zilnic, împreună cu tipurile și valorile lor implicite.
| Parametru | Tip | Implicit | Descriere |
|---|---|---|---|
model | string | — | Identificatorul modelului (obligatoriu) |
messages | array | — | Tablou de mesaje (obligatoriu) |
max_tokens | integer | variabil | Numărul maxim de jetoane de ieșire |
temperature | float | 0.7 | Controlează creativitatea (0.0 până la 1.5) |
top_p | float | 1.0 | Eșantionare nucleu (0.0 până la 1.0) |
stream | boolean | false | Activează streaming-ul SSE |
safe_prompt | boolean | false | Activează mecanismele de siguranță |
Parametrul model
Alegerea modelului determină imediat capacitățile, viteza și costul fiecărui apel – trei compromisuri pe care nu le puteți recupera ulterior. Începând cu aprilie 2026, modelele principale sunt:
# Modelul principal — raționament complex, multilingv
model = "mistral-large-latest"
# Model compact — rapid, economic, ideal pentru producție
model = "mistral-small-latest"
# Model miniatural — ultra-rapid, calcul la marginea rețelei (edge)
model = "ministral-3b-latest"
# Model de cod — specializat în programare
model = "codestral-latest"
Sufixul -latest este convenabil în timpul dezvoltării: indică întotdeauna cea mai nouă versiune fără a necesita modificări de cod. În producție, însă, această comoditate devine un risc, deoarece o actualizare din partea Mistral poate modifica subtil comportamentul aplicației dumneavoastră. Preferați identificatorii versionați, cum ar fi mistral-large-2512, pentru a garanta reproductibilitatea testelor.
Parametrul max_tokens
Acest parametru stabilește limita superioară a numărului de jetoane pe care modelul le poate genera în răspunsul său. Nu forțează modelul să producă exact acel număr; definește un plafon, nimic mai mult.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Summarize this text in one sentence."}],
max_tokens=100 # Răspunsul nu va depăși 100 de jetoane
)
Dacă modelul atinge această limită, răspunsul se întrerupe brusc, iar finish_reason returnează "length" în loc de "stop". Aceasta este cea mai frecventă cauză a răspunsurilor care se opresc la mijlocul unei propoziții, iar nimeni nu observă acest lucru până când nu monitorizează acest câmp. Reflexul corect este să calibrați plafonul în funcție de sarcină: clasificarea se încadrează în 10 până la 50 de jetoane, deoarece vă așteptați doar la o etichetă; un rezumat necesită 200 până la 500 de jetoane; scrierea liberă necesită 1.000 până la 4.000, iar generarea de cod ajunge ușor la 2.000 sau 8.000 de jetoane, deoarece un fișier complet este lung.
Parametrul temperature
Temperatura controlează gradul de aleatorizare în selecția jetoanelor. Cu cât valoarea este mai mică, cu atât modelul devine mai determinist și predictibil; cu cât este mai mare, cu atât încearcă continuări mai improbabile. Pentru întrebările factuale, doriți prima abordare; pentru exercițiile de denumire, pe a doua.
# Temperatură scăzută — extragere, clasificare, fapte
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "What is the capital of France?"}],
temperature=0.1
)
# Temperatură ridicată — creativitate, brainstorming
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Invent a name for an AI startup."}],
temperature=1.2
)
Intervalul variază de la 0.0 la 1.5. Nu vă bazați pe temperature=0 pentru un determinism perfect: variații ușoare persistă din cauza rotunjirilor în virgulă mobilă la nivel hardware.
Parametrul top_p
Eșantionarea nucleu, sau Top P, acționează asupra aceleiași pârghii, dar printr-o cale diferită: limitează jetoanele candidate printr-un prag cumulativ de probabilitate. Cu top_p=0.5, doar cele mai probabile jetoane ale căror probabilități însumate ating 50% rămân în competiție; restul sunt eliminate complet.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Complete: The cat is on the..."}],
temperature=0.7,
top_p=0.9 # Ia în considerare jetoanele care acoperă 90% din probabilitate
)
Mistral recomandă ajustarea unui singur parametru la un moment dat, fie temperatura, fie top_p, niciodată ambele simultan. Motivul este practic: dacă o ieșire devine ciudată după ce ați mutat ambele cursoare, nimic nu vă indică哪一个 dintre ele a cauzat problema, pierzând astfel atât depanabilitatea, cât și reproductibilitatea.
Exemplu complet cu toți parametrii
Combinați într-un singur apel, aceste setări creează un generator de sloganuri care este intenționat concis și ușor îndrăzneț, urmărind în același timp consumul de jetoane:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "You are a concise and punchy marketing writer."
},
{
"role": "user",
"content": "Write a slogan for a meditation app."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")
Rulați acest script de trei ori la rând, apoi înlocuiți temperature=0.9 cu 0.1 și rulați-l de încă trei ori. Diferența dintre cele două serii vă va învăța mai multe despre acest parametru decât orice definiție ar putea face.
Puncte cheie
modelșimessagessunt singurii parametri obligatoriimax_tokenseste un plafon, nu o țintă – verificațifinish_reasonpentru a detecta trunchierea- Utilizați o
temperaturescăzută pentru sarcini factuale și una ridicată pentru creativitate top_prafinează distribuția jetoanelor – nu îl ajustați simultan cutemperature- Utilizați identificatori de model versionați în producție pentru reproductibilitate