Salt la conținutul principal
Română— Alege o limbă
Meniu

Paramètres de base

Lecția 3 din 16 Actualizată 2 noiembrie 2026 Dezvoltator
Pe această pagină
  1. Configurați apelurile API
  2. Parametrul model
  3. Parametrul max_tokens
  4. Parametrul temperature
  5. Parametrul top_p
  6. Exemplu complet cu toți parametrii
  7. Puncte cheie

Configurați apelurile API

Dincolo de câmpurile obligatorii model și messages, API-ul Chat Completions acceptă câțiva parametri care controlează comportamentul de generare. Aceste setări fac diferența dintre un extractor de date care returnează rezultate identice pentru aceeași factură și un generator de sloganuri care nu se repetă niciodată. Codul de apel rămâne neschimbat de la un caz de utilizare la altul; doar setările se modifică, motiv pentru care este esențial să înțelegeți funcția fiecăruia.

Iată parametrii pe care îi veți gestiona zilnic, împreună cu tipurile și valorile lor implicite.

ParametruTipImplicitDescriere
modelstring—Identificatorul modelului (obligatoriu)
messagesarray—Tablou de mesaje (obligatoriu)
max_tokensintegervariabilNumărul maxim de jetoane de ieșire
temperaturefloat0.7Controlează creativitatea (0.0 până la 1.5)
top_pfloat1.0Eșantionare nucleu (0.0 până la 1.0)
streambooleanfalseActivează streaming-ul SSE
safe_promptbooleanfalseActivează mecanismele de siguranță

Parametrul model

Alegerea modelului determină imediat capacitățile, viteza și costul fiecărui apel – trei compromisuri pe care nu le puteți recupera ulterior. Începând cu aprilie 2026, modelele principale sunt:

# Modelul principal — raționament complex, multilingv
model = "mistral-large-latest"

# Model compact — rapid, economic, ideal pentru producție
model = "mistral-small-latest"

# Model miniatural — ultra-rapid, calcul la marginea rețelei (edge)
model = "ministral-3b-latest"

# Model de cod — specializat în programare
model = "codestral-latest"

Sufixul -latest este convenabil în timpul dezvoltării: indică întotdeauna cea mai nouă versiune fără a necesita modificări de cod. În producție, însă, această comoditate devine un risc, deoarece o actualizare din partea Mistral poate modifica subtil comportamentul aplicației dumneavoastră. Preferați identificatorii versionați, cum ar fi mistral-large-2512, pentru a garanta reproductibilitatea testelor.

Parametrul max_tokens

Acest parametru stabilește limita superioară a numărului de jetoane pe care modelul le poate genera în răspunsul său. Nu forțează modelul să producă exact acel număr; definește un plafon, nimic mai mult.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Summarize this text in one sentence."}],
    max_tokens=100  # Răspunsul nu va depăși 100 de jetoane
)

Dacă modelul atinge această limită, răspunsul se întrerupe brusc, iar finish_reason returnează "length" în loc de "stop". Aceasta este cea mai frecventă cauză a răspunsurilor care se opresc la mijlocul unei propoziții, iar nimeni nu observă acest lucru până când nu monitorizează acest câmp. Reflexul corect este să calibrați plafonul în funcție de sarcină: clasificarea se încadrează în 10 până la 50 de jetoane, deoarece vă așteptați doar la o etichetă; un rezumat necesită 200 până la 500 de jetoane; scrierea liberă necesită 1.000 până la 4.000, iar generarea de cod ajunge ușor la 2.000 sau 8.000 de jetoane, deoarece un fișier complet este lung.

Parametrul temperature

Temperatura controlează gradul de aleatorizare în selecția jetoanelor. Cu cât valoarea este mai mică, cu atât modelul devine mai determinist și predictibil; cu cât este mai mare, cu atât încearcă continuări mai improbabile. Pentru întrebările factuale, doriți prima abordare; pentru exercițiile de denumire, pe a doua.

# Temperatură scăzută — extragere, clasificare, fapte
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "What is the capital of France?"}],
    temperature=0.1
)

# Temperatură ridicată — creativitate, brainstorming
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Invent a name for an AI startup."}],
    temperature=1.2
)

Intervalul variază de la 0.0 la 1.5. Nu vă bazați pe temperature=0 pentru un determinism perfect: variații ușoare persistă din cauza rotunjirilor în virgulă mobilă la nivel hardware.

Parametrul top_p

Eșantionarea nucleu, sau Top P, acționează asupra aceleiași pârghii, dar printr-o cale diferită: limitează jetoanele candidate printr-un prag cumulativ de probabilitate. Cu top_p=0.5, doar cele mai probabile jetoane ale căror probabilități însumate ating 50% rămân în competiție; restul sunt eliminate complet.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Complete: The cat is on the..."}],
    temperature=0.7,
    top_p=0.9  # Ia în considerare jetoanele care acoperă 90% din probabilitate
)

Mistral recomandă ajustarea unui singur parametru la un moment dat, fie temperatura, fie top_p, niciodată ambele simultan. Motivul este practic: dacă o ieșire devine ciudată după ce ați mutat ambele cursoare, nimic nu vă indică哪一个 dintre ele a cauzat problema, pierzând astfel atât depanabilitatea, cât și reproductibilitatea.

Exemplu complet cu toți parametrii

Combinați într-un singur apel, aceste setări creează un generator de sloganuri care este intenționat concis și ușor îndrăzneț, urmărind în același timp consumul de jetoane:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "You are a concise and punchy marketing writer."
        },
        {
            "role": "user",
            "content": "Write a slogan for a meditation app."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")

Rulați acest script de trei ori la rând, apoi înlocuiți temperature=0.9 cu 0.1 și rulați-l de încă trei ori. Diferența dintre cele două serii vă va învăța mai multe despre acest parametru decât orice definiție ar putea face.

Puncte cheie

  • model și messages sunt singurii parametri obligatorii
  • max_tokens este un plafon, nu o țintă – verificați finish_reason pentru a detecta trunchierea
  • Utilizați o temperature scăzută pentru sarcini factuale și una ridicată pentru creativitate
  • top_p rafinează distribuția jetoanelor – nu îl ajustați simultan cu temperature
  • Utilizați identificatori de model versionați în producție pentru reproductibilitate