Osnovni parametri
Na ovoj stranici
Konfiguriraj svoje API pozive
Osim obaveznih polja model i messages, Chat Completions API prihvaća nekoliko parametara koji upravljaju ponašanjem generiranja. Te postavke razlikuju ekstraktor podataka koji za istu fakturu vraća identične rezultate od generatora slogana koji se nikad ne ponavlja. Pozivni kod ostaje nepromijenjen od jednog slučaja upotrebe do drugog; mijenjaju se samo postavke, što je upravo razlog zašto moraš razumjeti što svaka od njih radi.
Evo parametara s kojima ćeš se svakodnevno susretati, zajedno s njihovim tipovima i zadanim vrijednostima.
| Parametar | Tip | Zadano | Opis |
|---|---|---|---|
model | string | — | Identifikator modela (obavezno) |
messages | array | — | Polje poruka (obavezno) |
max_tokens | integer | varijabilno | Maksimalan broj izlaznih tokena |
temperature | float | 0.7 | Upravlja kreativnošću (0.0 do 1.5) |
top_p | float | 1.0 | Uzorkovanje jezgre (0.0 do 1.0) |
stream | boolean | false | Omogućuje SSE streaming |
safe_prompt | boolean | false | Omogućuje sigurnosne ograničenja |
Parametar model
Tvoj izbor modela odmah određuje mogućnosti, brzinu i cijenu svakog poziva – tri kompromisa koja ne možeš nadoknaditi nigdje drugdje. Od travnja 2026. glavni modeli su:
# Vodeći model — složeno rezoniranje, višejezičnost
model = "mistral-large-latest"
# Kompaktni model — brz, ekonomičan, idealan za produkciju
model = "mistral-small-latest"
# Minijaturni model — ultra-brz, rubno računanje
model = "ministral-3b-latest"
# Model za kod — specijaliziran za programiranje
model = "codestral-latest"
Sufiks -latest zgodan je tijekom razvoja: uvijek pokazuje na najnoviju verziju bez potrebe za promjenama koda. U produkciji ta pogodnost postaje rizik jer ažuriranje s Mistralove strane može suptilno promijeniti ponašanje tvoje aplikacije. Daj prednost verzioniranim identifikatorima poput mistral-large-2512 kako bi zajamčio reproducibilnost svojih testova.
Parametar max_tokens
Ovaj parametar postavlja gornju granicu broja tokena koje model može generirati u svom odgovoru. Ne prisiljava model da proizvede točno taj broj; definira samo strop, ništa više.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Sažmi ovaj tekst u jednu rečenicu."}],
max_tokens=100 # Odgovor neće prijeći 100 tokena
)
Ako model dosegne ovu granicu, odgovor se naglo prekida, a finish_reason vraća "length" umjesto "stop". To je najčešći uzrok odgovora koji se zaustavljaju usred rečenice, a nitko to ne primijeti dok ne počne pratiti ovo polje. Ispravan refleks je kalibrirati strop prema zadatku: klasifikacija staje u 10 do 50 tokena jer očekuješ samo oznaku, sažetak treba 200 do 500 tokena, slobodno pisanje uzima 1.000 do 4.000, a generiranje koda lako doseže 2.000 ili 8.000 tokena jer je cijela datoteka dugačka.
Parametar temperature
Temperatura kontrolira stupanj nasumičnosti pri odabiru tokena. Što je vrijednost niža, model postaje determinističkiji i predvidljiviji; što je viša, to više pokušava malo vjerojatne nastavke. Za činjenična pitanja želiš prvi pristup; za vježbe imenovanja, drugi.
# Niska temperatura — ekstrakcija, klasifikacija, činjenice
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Koji je glavni grad Francuske?"}],
temperature=0.1
)
# Visoka temperatura — kreativnost, oluja ideja
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Izmisli ime za AI startup."}],
temperature=1.2
)
Raspon se proteže od 0.0 do 1.5. Ne oslanjaj se na temperature=0 za savršen determinizam: blage varijacije i dalje postoje zbog zaokruživanja brojeva s pomičnim zarezom na razini hardvera.
Parametar top_p
Uzorkovanje jezgre, ili Top P, djeluje na istu polugu, ali drugim putem: ograničava kandidate za tokene pragom kumulativne vjerojatnosti. S top_p=0.5, u utrci ostaju samo najvjerojatniji tokeni čije zbrojene vjerojatnosti dosežu 50%; ostali se odbacuju.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Dovrši: Mačka je na..."}],
temperature=0.7,
top_p=0.9 # Razmatra tokene koji pokrivaju 90% vjerojatnosti
)
Mistral preporučuje prilagodbu samo jednog parametra odjednom, bilo temperature ili top_p, nikad oba zajedno. Razlog je praktičan: ako ispostava postane čudna nakon pomicanja oba klizača, ništa ti ne govori koji je uzrok tome i gubiš i mogućnost otklanjanja grešaka i reproducibilnost.
Potpuni primjer sa svim parametrima
Kombinirani u jednom pozivu, ove postavke stvaraju generator slogana koji je namjerno kratak i pomalo odvažan, uz praćenje potrošnje tokena:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Ti si sažet i efektan marketinški pisac."
},
{
"role": "user",
"content": "Napiši slogan za aplikaciju za meditaciju."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")
Pokreni ovu skriptu tri puta zaredom, zatim zamijeni temperature=0.9 s 0.1 i pokreni je još tri puta. Razlika između ta dva niza naučit će te više o ovom parametru nego bilo koja definicija.
Ključne točke
modelimessagesjedini su obavezni parametrimax_tokensje strop, a ne cilj – provjerifinish_reasonda otkriješ skraćivanje- Koristi nisku
temperatureza činjenične zadatke, visoku za kreativnost top_pprofinjuje distribuciju tokena – nemoj ga prilagođavati istovremeno stemperature- U produkciji koristi verzionirane identifikatore modela radi reproducibilnosti