Alapvető paraméterek
Ezen az oldalon
Az API-hívások konfigurálása
A kötelező model és messages mezőkön túl a Chat Completions API néhány további paramétert is elfogad, amelyek a generálás viselkedését szabályozzák. Ezek a beállítások tesznek különbséget aközött, hogy egy adatkiemelő mindig ugyanazt az eredményt adja-e vissza egy adott számlára, vagy egy szlogengenerátor soha nem ismétli önmagát. A hívó kód változatlan marad az egyik felhasználási esettől a másikig; csupán a beállítások módosulnak, éppen ezért kell megértened, mit csinál mindegyik.
Íme azok a paraméterek, amelyeket nap mint nap használni fogsz, a típusukkal és az alapértelmezett értékeikkel együtt.
| Paraméter | Típus | Alapértelmezett | Leírás |
|---|---|---|---|
model | string | — | Modellazonosító (kötelező) |
messages | array | — | Üzenetek tömbje (kötelező) |
max_tokens | integer | változó | A kimeneti tokenek maximális száma |
temperature | float | 0.7 | A kreativitást szabályozza (0.0–1.5) |
top_p | float | 1.0 | Magmintavételezés (nucleus sampling) (0.0–1.0) |
stream | boolean | false | SSE streamelés engedélyezése |
safe_prompt | boolean | false | Biztonsági korlátok engedélyezése |
A model paraméter
A modellválasztásod azonnal meghatározza minden hívás képességeit, sebességét és költségét – ez a három kompromisszum máshol nem hozható vissza. 2026 áprilisától az elsődleges modellek a következők:
# Zászlóshajó modell – összetett következtetés, többnyelvű
model = "mistral-large-latest"
# Kompakt modell – gyors, gazdaságos, ideális éles környezetbe
model = "mistral-small-latest"
# Miniatűr modell – ultra-gyors, peremfeldolgozás (edge computing)
model = "ministral-3b-latest"
# Kódmodell – programozásra specializálva
model = "codestral-latest"
A -latest utótag fejlesztés közben kényelmes: mindig a legfrissebb verzióra mutat, kódmódosítás nélkül. Éles környezetben azonban ez a kényelem kockázattá válik, mivel a Mistral oldalán történő frissítés finoman eltolhatja az alkalmazásod viselkedését. A tesztek reprodukálhatóságának garantálásához részesítsd előnyben a verziószámozott azonosítókat, például a mistral-large-2512-t.
A max_tokens paraméter
Ez a paraméter állítja be a felső határt arra vonatkozóan, hány tokent generálhat a modell a válaszában. Nem kényszeríti a modellt arra, hogy pontosan ennyit állítson elő; csupán egy mennyezetet definiál, semmi mást.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Foglald össze ezt a szöveget egy mondatban."}],
max_tokens=100 # A válasz nem haladja meg a 100 tokent
)
Ha a modell eléri ezt a limitet, a válasz hirtelen megszakad, és a finish_reason értéke "length" lesz a "stop" helyett. Ez a leggyakoribb oka annak, ha a válaszok mondat közben állnak le, és senki nem veszi észre addig, amíg nem figyeled ezt a mezőt. A helyes reflex a mennyezet feladatához igazítása: az osztályozás belefér 10–50 tokenbe, mivel csak egy címkét vársz; egy összefoglaláshoz 200–500 token kell; a szabad szöveges írás 1000–4000 tokent igényel; a kódgenerálás pedig könnyen eléri a 2000 vagy akár 8000 tokent is, mivel egy teljes fájl hosszú.
A temperature paraméter
A hőmérséklet (temperature) a tokenkiválasztás véletlenszerűségének mértékét szabályozza. Minél alacsonyabb az érték, annál determinisztikusabb és kiszámíthatóbb a modell; minél magasabb, annál inkább próbálkozik valószínűtlen folytatásokkal. Ténykérdéseknél az előbbit akarod; névadó gyakorlatoknál az utóbbit.
# Alacsony hőmérséklet – kinyerés, osztályozás, tények
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Mi Franciaország fővárosa?"}],
temperature=0.1
)
# Magas hőmérséklet – kreativitás, ötletelés
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Találj ki egy nevet egy AI startupnak."}],
temperature=1.2
)
A tartomány 0.0 és 1.5 között mozog. Ne támaszkodj a tökéletes determinizmusra a temperature=0 beállítással: a hardverszintű lebegőpontos kerekítések miatt apró eltérések továbbra is fennállnak.
A top_p paraméter
A magmintavételezés (nucleus sampling), vagyis a Top P, ugyanazon a karon hat, de más úton: a jelölt tokeneket egy kumulatív valószínűségi küszöbérték alapján korlátozza. top_p=0.5 esetén csak azok a legvalószínűbb tokenek maradnak versenyben, amelyek összeadott valószínűsége eléri az 50%-ot; a többit egyből elveti.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Fejezd be: A macska a..."}],
temperature=0.7,
top_p=0.9 # A valószínűség 90%-át lefedő tokeneket veszi figyelembe
)
A Mistral azt javasolja, hogy egyszerre csak egy paramétert állíts, vagy a hőmérsékletet, vagy a top_p-t, soha ne mindkettőt együtt. Ennek gyakorlati oka van: ha mindkét csúszka elmozdítása után furcsa lesz a kimenet, semmi nem árulja el, melyik okozta, és elveszíted mind a hibakereshetőséget, mind a reprodukálhatóságot.
Teljes példa az összes paraméterrel
Egyetlen hívásba sűrítve ezek a beállítások egy szlogengenerátort hoznak létre, amely szándékosan tömör és kissé merész, miközben nyomon követi a tokenfelhasználást is:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Te egy tömör és ütős marketinges szövegíró vagy."
},
{
"role": "user",
"content": "Írj egy szlogent egy meditációs alkalmazáshoz."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Felhasznált tokenek: {response.usage.total_tokens}")
Futtasd ezt a szkriptet háromszor egymás után, majd cseréld le a temperature=0.9 értéket 0.1-re, és futtasd újra háromszor. A két sorozat közötti különbség többet tanít majd erről a paraméterről, mint bármilyen definíció.
Főbb megállapítások
- A
modelés amessagesaz egyetlen kötelező paraméter - A
max_tokensegy mennyezet, nem egy cél – a csonkolás észleléséhez ellenőrizd afinish_reasonértékét - Használj alacsony
temperatureértéket tényalapú feladatokhoz, magasat a kreativitáshoz - A
top_pfinomhangolja a tokeneloszlást – ne állítsd egyszerre atemperature-rel - Használj verziószámozott modellazonosítókat éles környezetben a reprodukálhatóság érdekében