Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Alapvető paraméterek

3. lecke 16 közül Frissítve 2026. november 2. Fejlesztő
Ezen az oldalon
  1. Az API-hívások konfigurálása
  2. A model paraméter
  3. A max_tokens paraméter
  4. A temperature paraméter
  5. A top_p paraméter
  6. Teljes példa az összes paraméterrel
  7. Főbb megállapítások

Az API-hívások konfigurálása

A kötelező model és messages mezőkön túl a Chat Completions API néhány további paramétert is elfogad, amelyek a generálás viselkedését szabályozzák. Ezek a beállítások tesznek különbséget aközött, hogy egy adatkiemelő mindig ugyanazt az eredményt adja-e vissza egy adott számlára, vagy egy szlogengenerátor soha nem ismétli önmagát. A hívó kód változatlan marad az egyik felhasználási esettől a másikig; csupán a beállítások módosulnak, éppen ezért kell megértened, mit csinál mindegyik.

Íme azok a paraméterek, amelyeket nap mint nap használni fogsz, a típusukkal és az alapértelmezett értékeikkel együtt.

ParaméterTípusAlapértelmezettLeírás
modelstring—Modellazonosító (kötelező)
messagesarray—Üzenetek tömbje (kötelező)
max_tokensintegerváltozóA kimeneti tokenek maximális száma
temperaturefloat0.7A kreativitást szabályozza (0.0–1.5)
top_pfloat1.0Magmintavételezés (nucleus sampling) (0.0–1.0)
streambooleanfalseSSE streamelés engedélyezése
safe_promptbooleanfalseBiztonsági korlátok engedélyezése

A model paraméter

A modellválasztásod azonnal meghatározza minden hívás képességeit, sebességét és költségét – ez a három kompromisszum máshol nem hozható vissza. 2026 áprilisától az elsődleges modellek a következők:

# Zászlóshajó modell – összetett következtetés, többnyelvű
model = "mistral-large-latest"

# Kompakt modell – gyors, gazdaságos, ideális éles környezetbe
model = "mistral-small-latest"

# Miniatűr modell – ultra-gyors, peremfeldolgozás (edge computing)
model = "ministral-3b-latest"

# Kódmodell – programozásra specializálva
model = "codestral-latest"

A -latest utótag fejlesztés közben kényelmes: mindig a legfrissebb verzióra mutat, kódmódosítás nélkül. Éles környezetben azonban ez a kényelem kockázattá válik, mivel a Mistral oldalán történő frissítés finoman eltolhatja az alkalmazásod viselkedését. A tesztek reprodukálhatóságának garantálásához részesítsd előnyben a verziószámozott azonosítókat, például a mistral-large-2512-t.

A max_tokens paraméter

Ez a paraméter állítja be a felső határt arra vonatkozóan, hány tokent generálhat a modell a válaszában. Nem kényszeríti a modellt arra, hogy pontosan ennyit állítson elő; csupán egy mennyezetet definiál, semmi mást.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Foglald össze ezt a szöveget egy mondatban."}],
    max_tokens=100  # A válasz nem haladja meg a 100 tokent
)

Ha a modell eléri ezt a limitet, a válasz hirtelen megszakad, és a finish_reason értéke "length" lesz a "stop" helyett. Ez a leggyakoribb oka annak, ha a válaszok mondat közben állnak le, és senki nem veszi észre addig, amíg nem figyeled ezt a mezőt. A helyes reflex a mennyezet feladatához igazítása: az osztályozás belefér 10–50 tokenbe, mivel csak egy címkét vársz; egy összefoglaláshoz 200–500 token kell; a szabad szöveges írás 1000–4000 tokent igényel; a kódgenerálás pedig könnyen eléri a 2000 vagy akár 8000 tokent is, mivel egy teljes fájl hosszú.

A temperature paraméter

A hőmérséklet (temperature) a tokenkiválasztás véletlenszerűségének mértékét szabályozza. Minél alacsonyabb az érték, annál determinisztikusabb és kiszámíthatóbb a modell; minél magasabb, annál inkább próbálkozik valószínűtlen folytatásokkal. Ténykérdéseknél az előbbit akarod; névadó gyakorlatoknál az utóbbit.

# Alacsony hőmérséklet – kinyerés, osztályozás, tények
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Mi Franciaország fővárosa?"}],
    temperature=0.1
)

# Magas hőmérséklet – kreativitás, ötletelés
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Találj ki egy nevet egy AI startupnak."}],
    temperature=1.2
)

A tartomány 0.0 és 1.5 között mozog. Ne támaszkodj a tökéletes determinizmusra a temperature=0 beállítással: a hardverszintű lebegőpontos kerekítések miatt apró eltérések továbbra is fennállnak.

A top_p paraméter

A magmintavételezés (nucleus sampling), vagyis a Top P, ugyanazon a karon hat, de más úton: a jelölt tokeneket egy kumulatív valószínűségi küszöbérték alapján korlátozza. top_p=0.5 esetén csak azok a legvalószínűbb tokenek maradnak versenyben, amelyek összeadott valószínűsége eléri az 50%-ot; a többit egyből elveti.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Fejezd be: A macska a..."}],
    temperature=0.7,
    top_p=0.9  # A valószínűség 90%-át lefedő tokeneket veszi figyelembe
)

A Mistral azt javasolja, hogy egyszerre csak egy paramétert állíts, vagy a hőmérsékletet, vagy a top_p-t, soha ne mindkettőt együtt. Ennek gyakorlati oka van: ha mindkét csúszka elmozdítása után furcsa lesz a kimenet, semmi nem árulja el, melyik okozta, és elveszíted mind a hibakereshetőséget, mind a reprodukálhatóságot.

Teljes példa az összes paraméterrel

Egyetlen hívásba sűrítve ezek a beállítások egy szlogengenerátort hoznak létre, amely szándékosan tömör és kissé merész, miközben nyomon követi a tokenfelhasználást is:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Te egy tömör és ütős marketinges szövegíró vagy."
        },
        {
            "role": "user",
            "content": "Írj egy szlogent egy meditációs alkalmazáshoz."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Felhasznált tokenek: {response.usage.total_tokens}")

Futtasd ezt a szkriptet háromszor egymás után, majd cseréld le a temperature=0.9 értéket 0.1-re, és futtasd újra háromszor. A két sorozat közötti különbség többet tanít majd erről a paraméterről, mint bármilyen definíció.

Főbb megállapítások

  • A model és a messages az egyetlen kötelező paraméter
  • A max_tokens egy mennyezet, nem egy cél – a csonkolás észleléséhez ellenőrizd a finish_reason értékét
  • Használj alacsony temperature értéket tényalapú feladatokhoz, magasat a kreativitáshoz
  • A top_p finomhangolja a tokeneloszlást – ne állítsd egyszerre a temperature-rel
  • Használj verziószámozott modellazonosítókat éles környezetben a reprodukálhatóság érdekében