Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Szintek és árazás

3. lecke 14 közül Frissítve 2026. november 2. Haladó
Ezen az oldalon
  1. Ismerd meg a korlátokat és az árazást
  2. A korlátok két típusa
  3. Előfizetési szintek
  4. Ellenőrizd a jelenlegi korlátaidat
  5. Optimalizáld a költségeidet
  6. Mikor válts magasabb szintre
  7. Főbb megállapítások

Ismerd meg a korlátokat és az árazást

Az AI Studio sebességkorlátozásokat (rate limits) érvényesít a szolgáltatás stabilitásának megőrzése érdekében. Ezek a korlátok az előfizetési szinttől függően változnak, és meghatározzák a küldhető kérések, valamint a felhasználható tokenek mennyiségét. A szint kiválasztása nem csupán egy adminisztratív pipálás: ez egy olyan döntés, amely közvetlenül befolyásolja a költségeidet és az alkalmazásod viselkedését csúcsidőszakokban.

A korlátok két típusa

A Mistral minden munkaterületen egyszerre két vezérlést alkalmaz. Ha bármelyiket túlléped, a hívásaid sikertelenek lesznek. Az első, a másodpercenkénti kérések száma (RPS), korlátozza a másodpercenként küldött API-kérések számát; ha túlléped, az API egy 429 Too Many Requests hibát ad vissza. A második a percenkénti és havi tokenekre vonatkozik: méri a bemeneti és kimeneti adatok fogyasztott mennyiségét, munkaterületi szinten alkalmazandó, és minden hozzáféréssel rendelkező felhasználó között megoszlik. Egy hat fejlesztőből álló csapat, amely ugyanazon a kulcson dolgozik, hatszor gyorsabban éli fel ezt a kvótát, mint egy egyedül dolgozó fejlesztő – ezt a tényt rendszeresen figyelmen kívül hagyják az első forgalmi csúcs során.

A megoldás mindössze néhány sor kódot igényel: amikor egy 429 hiba történik, várj a újrapróbálkozás előtt, és minden egyes próbálkozással növeld a várakozási időt ahelyett, hogy folyamatosan ostromolnád az API-t.

import time
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

def call_with_retry(messages, max_retries=3):
    """Basic rate limit handling with exponential backoff."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="mistral-large-latest",
                messages=messages
            )
        except Exception as e:
            if "429" in str(e) and attempt < max_retries - 1:
                wait = 2 ** attempt
                print(f"Rate limit reached, waiting {wait}s...")
                time.sleep(wait)
            else:
                raise

Előfizetési szintek

Az Ingyenes API szintet, más néven Kísérleti (Experiment) szintet, felfedezésre tervezték. Az RPS értéke alacsony marad, másodpercenként néhány kérés körül, és a havi tokenmennyiség korlátozott; minden modell elérhető marad, de csökkentett kvótákkal, SLA nélkül és dedikált támogatás hiányában. Tökéletesen alkalmas a Mistral modellek megismerésére, egy alkalmazás prototípusának elkészítésére vagy funkcionális tesztek futtatására – és gyorsan megtanít majd arra, milyen érzés egy 429 hiba, ha ügyféldemót próbálsz rajta futtatni.

A fizetős Scale szintet éles környezeti használatra (production) építették. Az RPS magasabb a valós forgalom kezeléséhez, a havi tokenmennyiség kibővült, és a számlázás az előfizetésen túli használat alapján történik, szabványos technikai támogatással. Ez az elvárt szint egy közepes vagy nagy forgalmú éles alkalmazáshoz, egy professzionális fejlesztői csapathoz, és általában minden olyan esetben, amikor kiszámítható teljesítményre van szükséged.

Végül, az Enterprise szintet egyedi tárgyalás alapján állapítják meg a Mistral értékesítési csapatával. Ez személyre szabott korlátokat old fel, garantált SLA-t biztosít a rendelkezésre állásra és a késleltetésre, dedikált támogatást nyújt technikai kapcsolattartóval, hozzáférést biztosít a Dedicated Serverless és Self-Hosted lehetőségekhez, valamint testreszabott szerződési feltételeket kínál – beleértve az Adatfeldolgozási Megállapodást (DPA) és a GDPR-megfelelést. Ez kötelező akkor, ha a saját ügyfeleid szerződésesen szolgáltatási garanciákat igényelnek tőled.

Ellenőrizd a jelenlegi korlátaidat

A munkaterületedre vonatkozó pontos értékeket nem kitalálni kell: azok az adminisztrációs irányítópulton szerepelnek.

https://admin.mistral.ai/plateforme/limits

Itt megtalálod a modellenkénti RPS-korlátaidat, a percenkénti és havi tokenfogyasztásodat, ennek a fogyasztásnak a történetét, valamint a küszöbértékek közelítésekor aktivált riasztásokat. Szokásoddá váljon, hogy bármely bejelentett méretezés előtt megnyitod ezt az oldalt, nem pedig az első incidens után.

Optimalizáld a költségeidet

A leghatékonyabb eszköz a modellválasztás, mivel nem minden modellbe kerül ugyanannyiba egy token. A Mistral Large 3 modellt tartsd fenn a komplex feladatokhoz – következtetés, hosszú szövegek generálása, szerződéses dokumentumok elemzése –, az egyszerű feldolgozási feladatokat, mint az osztályozás vagy az adatmezők kinyerése, pedig bízd a Mistral Small modellre. Amikor a késleltetés fontosabb, mint a válasz árnyaltsága, a Ministral 3 tesztelése érdemes lehet.

# Simple task → lightweight model
response_simple = client.chat.complete(
    model="mistral-small-latest",
    messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)

# Complex task → powerful model
response_complex = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)

Maga a fogyasztás ezután lépésről lépésre csökkenthető. Egy tömör rendszerprompt (system prompt) tokent takarít meg minden hívásnál, nem csak egyszer; a max_tokens paraméter korlátozza a válasz hosszát és elkerüli a költséges kitérőket; a streamelés nem csökkenti a számlát, de jelentősen javítja a felhasználói élményt hosszú válaszok esetén; végül, az ismétlődő kérdésekre adott válaszok gyorsítótárazása (caching) az alkalmazás oldalán teljesen megszünteti a hívást.

Természetesen ezt mérned is kell. Naplózd a tokeneket minden hívásnál: e mérési infrastruktúra nélkül csak akkor fogod felfedezni a költségtúllépést, amikor megérkezik a számla.

import logging

logger = logging.getLogger("mistral_usage")

def tracked_call(model, messages):
    response = client.chat.complete(model=model, messages=messages)
    usage = response.usage
    logger.info(
        f"Model: {model} | "
        f"Input tokens: {usage.prompt_tokens} | "
        f"Output tokens: {usage.completion_tokens} | "
        f"Total: {usage.total_tokens}"
    )
    return response

Mikor válts magasabb szintre

Négy jelzésnek kellene beszélgetést kezdeményeznie a Mistrallel: ismétlődő 429 hibák, a havi fogyasztás eléri a kvóta 80%-át, szükség van egy SLA-ra, amit saját ügyfeleidnek bemutass, vagy érzékeny adatok feldolgozása, amely elkülönítést igényel. E négy közül az első is elegendő; a másik három ritkán érkezik egyedül.

Főbb megállapítások

  • A korlátok munkaterületi szinten érvényesek (RPS + token/perc/hó)
  • Az ingyenes szint elegendő prototípuskészítéshez; a Scale szint éles környezeti használatra való
  • Ellenőrizd a pontos korlátaidat itt: admin.mistral.ai/plateforme/limits
  • Optimalizáld a költségeket az egyes feladatokhoz illő modell kiválasztásával
  • Implementálj exponenciális visszalépést (exponential backoff) a sebességkorlátozások kezelésére éles környezetben