Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Google Vertex AI

7. lecke 14 közül Frissítve 2026. november 2. Haladó
Ezen az oldalon
  1. Mistral a Google Cloudon
  2. A Vertex AI-n elérhető modellek
  3. Előfeltételek
  4. A MistralGCP ügyfél
  5. Chat-kiegészítések
  6. FIM a Codestral segítségével
  7. Streamelés a Vertex AI-n
  8. Különbségek a közvetlen Mistral API-hoz képest
  9. Főbb megállapítások

Frissítve: 2026. november 2. — Google Cloud. A Google mostantól a Gemini Enterprise Agent Platform („Agent Platform“) alatt csoportosítja AI-megoldásait; a Model Garden továbbra is ennek az ökoszisztémának a része. Elérhető Mistral modellek: Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) és Mistral Small 3.1 (mistral-small-2503). A Mistral SDK v2 és újabb verzióiban az ügyfelet a from mistralai.gcp.client import MistralGCP utasítással importálod, telepítése pedig a pip install "mistralai[gcp]" paranccsal történik. Források: Mistral AI modellek (Google Cloud) · Vertex AI (Mistral).

Mistral a Google Cloudon

A Google Cloud Vertex AI integrálja a Mistral modelleket egységes ML-platformjába. A hozzáféréshez egy dedikált ügyfélre, a MistralGCP-re van szükséged. Legfőbb sajátossága a hitelesítés módja: nem kell Mistral API-kulcsot kezelned, mivel az ügyfél a gépeden vagy szolgáltatásodon már konfigurált Google Cloud-hitelesítő adatokat használja. Ez a lecke a konfigurációt, a Python-kódot és azt a funkciót tárgyalja, amelyet a Vertex AI a leginkább hangsúlyoz: a Codestral segítségével megvalósított Fill-in-the-Middle (FIM) funkciót.

A Vertex AI-n elérhető modellek

A Vertex AI több modellhez biztosít hozzáférést; mivel a katalógus rendszeresen frissül, a jelenlegi listát mindig a hivatalos oldalon ellenőrizd. A Mistral Medium 3 (mistral-medium-3) a nagy teljesítményű általános modell, ez az alapértelmezett választás szöveggeneráláshoz vagy elemzéshez. A Codestral 2 (25.08) (codestral-2) kódra specializálódott, és támogatja az FIM-et, amelyről később ejtünk szót ebben a leckében. A Mistral OCR (25.05) (mistral-ocr-2505) optikai karakterfelismerést végez, jellemzően szkennelt számlák kötegeiből történő szövegkinyerésre, mielőtt az adatot továbbítaná egy másik modellnek. Végül a Mistral Small 3.1 (25.03) (mistral-small-2503) könnyű és gyors, így ideális nagy volumenű feldolgozáshoz, ahol a késleltetés fontosabb, mint a válasz árnyaltsága.

Előfeltételek

Mielőtt egyetlen sor Python-kódot is írnál, állítsd be a Google Cloud-konfigurációdat. Szükséged lesz egy Google Cloud-projektre, amelyen engedélyezve van a Vertex AI API, a telepített és konfigurált gcloud CLI-re, valamint két IAM-szerep hozzárendelésére a szolgáltatásfiókodhoz:

  • Vertex AI User — modellek hívásához
  • Consumer Procurement Entitlement Manager — a Mistral modellek engedélyezéséhez

A második szerep az, ami kilenc esetből tízszer hiányzik: enélkül a modellaktiválás sikertelen lesz, még akkor is, ha a hívásaid helyesen vannak hitelesítve.

# gcloud CLI telepítése
curl https://sdk.cloud.google.com | bash

# Bejelentkezés
gcloud auth application-default login

# Projekt konfigurálása
gcloud config set project mon-projet-gcp

Marad még egy lépés, amelyet nem tudsz parancssorból végrehajtani: a Mistral modelleket a Vertex AI Model Gardenben kell aktiválnod használat előtt. Nyisd meg a Vertex AI portált, lépj be a Model Garden szekcióba, keress rá a Mistralra, és engedélyezd a kívánt modelleket.

A MistralGCP ügyfél

A telepítéshez a gcp extra csomagra van szükség, amely tartalmazza a Google-hitelesítés függőségeit.

pip install mistralai[gcp]

A inicializálás szabványos esetben nem igényel argumentumokat:

from mistralai.gcp.client import MistralGCP

# Automatikus hitelesítés a google.auth.default() segítségével
client = MistralGCP()

Az ügyfél a Google Cloud Application Default Credentials (ADC) rendszert használja. Ha futtattad a gcloud auth application-default login parancsot, vagy ha a kódod olyan gépen fut, amelyen szolgáltatásfiók van beállítva, nincs szükség további konfigurációra. Alapértelmezés szerint a kiválasztott régió az europe-west4; ezt felülírhatod egy másikra. A felhasználóid tartózkodási helye alapján válassz, mivel a hálózati utazás minden egyes milliszekunduma növeli a generálási időt.

client = MistralGCP(region="us-central1")

Chat-kiegészítések

Maga a hívás nem tartogat meglepetéseket: az Azure-ral ellentétben itt a model paraméter a modell tényleges nevét használja.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "You are a cloud architecture expert."},
        {"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM a Codestral segítségével

A Fill-in-the-Middle (FIM) a Codestral egyedülálló képessége. A szöveg folytatása helyett a modell kitölt egy rést egy kezdet (amit a prompt tartalmaz) és egy vég (amit a suffix tartalmaz) között. Ez a különbség döntő fontosságú az IDE-k automatikus kiegészítésénél, ahol a kurzor szinte mindig egy fájl közepén helyezkedik el: a modell látja, mi következik, így képes olyan függvénytörzset írni, amely összhangban van a közelgő return utasítással, vagy kiegészíteni egy hiányzó blokkot a meglévő kódban.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Generálja a függvénytörzset a prompt és a suffix közé

A példa egy valós osztállyal még értelmezhetőbb. Itt a modell megkapja a teljes fejlécet, a már definiált attribútumokat és a következő disconnect() metódust; feladata a connect() metódus törzsének előállítása, amely összhangban van ezzel a környezettel.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

A generált kód újra felhasználja a self.host, self.port és self.database változókat, valamint értékül adja a self.connection attribútumot – valamit, amit a szabványos kiegészítés, amely vak a fájl többi részére, semmi okkal nem tenne meg.

Streamelés a Vertex AI-n

A streamelés ugyanúgy működik, mint máshol: a visszaadott chunkok iterálásával.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Különbségek a közvetlen Mistral API-hoz képest

SzempontMistral APIVertex AI
ÜgyfélMistral()MistralGCP()
HitelesítésAPI-kulcsGoogle ADC
RégióAutomatikusKonfigurálható
FIMIgenIgen (Codestral)
SzámlázásMistralGoogle Cloud

Főbb megállapítások

  • A MistralGCP ügyfél a natív Google Cloud-hitelesítést használja (nincs szükség Mistral API-kulcsra)
  • Az alapértelmezett régió az europe-west4 – igazítsd a saját használati esetedhez
  • A Vertex AI-n futó Codestral támogatja az FIM-et kód-automatikus kiegészítéshez
  • Használat előtt engedélyezd a modelleket a Model Gardenben
  • A Vertex azonosítók verziókövetettek (codestral-2, mistral-medium-3), és generációnként változnak: telepítés előtt mindig ellenőrizd a pontos értéket a Model Gardenben
  • A számlázás a Google Cloud-fiókodon keresztül történik, nem a Mistralon