Google Vertex AI
Ezen az oldalon
Frissítve: 2026. november 2. — Google Cloud. A Google mostantól a Gemini Enterprise Agent Platform („Agent Platform“) alatt csoportosítja AI-megoldásait; a Model Garden továbbra is ennek az ökoszisztémának a része. Elérhető Mistral modellek: Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) és Mistral Small 3.1 (mistral-small-2503). A Mistral SDK v2 és újabb verzióiban az ügyfelet afrom mistralai.gcp.client import MistralGCPutasítással importálod, telepítése pedig apip install "mistralai[gcp]"paranccsal történik. Források: Mistral AI modellek (Google Cloud) · Vertex AI (Mistral).
Mistral a Google Cloudon
A Google Cloud Vertex AI integrálja a Mistral modelleket egységes ML-platformjába. A hozzáféréshez egy dedikált ügyfélre, a MistralGCP-re van szükséged. Legfőbb sajátossága a hitelesítés módja: nem kell Mistral API-kulcsot kezelned, mivel az ügyfél a gépeden vagy szolgáltatásodon már konfigurált Google Cloud-hitelesítő adatokat használja. Ez a lecke a konfigurációt, a Python-kódot és azt a funkciót tárgyalja, amelyet a Vertex AI a leginkább hangsúlyoz: a Codestral segítségével megvalósított Fill-in-the-Middle (FIM) funkciót.
A Vertex AI-n elérhető modellek
A Vertex AI több modellhez biztosít hozzáférést; mivel a katalógus rendszeresen frissül, a jelenlegi listát mindig a hivatalos oldalon ellenőrizd. A Mistral Medium 3 (mistral-medium-3) a nagy teljesítményű általános modell, ez az alapértelmezett választás szöveggeneráláshoz vagy elemzéshez. A Codestral 2 (25.08) (codestral-2) kódra specializálódott, és támogatja az FIM-et, amelyről később ejtünk szót ebben a leckében. A Mistral OCR (25.05) (mistral-ocr-2505) optikai karakterfelismerést végez, jellemzően szkennelt számlák kötegeiből történő szövegkinyerésre, mielőtt az adatot továbbítaná egy másik modellnek. Végül a Mistral Small 3.1 (25.03) (mistral-small-2503) könnyű és gyors, így ideális nagy volumenű feldolgozáshoz, ahol a késleltetés fontosabb, mint a válasz árnyaltsága.
Előfeltételek
Mielőtt egyetlen sor Python-kódot is írnál, állítsd be a Google Cloud-konfigurációdat. Szükséged lesz egy Google Cloud-projektre, amelyen engedélyezve van a Vertex AI API, a telepített és konfigurált gcloud CLI-re, valamint két IAM-szerep hozzárendelésére a szolgáltatásfiókodhoz:
Vertex AI User— modellek hívásáhozConsumer Procurement Entitlement Manager— a Mistral modellek engedélyezéséhez
A második szerep az, ami kilenc esetből tízszer hiányzik: enélkül a modellaktiválás sikertelen lesz, még akkor is, ha a hívásaid helyesen vannak hitelesítve.
# gcloud CLI telepítése
curl https://sdk.cloud.google.com | bash
# Bejelentkezés
gcloud auth application-default login
# Projekt konfigurálása
gcloud config set project mon-projet-gcp
Marad még egy lépés, amelyet nem tudsz parancssorból végrehajtani: a Mistral modelleket a Vertex AI Model Gardenben kell aktiválnod használat előtt. Nyisd meg a Vertex AI portált, lépj be a Model Garden szekcióba, keress rá a Mistralra, és engedélyezd a kívánt modelleket.
A MistralGCP ügyfél
A telepítéshez a gcp extra csomagra van szükség, amely tartalmazza a Google-hitelesítés függőségeit.
pip install mistralai[gcp]
A inicializálás szabványos esetben nem igényel argumentumokat:
from mistralai.gcp.client import MistralGCP
# Automatikus hitelesítés a google.auth.default() segítségével
client = MistralGCP()
Az ügyfél a Google Cloud Application Default Credentials (ADC) rendszert használja. Ha futtattad a gcloud auth application-default login parancsot, vagy ha a kódod olyan gépen fut, amelyen szolgáltatásfiók van beállítva, nincs szükség további konfigurációra. Alapértelmezés szerint a kiválasztott régió az europe-west4; ezt felülírhatod egy másikra. A felhasználóid tartózkodási helye alapján válassz, mivel a hálózati utazás minden egyes milliszekunduma növeli a generálási időt.
client = MistralGCP(region="us-central1")
Chat-kiegészítések
Maga a hívás nem tartogat meglepetéseket: az Azure-ral ellentétben itt a model paraméter a modell tényleges nevét használja.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "You are a cloud architecture expert."},
{"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM a Codestral segítségével
A Fill-in-the-Middle (FIM) a Codestral egyedülálló képessége. A szöveg folytatása helyett a modell kitölt egy rést egy kezdet (amit a prompt tartalmaz) és egy vég (amit a suffix tartalmaz) között. Ez a különbség döntő fontosságú az IDE-k automatikus kiegészítésénél, ahol a kurzor szinte mindig egy fájl közepén helyezkedik el: a modell látja, mi következik, így képes olyan függvénytörzset írni, amely összhangban van a közelgő return utasítással, vagy kiegészíteni egy hiányzó blokkot a meglévő kódban.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Generálja a függvénytörzset a prompt és a suffix közé
A példa egy valós osztállyal még értelmezhetőbb. Itt a modell megkapja a teljes fejlécet, a már definiált attribútumokat és a következő disconnect() metódust; feladata a connect() metódus törzsének előállítása, amely összhangban van ezzel a környezettel.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
A generált kód újra felhasználja a self.host, self.port és self.database változókat, valamint értékül adja a self.connection attribútumot – valamit, amit a szabványos kiegészítés, amely vak a fájl többi részére, semmi okkal nem tenne meg.
Streamelés a Vertex AI-n
A streamelés ugyanúgy működik, mint máshol: a visszaadott chunkok iterálásával.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Különbségek a közvetlen Mistral API-hoz képest
| Szempont | Mistral API | Vertex AI |
|---|---|---|
| Ügyfél | Mistral() | MistralGCP() |
| Hitelesítés | API-kulcs | Google ADC |
| Régió | Automatikus | Konfigurálható |
| FIM | Igen | Igen (Codestral) |
| Számlázás | Mistral | Google Cloud |
Főbb megállapítások
- A
MistralGCPügyfél a natív Google Cloud-hitelesítést használja (nincs szükség Mistral API-kulcsra) - Az alapértelmezett régió az
europe-west4– igazítsd a saját használati esetedhez - A Vertex AI-n futó Codestral támogatja az FIM-et kód-automatikus kiegészítéshez
- Használat előtt engedélyezd a modelleket a Model Gardenben
- A Vertex azonosítók verziókövetettek (
codestral-2,mistral-medium-3), és generációnként változnak: telepítés előtt mindig ellenőrizd a pontos értéket a Model Gardenben - A számlázás a Google Cloud-fiókodon keresztül történik, nem a Mistralon