Google Vertex AI
Na tejto strane
Aktualizované 2. novembra 2026 — Google Cloud. Google teraz zoskupuje svoje ponuky umelej inteligencie pod platformu Gemini Enterprise Agent Platform („Agent Platform“); Model Garden zostáva súčasťou tohto ekosystému. Dostupné modely Mistral zahŕňajú Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) a Mistral Small 3.1 (mistral-small-2503). Pri použití Mistral SDK v2 a novších importuj klienta príkazomfrom mistralai.gcp.client import MistralGCPa nainštaluj ho pomocoupip install "mistralai[gcp]". Zdroje: Modely Mistral AI (Google Cloud) · Vertex AI (Mistral).
Mistral na Google Cloud
Google Cloud Vertex AI integruje modely Mistral do svojej jednotnej platformy strojového učenia. Prístup si vyžaduje vyhradeného klienta, MistralGCP. Jeho kľúčovým rozdielom je autentifikácia: nemusíš spravovať API kľúč Mistral, pretože klient využíva poverenia Google Cloud, ktoré sú už nakonfigurované na tvojom stroji alebo službe. Táto lekcia pokrýva konfiguráciu, kód v Pythone a funkciu, ktorú Vertex AI najviac zdôrazňuje: Fill-in-the-Middle (FIM) s Codestralom.
Modely dostupné na Vertex AI
Vertex AI poskytuje prístup k viacerým modelom; keďže sa katalóg pravidelne vyvíja, aktuálny zoznam si over na oficiálnej stránke. Mistral Medium 3 (mistral-medium-3) slúži ako vysoko výkonný univerzálny model, tvoja predvolená voľba pre generovanie alebo analýzu textu. Codestral 2 (25.08) (codestral-2) sa špecializuje na kód a podporuje FIM, čo je podrobnejšie popísané ďalej v tejto lekcii. Mistral OCR (25.05) (mistral-ocr-2505) spracováva optické rozpoznávanie znakov, typicky na extrakciu textu z dávok naskenovaných faktúr pred ich odovzdaním inému modelu. Nakoniec, Mistral Small 3.1 (25.03) (mistral-small-2503) je ľahký a rýchly, čo ho robí ideálnym pre spracovanie veľkých objemov, kde záleží viac na latencii než na nuansách odpovede.
Predpoklady
Pred napísaním jediného riadku Pythonu si nastav konfiguráciu Google Cloud. Potrebuješ projekt Google Cloud s povoleným rozhraním API Vertex AI, nainštalovaný a nakonfigurovaný CLI nástroj gcloud a dve role IAM priradené tvojmu servisnému účtu:
Vertex AI User— na volanie modelovConsumer Procurement Entitlement Manager— na aktiváciu modelov Mistral
Druhá rola je tá, ktorá chýba v deviatich z desiatich prípadov: bez nej aktivácia modelu zlyhá, hoci sa tvoje volania javia ako správne autentifikované.
# Inštalácia gcloud CLI
curl https://sdk.cloud.google.com | bash
# Prihlásenie
gcloud auth application-default login
# Konfigurácia projektu
gcloud config set project mon-projet-gcp
Zostáva ešte jeden krok, ktorý nemôžeš vykonať cez príkazový riadok: pred použitím musíš aktivovať modely Mistral v Model Garden na Vertex AI. Prejdi na portál Vertex AI, otvor Model Garden, vyhľadaj Mistral a povoľ požadované modely.
Klient MistralGCP
Inštalácia vyžaduje extra balík gcp, ktorý obsahuje závislosti pre autentifikáciu Google.
pip install mistralai[gcp]
Inicializácia v štandardnom prípade neprijíma žiadne argumenty:
from mistralai.gcp.client import MistralGCP
# Automatická autentifikácia cez google.auth.default()
client = MistralGCP()
Klient využíva predvolené poverenia aplikácie Google Cloud (ADC). Ak si spustil gcloud auth application-default login, alebo ak tvoj kód beží na stroji so servisným účtom, nie je potrebná žiadna ďalšia konfigurácia. Predvoleným regiónom je europe-west4; môžeš vynútiť iný. Vyber ho podľa lokality svojich používateľov, pretože každá milisekunda cestovania sieťou sa pripočítava k času generovania.
client = MistralGCP(region="us-central1")
Chat Completions
Samotné volanie nie je ničím prekvapivé: na rozdiel od Azure parameter model tu používa skutočný názov modelu.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "Si expert na cloudovú architektúru."},
{"role": "user", "content": "Aké sú výhody Vertex AI v porovnaní so samostatným nasadením?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM s Codestralom
Fill-in-the-Middle je schopnosť jedinečná pre Codestral. Namiesto pokračovania textu model vypĺňa medzeru medzi začiatkom (odovzdaným v prompt) a koncom (odovzdaným v suffix). Tento rozdiel je rozhodujúci pre automatické dokončovanie v IDE, kde sa kurzor takmer vždy nachádza v strede súboru: model vidí, čo nasleduje, a preto môže napísať telo funkcie konzistentné s nadchádzajúcim príkazom return, alebo dokončiť chýbajúci blok v existujúcom kóde.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Vygeneruje telo funkcie medzi prompt a suffix
Príklad dáva ešte väčší zmysel s reálnou triedou. Tu model dostane úplnú hlavičku, už definované atribúty a nasledujúcu metódu disconnect(); musí vyprodukovať telo metódy connect() konzistentné s týmto prostredím.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
Vygenerovaný kód znovu použije self.host, self.port a self.database a priradí self.connection — niečo, čo by štandardné dokončovanie, slepé voči zvyšku súboru, nemalo dôvod robiť.
Streamovanie na Vertex AI
Streamovanie funguje ako inde, iterovaním cez vrátené časti.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Vygeneruj Terraform skript pre GKE cluster."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Rozdiely oproti priamemu API Mistral
| Aspekt | API Mistral | Vertex AI |
|---|---|---|
| Klient | Mistral() | MistralGCP() |
| Autentifikácia | API kľúč | Google ADC |
| Región | Automatický | Konfigurovateľný |
| FIM | Áno | Áno (Codestral) |
| Fakturácia | Mistral | Google Cloud |
Kľúčové poznatky
- Klient
MistralGCPvyužíva natívnu autentifikáciu Google Cloud (žiadny API kľúč Mistral) - Predvolený región je
europe-west4— prispôsob ho svojmu prípadu použitia - Codestral na Vertex AI podporuje FIM pre automatické dokončovanie kódu
- Pred použitím povoľ modely v Model Garden
- Identifikátory Vertex sú verzionované (
codestral-2,mistral-medium-3) a vyvíjajú sa s každou generáciou: pred nasadením si over presnú hodnotu v Model Garden - Fakturácia prebieha cez tvoj účet Google Cloud, nie cez Mistral