Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Google Vertex AI

Lekcia 7 z 14 Aktualizované 2. novembra 2026 Pokročilý
Na tejto strane
  1. Mistral na Google Cloud
  2. Modely dostupné na Vertex AI
  3. Predpoklady
  4. Klient MistralGCP
  5. Chat Completions
  6. FIM s Codestralom
  7. Streamovanie na Vertex AI
  8. Rozdiely oproti priamemu API Mistral
  9. Kľúčové poznatky

Aktualizované 2. novembra 2026 — Google Cloud. Google teraz zoskupuje svoje ponuky umelej inteligencie pod platformu Gemini Enterprise Agent Platform („Agent Platform“); Model Garden zostáva súčasťou tohto ekosystému. Dostupné modely Mistral zahŕňajú Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) a Mistral Small 3.1 (mistral-small-2503). Pri použití Mistral SDK v2 a novších importuj klienta príkazom from mistralai.gcp.client import MistralGCP a nainštaluj ho pomocou pip install "mistralai[gcp]". Zdroje: Modely Mistral AI (Google Cloud) · Vertex AI (Mistral).

Mistral na Google Cloud

Google Cloud Vertex AI integruje modely Mistral do svojej jednotnej platformy strojového učenia. Prístup si vyžaduje vyhradeného klienta, MistralGCP. Jeho kľúčovým rozdielom je autentifikácia: nemusíš spravovať API kľúč Mistral, pretože klient využíva poverenia Google Cloud, ktoré sú už nakonfigurované na tvojom stroji alebo službe. Táto lekcia pokrýva konfiguráciu, kód v Pythone a funkciu, ktorú Vertex AI najviac zdôrazňuje: Fill-in-the-Middle (FIM) s Codestralom.

Modely dostupné na Vertex AI

Vertex AI poskytuje prístup k viacerým modelom; keďže sa katalóg pravidelne vyvíja, aktuálny zoznam si over na oficiálnej stránke. Mistral Medium 3 (mistral-medium-3) slúži ako vysoko výkonný univerzálny model, tvoja predvolená voľba pre generovanie alebo analýzu textu. Codestral 2 (25.08) (codestral-2) sa špecializuje na kód a podporuje FIM, čo je podrobnejšie popísané ďalej v tejto lekcii. Mistral OCR (25.05) (mistral-ocr-2505) spracováva optické rozpoznávanie znakov, typicky na extrakciu textu z dávok naskenovaných faktúr pred ich odovzdaním inému modelu. Nakoniec, Mistral Small 3.1 (25.03) (mistral-small-2503) je ľahký a rýchly, čo ho robí ideálnym pre spracovanie veľkých objemov, kde záleží viac na latencii než na nuansách odpovede.

Predpoklady

Pred napísaním jediného riadku Pythonu si nastav konfiguráciu Google Cloud. Potrebuješ projekt Google Cloud s povoleným rozhraním API Vertex AI, nainštalovaný a nakonfigurovaný CLI nástroj gcloud a dve role IAM priradené tvojmu servisnému účtu:

  • Vertex AI User — na volanie modelov
  • Consumer Procurement Entitlement Manager — na aktiváciu modelov Mistral

Druhá rola je tá, ktorá chýba v deviatich z desiatich prípadov: bez nej aktivácia modelu zlyhá, hoci sa tvoje volania javia ako správne autentifikované.

# Inštalácia gcloud CLI
curl https://sdk.cloud.google.com | bash

# Prihlásenie
gcloud auth application-default login

# Konfigurácia projektu
gcloud config set project mon-projet-gcp

Zostáva ešte jeden krok, ktorý nemôžeš vykonať cez príkazový riadok: pred použitím musíš aktivovať modely Mistral v Model Garden na Vertex AI. Prejdi na portál Vertex AI, otvor Model Garden, vyhľadaj Mistral a povoľ požadované modely.

Klient MistralGCP

Inštalácia vyžaduje extra balík gcp, ktorý obsahuje závislosti pre autentifikáciu Google.

pip install mistralai[gcp]

Inicializácia v štandardnom prípade neprijíma žiadne argumenty:

from mistralai.gcp.client import MistralGCP

# Automatická autentifikácia cez google.auth.default()
client = MistralGCP()

Klient využíva predvolené poverenia aplikácie Google Cloud (ADC). Ak si spustil gcloud auth application-default login, alebo ak tvoj kód beží na stroji so servisným účtom, nie je potrebná žiadna ďalšia konfigurácia. Predvoleným regiónom je europe-west4; môžeš vynútiť iný. Vyber ho podľa lokality svojich používateľov, pretože každá milisekunda cestovania sieťou sa pripočítava k času generovania.

client = MistralGCP(region="us-central1")

Chat Completions

Samotné volanie nie je ničím prekvapivé: na rozdiel od Azure parameter model tu používa skutočný názov modelu.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "Si expert na cloudovú architektúru."},
        {"role": "user", "content": "Aké sú výhody Vertex AI v porovnaní so samostatným nasadením?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM s Codestralom

Fill-in-the-Middle je schopnosť jedinečná pre Codestral. Namiesto pokračovania textu model vypĺňa medzeru medzi začiatkom (odovzdaným v prompt) a koncom (odovzdaným v suffix). Tento rozdiel je rozhodujúci pre automatické dokončovanie v IDE, kde sa kurzor takmer vždy nachádza v strede súboru: model vidí, čo nasleduje, a preto môže napísať telo funkcie konzistentné s nadchádzajúcim príkazom return, alebo dokončiť chýbajúci blok v existujúcom kóde.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Vygeneruje telo funkcie medzi prompt a suffix

Príklad dáva ešte väčší zmysel s reálnou triedou. Tu model dostane úplnú hlavičku, už definované atribúty a nasledujúcu metódu disconnect(); musí vyprodukovať telo metódy connect() konzistentné s týmto prostredím.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

Vygenerovaný kód znovu použije self.host, self.port a self.database a priradí self.connection — niečo, čo by štandardné dokončovanie, slepé voči zvyšku súboru, nemalo dôvod robiť.

Streamovanie na Vertex AI

Streamovanie funguje ako inde, iterovaním cez vrátené časti.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Vygeneruj Terraform skript pre GKE cluster."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Rozdiely oproti priamemu API Mistral

AspektAPI MistralVertex AI
KlientMistral()MistralGCP()
AutentifikáciaAPI kľúčGoogle ADC
RegiónAutomatickýKonfigurovateľný
FIMÁnoÁno (Codestral)
FakturáciaMistralGoogle Cloud

Kľúčové poznatky

  • Klient MistralGCP využíva natívnu autentifikáciu Google Cloud (žiadny API kľúč Mistral)
  • Predvolený región je europe-west4 — prispôsob ho svojmu prípadu použitia
  • Codestral na Vertex AI podporuje FIM pre automatické dokončovanie kódu
  • Pred použitím povoľ modely v Model Garden
  • Identifikátory Vertex sú verzionované (codestral-2, mistral-medium-3) a vyvíjajú sa s každou generáciou: pred nasadením si over presnú hodnotu v Model Garden
  • Fakturácia prebieha cez tvoj účet Google Cloud, nie cez Mistral