Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Google Vertex AI

Lekce 7 z 14 Aktualizováno 2. listopadu 2026 Pokročilý
Na této stránce
  1. Mistral na Google Cloud
  2. Modely dostupné na Vertex AI
  3. Předpoklady
  4. Klient MistralGCP
  5. Chat Completions
  6. FIM s Codestral
  7. Streamování na Vertex AI
  8. Rozdíly oproti přímému API Mistral
  9. Klíčové poznatky

Aktualizováno 2. listopadu 2026 — Google Cloud. Google nyní sdružuje své nabídky umělé inteligence pod platformu Gemini Enterprise Agent Platform („Agent Platform“); Model Garden zůstává součástí tohoto ekosystému. Dostupné modely Mistral zahrnují Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) a Mistral Small 3.1 (mistral-small-2503). Od verze Mistral SDK v2 výše importuj klienta příkazem from mistralai.gcp.client import MistralGCP a nainstaluj jej pomocí pip install "mistralai[gcp]". Zdroje: Modely Mistral AI (Google Cloud) · Vertex AI (Mistral).

Mistral na Google Cloud

Google Cloud Vertex AI integruje modely Mistral do své jednotné platformy pro strojové učení. Přístup vyžaduje vyhrazeného klienta MistralGCP. Jeho klíčovým rozdílem je autentizace: nemusíš spravovat API klíč Mistral, protože klient využívá pověření Google Cloud, která jsou již nakonfigurována na tvém stroji nebo službě. Tato lekce pokrývá konfiguraci, kód v Pythonu a funkci, kterou Vertex AI nejvíce zdůrazňuje: Fill-in-the-Middle (FIM) s modelem Codestral.

Modely dostupné na Vertex AI

Vertex AI poskytuje přístup k několika modelům; protože se katalog pravidelně vyvíjí, ověř si aktuální seznam na oficiální stránce. Mistral Medium 3 (mistral-medium-3) slouží jako vysoce výkonný univerzální model, tvoje výchozí volba pro generování nebo analýzu textu. Codestral 2 (25.08) (codestral-2) se specializuje na kód a podporuje FIM, což je podrobněji rozebráno dále v této lekci. Mistral OCR (25.05) (mistral-ocr-2505) zpracovává optické rozpoznávání znaků, typicky za účelem extrakce textu z dávek naskenovaných faktur před jejich předáním jinému modelu. Nakonec Mistral Small 3.1 (25.03) (mistral-small-2503) je lehký a rychlý, což z něj činí ideální volbu pro zpracování vysokého objemu dat, kde záleží více na latenci než na nuancích odpovědi.

Předpoklady

Než napíšeš jediný řádek Pythonu, nastav si konfiguraci Google Cloud. Potřebuješ projekt Google Cloud s povoleným rozhraním API Vertex AI, nainstalované a nakonfigurované CLI gcloud a dvě role IAM přiřazené tvému servisnímu účtu:

  • Vertex AI User — pro volání modelů
  • Consumer Procurement Entitlement Manager — pro aktivaci modelů Mistral

Druhá role je tou, která chybí v devíti případech z deseti: bez ní aktivace modelu selže, i když se tvá volání zdají být správně autentizována.

# Instalace gcloud CLI
curl https://sdk.cloud.google.com | bash

# Přihlášení
gcloud auth application-default login

# Konfigurace projektu
gcloud config set project mon-projet-gcp

Zbývá ještě jeden krok, který nelze provést přes příkazový řádek: před použitím musíš aktivovat modely Mistral v Model Garden na Vertex AI. Přejdi na portál Vertex AI, otevři Model Garden, vyhledej Mistral a povol požadované modely.

Klient MistralGCP

Instalace vyžaduje doplněk gcp, který zahrnuje závislosti pro autentizaci Google.

pip install mistralai[gcp]

Inicializace ve standardním případě nepřijímá žádné argumenty:

from mistralai.gcp.client import MistralGCP

# Automatická autentizace přes google.auth.default()
client = MistralGCP()

Klient využívá výchozí pověření aplikace Google Cloud (ADC). Pokud jsi spustil gcloud auth application-default login nebo pokud tvůj kód běží na stroji se servisním účtem, není nutná žádná další konfigurace. Výchozí region je europe-west4; můžeš vynutit jiný. Vyber jej na základě umístění tvých uživatelů, protože každá milisekunda cestování po síti se přičítá k době generování.

client = MistralGCP(region="us-central1")

Chat Completions

Samotné volání nepřináší žádná překvapení: na rozdíl od Azure zde parametr model používá skutečný název modelu.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "You are a cloud architecture expert."},
        {"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM s Codestral

Fill-in-the-Middle je schopnost jedinečná pro Codestral. Místo pokračování v textu model vyplní mezeru mezi začátkem (předaným v prompt) a koncem (předaným v suffix). Tento rozdíl je rozhodující pro automatické dokončování v IDE, kde se kurzor téměř vždy nachází uprostřed souboru: model vidí, co následuje, a může proto napsat tělo funkce konzistentní s nadcházejícím příkazem return nebo doplnit chybějící blok v existujícím kódu.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Generuje tělo funkce mezi prompt a suffix

Příklad dává ještě větší smysl s reálnou třídou. Zde model obdrží úplnou hlavičku, již definované atributy a následující metodu disconnect(); musí vygenerovat tělo metody connect() konzistentní s tímto prostředím.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

Vygenerovaný kód znovu využije self.host, self.port a self.database a přiřadí hodnotu self.connection — něco, co by standardní dokončování, slepé vůči zbytku souboru, nemělo důvod dělat.

Streamování na Vertex AI

Streamování funguje stejně jako jinde, iterací přes vrácené chunky.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Rozdíly oproti přímému API Mistral

AspektAPI MistralVertex AI
KlientMistral()MistralGCP()
AutentizaceAPI klíčGoogle ADC
RegionAutomatickýKonfigurovatelný
FIMAnoAno (Codestral)
FakturaceMistralGoogle Cloud

Klíčové poznatky

  • Klient MistralGCP využívá nativní autentizaci Google Cloud (žádný API klíč Mistral)
  • Výchozí region je europe-west4 — přizpůsob jej svému případu použití
  • Codestral na Vertex AI podporuje FIM pro automatické dokončování kódu
  • Před použitím povol modely v Model Garden
  • Identifikátory Vertex jsou verzované (codestral-2, mistral-medium-3) a vyvíjejí se s každou generací: před nasazením si ověř přesnou hodnotu v Model Garden
  • Fakturace probíhá přes tvůj účet Google Cloud, nikoliv přes Mistral