Przejdź do głównej treści
Polski— Wybierz język
Menu

Google Vertex AI

Lekcja 7 z 14 Zaktualizowano 2 listopada 2026 Zaawansowany
Na tej stronie
  1. Mistral w Google Cloud
  2. Modele dostępne w Vertex AI
  3. Wymagania wstępne
  4. Klient MistralGCP
  5. Uzupełnianie czatu (Chat Completions)
  6. FIM z Codestral
  7. Strumieniowanie w Vertex AI
  8. Różnice względem bezpośredniego API Mistral
  9. Kluczowe wnioski

Zaktualizowano 2 listopada 2026 — Google Cloud. Google grupuje obecnie swoje oferty AI w ramach platformy Gemini Enterprise Agent Platform („Agent Platform“); Model Garden pozostaje częścią tego ekosystemu. Dostępne modele Mistral to: Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) oraz Mistral Small 3.1 (mistral-small-2503). W przypadku Mistral SDK w wersji 2 i nowszych importuj klienta za pomocą from mistralai.gcp.client import MistralGCP i zainstaluj go poleceniem pip install "mistralai[gcp]". Źródła: Modele Mistral AI (Google Cloud) · Vertex AI (Mistral).

Mistral w Google Cloud

Google Cloud Vertex AI integruje modele Mistral ze swoją zunifikowaną platformą ML. Dostęp wymaga dedykowanego klienta, MistralGCP. Jego kluczową cechą wyróżniającą jest sposób uwierzytelniania: nie musisz zarządzać kluczem API Mistral, ponieważ klient korzysta z poświadczeń Google Cloud już skonfigurowanych na Twojej maszynie lub w usłudze. Lekcja ta obejmuje konfigurację, kod w Pythonie oraz funkcję najbardziej wyróżnianą przez Vertex AI: Fill-in-the-Middle (FIM) z modelem Codestral.

Modele dostępne w Vertex AI

Vertex AI udostępnia kilka modeli; ponieważ katalog ewoluuje regularnie, sprawdzaj oficjalną stronę pod kątem aktualnej listy. Mistral Medium 3 (mistral-medium-3) to wydajny model ogólnego zastosowania, będący domyślnym wyborem do generowania lub analizy tekstu. Codestral 2 (25.08) (codestral-2) specjalizuje się w kodzie i obsługuje FIM, co zostanie szczegółowo omówione później w tej lekcji. Mistral OCR (25.05) (mistral-ocr-2505) zajmuje się optycznym rozpoznawaniem znaków, zazwyczaj w celu ekstrakcji tekstu z partii zeskanowanych faktur przed przekazaniem go do innego modelu. Wreszcie, Mistral Small 3.1 (25.03) (mistral-small-2503) jest lekki i szybki, co czyni go idealnym do przetwarzania dużych wolumenów danych, gdzie opóźnienie jest ważniejsze niż niuanse odpowiedzi.

Wymagania wstępne

Skonfiguruj środowisko Google Cloud przed napisaniem pierwszej linii kodu w Pythonie. Potrzebujesz projektu Google Cloud z włączonym interfejsem API Vertex AI, zainstalowanego i skonfigurowanego CLI gcloud oraz przypisanych dwóch ról IAM do Twojego konta usługi:

  • Vertex AI User — do wywoływania modeli
  • Consumer Procurement Entitlement Manager — do włączania modeli Mistral

Druga rola to ta, której brakuje w dziewięciu na dziesięć przypadków: bez niej aktywacja modelu kończy się niepowodzeniem, nawet jeśli Twoje wywołania wydają się być poprawnie uwierzytelnione.

# Instalacja gcloud CLI
curl https://sdk.cloud.google.com | bash

# Logowanie
gcloud auth application-default login

# Konfiguracja projektu
gcloud config set project mon-projet-gcp

Pozostał jeszcze jeden krok, którego nie wykonasz przez wiersz poleceń: musisz aktywować modele Mistral w Model Garden Vertex AI przed ich użyciem. Przejdź do portalu Vertex AI, otwórz Model Garden, wyszukaj Mistral i włącz pożądane modele.

Klient MistralGCP

Instalacja wymaga dodania gcp, które zawiera zależności dotyczące uwierzytelniania Google.

pip install mistralai[gcp]

Inicjalizacja w standardowym przypadku nie wymaga żadnych argumentów:

from mistralai.gcp.client import MistralGCP

# Automatyczne uwierzytelnianie poprzez google.auth.default()
client = MistralGCP()

Klient korzysta z domyślnych poświadczeń aplikacji Google Cloud (ADC). Jeśli uruchomiłeś gcloud auth application-default login lub jeśli Twój kod działa na maszynie z kontem usługi, żadna dodatkowa konfiguracja nie jest potrzebna. Domyślnie wybranym regionem jest europe-west4; możesz wymusić inny. Wybierz go w oparciu o lokalizację swoich użytkowników, ponieważ każda milisekunda podróży przez sieć wydłuża czas generowania.

client = MistralGCP(region="us-central1")

Uzupełnianie czatu (Chat Completions)

Samo wywołanie nie niesie niespodzianek: w przeciwieństwie do Azure, parametr model używa tutaj rzeczywistej nazwy modelu.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "You are a cloud architecture expert."},
        {"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM z Codestral

Fill-in-the-Middle to możliwość unikalna dla modelu Codestral. Zamiast kontynuować tekst, model wypełnia lukę między początkiem (przekazanym w prompt) a końcem (przekazanym w suffix). Różnica ta jest decydująca dla autouzupełniania w IDE, gdzie kursor prawie zawsze znajduje się w środku pliku: model widzi, co następuje dalej, i może zatem napisać ciało funkcji spójne z nadchodzącą instrukcją return lub uzupełnić brakujący blok w istniejącym kodzie.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Generuje ciało funkcji między prompt a suffix

Przykład nabiera jeszcze większego sensu w kontekście rzeczywistej klasy. Tutaj model otrzymuje pełny nagłówek, już zdefiniowane atrybuty oraz następującą metodę disconnect(); musi wygenerować ciało metody connect() spójne z tym otoczeniem.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

Wygenerowany kod ponownie wykorzysta self.host, self.port i self.database oraz przypisze wartość do self.connection — czego standardowe uzupełnianie, ślepe na resztę pliku, nie miałoby powodu robić.

Strumieniowanie w Vertex AI

Strumieniowanie działa tak jak gdzie indziej, poprzez iterację po zwracanych fragmentach.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Różnice względem bezpośredniego API Mistral

AspektAPI MistralVertex AI
KlientMistral()MistralGCP()
UwierzytelnianieKlucz APIGoogle ADC
RegionAutomatycznyKonfigurowalny
FIMTakTak (Codestral)
RozliczeniaMistralGoogle Cloud

Kluczowe wnioski

  • Klient MistralGCP korzysta z natywnego uwierzytelniania Google Cloud (brak klucza API Mistral)
  • Domyślnym regionem jest europe-west4 — dostosuj go do swojego przypadku użycia
  • Codestral w Vertex AI obsługuje FIM do autouzupełniania kodu
  • Przed użyciem modeli należy je włączyć w Model Garden
  • Identyfikatory Vertex są wersjonowane (codestral-2, mistral-medium-3) i ewoluują z każdą generacją: przed podpięciem wdrożenia sprawdź dokładną wartość w Model Garden
  • Rozliczenia przechodzą przez Twoje konto Google Cloud, a nie Mistral