Google Vertex AI
Na tej stronie
Zaktualizowano 2 listopada 2026 — Google Cloud. Google grupuje obecnie swoje oferty AI w ramach platformy Gemini Enterprise Agent Platform („Agent Platform“); Model Garden pozostaje częścią tego ekosystemu. Dostępne modele Mistral to: Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) oraz Mistral Small 3.1 (mistral-small-2503). W przypadku Mistral SDK w wersji 2 i nowszych importuj klienta za pomocąfrom mistralai.gcp.client import MistralGCPi zainstaluj go poleceniempip install "mistralai[gcp]". Źródła: Modele Mistral AI (Google Cloud) · Vertex AI (Mistral).
Mistral w Google Cloud
Google Cloud Vertex AI integruje modele Mistral ze swoją zunifikowaną platformą ML. Dostęp wymaga dedykowanego klienta, MistralGCP. Jego kluczową cechą wyróżniającą jest sposób uwierzytelniania: nie musisz zarządzać kluczem API Mistral, ponieważ klient korzysta z poświadczeń Google Cloud już skonfigurowanych na Twojej maszynie lub w usłudze. Lekcja ta obejmuje konfigurację, kod w Pythonie oraz funkcję najbardziej wyróżnianą przez Vertex AI: Fill-in-the-Middle (FIM) z modelem Codestral.
Modele dostępne w Vertex AI
Vertex AI udostępnia kilka modeli; ponieważ katalog ewoluuje regularnie, sprawdzaj oficjalną stronę pod kątem aktualnej listy. Mistral Medium 3 (mistral-medium-3) to wydajny model ogólnego zastosowania, będący domyślnym wyborem do generowania lub analizy tekstu. Codestral 2 (25.08) (codestral-2) specjalizuje się w kodzie i obsługuje FIM, co zostanie szczegółowo omówione później w tej lekcji. Mistral OCR (25.05) (mistral-ocr-2505) zajmuje się optycznym rozpoznawaniem znaków, zazwyczaj w celu ekstrakcji tekstu z partii zeskanowanych faktur przed przekazaniem go do innego modelu. Wreszcie, Mistral Small 3.1 (25.03) (mistral-small-2503) jest lekki i szybki, co czyni go idealnym do przetwarzania dużych wolumenów danych, gdzie opóźnienie jest ważniejsze niż niuanse odpowiedzi.
Wymagania wstępne
Skonfiguruj środowisko Google Cloud przed napisaniem pierwszej linii kodu w Pythonie. Potrzebujesz projektu Google Cloud z włączonym interfejsem API Vertex AI, zainstalowanego i skonfigurowanego CLI gcloud oraz przypisanych dwóch ról IAM do Twojego konta usługi:
Vertex AI User— do wywoływania modeliConsumer Procurement Entitlement Manager— do włączania modeli Mistral
Druga rola to ta, której brakuje w dziewięciu na dziesięć przypadków: bez niej aktywacja modelu kończy się niepowodzeniem, nawet jeśli Twoje wywołania wydają się być poprawnie uwierzytelnione.
# Instalacja gcloud CLI
curl https://sdk.cloud.google.com | bash
# Logowanie
gcloud auth application-default login
# Konfiguracja projektu
gcloud config set project mon-projet-gcp
Pozostał jeszcze jeden krok, którego nie wykonasz przez wiersz poleceń: musisz aktywować modele Mistral w Model Garden Vertex AI przed ich użyciem. Przejdź do portalu Vertex AI, otwórz Model Garden, wyszukaj Mistral i włącz pożądane modele.
Klient MistralGCP
Instalacja wymaga dodania gcp, które zawiera zależności dotyczące uwierzytelniania Google.
pip install mistralai[gcp]
Inicjalizacja w standardowym przypadku nie wymaga żadnych argumentów:
from mistralai.gcp.client import MistralGCP
# Automatyczne uwierzytelnianie poprzez google.auth.default()
client = MistralGCP()
Klient korzysta z domyślnych poświadczeń aplikacji Google Cloud (ADC). Jeśli uruchomiłeś gcloud auth application-default login lub jeśli Twój kod działa na maszynie z kontem usługi, żadna dodatkowa konfiguracja nie jest potrzebna. Domyślnie wybranym regionem jest europe-west4; możesz wymusić inny. Wybierz go w oparciu o lokalizację swoich użytkowników, ponieważ każda milisekunda podróży przez sieć wydłuża czas generowania.
client = MistralGCP(region="us-central1")
Uzupełnianie czatu (Chat Completions)
Samo wywołanie nie niesie niespodzianek: w przeciwieństwie do Azure, parametr model używa tutaj rzeczywistej nazwy modelu.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "You are a cloud architecture expert."},
{"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM z Codestral
Fill-in-the-Middle to możliwość unikalna dla modelu Codestral. Zamiast kontynuować tekst, model wypełnia lukę między początkiem (przekazanym w prompt) a końcem (przekazanym w suffix). Różnica ta jest decydująca dla autouzupełniania w IDE, gdzie kursor prawie zawsze znajduje się w środku pliku: model widzi, co następuje dalej, i może zatem napisać ciało funkcji spójne z nadchodzącą instrukcją return lub uzupełnić brakujący blok w istniejącym kodzie.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Generuje ciało funkcji między prompt a suffix
Przykład nabiera jeszcze większego sensu w kontekście rzeczywistej klasy. Tutaj model otrzymuje pełny nagłówek, już zdefiniowane atrybuty oraz następującą metodę disconnect(); musi wygenerować ciało metody connect() spójne z tym otoczeniem.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
Wygenerowany kod ponownie wykorzysta self.host, self.port i self.database oraz przypisze wartość do self.connection — czego standardowe uzupełnianie, ślepe na resztę pliku, nie miałoby powodu robić.
Strumieniowanie w Vertex AI
Strumieniowanie działa tak jak gdzie indziej, poprzez iterację po zwracanych fragmentach.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Różnice względem bezpośredniego API Mistral
| Aspekt | API Mistral | Vertex AI |
|---|---|---|
| Klient | Mistral() | MistralGCP() |
| Uwierzytelnianie | Klucz API | Google ADC |
| Region | Automatyczny | Konfigurowalny |
| FIM | Tak | Tak (Codestral) |
| Rozliczenia | Mistral | Google Cloud |
Kluczowe wnioski
- Klient
MistralGCPkorzysta z natywnego uwierzytelniania Google Cloud (brak klucza API Mistral) - Domyślnym regionem jest
europe-west4— dostosuj go do swojego przypadku użycia - Codestral w Vertex AI obsługuje FIM do autouzupełniania kodu
- Przed użyciem modeli należy je włączyć w Model Garden
- Identyfikatory Vertex są wersjonowane (
codestral-2,mistral-medium-3) i ewoluują z każdą generacją: przed podpięciem wdrożenia sprawdź dokładną wartość w Model Garden - Rozliczenia przechodzą przez Twoje konto Google Cloud, a nie Mistral