Google Vertex AI
In questa pagina
Aggiornato il 2 novembre 2026 — Google Cloud. Google raggruppa ora le sue offerte di intelligenza artificiale sotto la piattaforma Gemini Enterprise Agent Platform («Agent Platform»); il Model Garden rimane parte di questo ecosistema. I modelli Mistral disponibili includono Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) e Mistral Small 3.1 (mistral-small-2503). Con Mistral SDK v2 e versioni successive, importa il client tramitefrom mistralai.gcp.client import MistralGCPe installalo conpip install "mistralai[gcp]". Fonti: Modelli Mistral AI (Google Cloud) · Vertex AI (Mistral).
Mistral su Google Cloud
Google Cloud Vertex AI integra i modelli Mistral nella sua piattaforma ML unificata. L’accesso richiede un client dedicato, MistralGCP. La sua distinzione fondamentale risiede nell’autenticazione: non devi gestire una chiave API Mistral perché il client si basa sulle credenziali Google Cloud già configurate sulla tua macchina o sul tuo servizio. Questa lezione copre la configurazione, il codice Python e la funzionalità che Vertex AI mette maggiormente in risalto: il Fill-in-the-Middle (FIM) con Codestral.
Modelli disponibili su Vertex AI
Vertex AI fornisce accesso a diversi modelli; poiché il catalogo evolve regolarmente, consulta la pagina ufficiale per l’elenco aggiornato. Mistral Medium 3 (mistral-medium-3) funge da modello generalista ad alte prestazioni, la tua scelta predefinita per la generazione o l’analisi di testo. Codestral 2 (25.08) (codestral-2) è specializzato nel codice e supporta il FIM, dettagliato più avanti in questa lezione. Mistral OCR (25.05) (mistral-ocr-2505) gestisce il riconoscimento ottico dei caratteri, tipicamente per estrarre testo da lotti di fatture scansionate prima di passarle a un altro modello. Infine, Mistral Small 3.1 (25.03) (mistral-small-2503) è leggero e veloce, rendendolo ideale per elaborazioni ad alto volume dove la latenza conta più della sfumatura della risposta.
Prerequisiti
Configura il tuo ambiente Google Cloud prima di scrivere una singola riga di Python. Hai bisogno di un progetto Google Cloud con le API Vertex AI abilitate, della CLI gcloud installata e configurata, e di due ruoli IAM assegnati al tuo account di servizio:
Vertex AI User— per chiamare i modelliConsumer Procurement Entitlement Manager— per abilitare i modelli Mistral
Il secondo ruolo è quello che manca nove volte su dieci: senza di esso, l’attivazione del modello fallisce anche se le tue chiamate sembrano autenticate correttamente.
# Installa la CLI gcloud
curl https://sdk.cloud.google.com | bash
# Accedi
gcloud auth application-default login
# Configura il progetto
gcloud config set project mon-projet-gcp
Rimane un passaggio che non puoi eseguire tramite riga di comando: devi attivare i modelli Mistral nel Vertex AI Model Garden prima di utilizzarli. Vai al portale Vertex AI, apri Model Garden, cerca Mistral e abilita i modelli desiderati.
Il client MistralGCP
L’installazione richiede l’extra gcp, che include le dipendenze per l’autenticazione Google.
pip install mistralai[gcp]
L’inizializzazione non richiede argomenti nel caso standard:
from mistralai.gcp.client import MistralGCP
# Autenticazione automatica tramite google.auth.default()
client = MistralGCP()
Il client utilizza le Google Cloud Application Default Credentials (ADC). Se hai eseguito gcloud auth application-default login, o se il tuo codice gira su una macchina con un account di servizio, non è necessaria alcuna ulteriore configurazione. Di default, la regione selezionata è europe-west4; puoi forzarne una diversa. Scegli in base alla posizione dei tuoi utenti, poiché ogni millisecondo di viaggio di rete si aggiunge al tempo di generazione.
client = MistralGCP(region="us-central1")
Completamenti Chat
La chiamata in sé non riserva sorprese: a differenza di Azure, qui il parametro model utilizza il nome reale del modello.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "Sei un esperto di architettura cloud."},
{"role": "user", "content": "Quali sono i vantaggi di Vertex AI rispetto a un deployment self-hosted?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM con Codestral
Il Fill-in-the-Middle è una capacità unica di Codestral. Invece di continuare il testo, il modello riempie uno spazio vuoto tra un inizio (passato in prompt) e una fine (passata in suffix). Questa differenza è decisiva per l’autocompletamento negli IDE, dove il cursore si trova quasi sempre nel mezzo di un file: il modello vede ciò che segue e può quindi scrivere un corpo di funzione coerente con l’istruzione return successiva, o completare un blocco mancante nel codice esistente.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Genera il corpo della funzione tra il prompt e il suffix
L’esempio ha ancora più senso con una classe reale. Qui, il modello riceve l’intestazione completa, gli attributi già definiti e il metodo disconnect() seguente; deve produrre il corpo di connect() coerente con questo ambiente.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
Il codice generato riutilizzerà self.host, self.port e self.database, e assegnerà self.connection—qualcosa che un completamento standard, cieco al resto del file, non avrebbe motivo di fare.
Streaming su Vertex AI
Lo streaming funziona come altrove, iterando sui chunk restituiti.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Genera uno script Terraform per un cluster GKE."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Differenze rispetto alle API dirette Mistral
| Aspetto | API Mistral | Vertex AI |
|---|---|---|
| Client | Mistral() | MistralGCP() |
| Auth | Chiave API | Google ADC |
| Regione | Automatica | Configurabile |
| FIM | Sì | Sì (Codestral) |
| Fatturazione | Mistral | Google Cloud |
Punti chiave
- Il client
MistralGCPutilizza l’autenticazione nativa di Google Cloud (nessuna chiave API Mistral) - La regione predefinita è
europe-west4: adattala al tuo caso d’uso - Codestral su Vertex AI supporta il FIM per l’autocompletamento del codice
- Abilita i modelli nel Model Garden prima di utilizzarli
- Gli identificativi Vertex sono versionati (
codestral-2,mistral-medium-3) ed evolvono con ogni generazione: verifica il valore esatto nel Model Garden prima di cablare un deployment - La fatturazione passa attraverso il tuo account Google Cloud, non Mistral