Vai al contenuto principale
Italiano— Scegli una lingua
Menu

Google Vertex AI

Lezione 7 di 14 Aggiornata il 2 novembre 2026 Avanzato
In questa pagina
  1. Mistral su Google Cloud
  2. Modelli disponibili su Vertex AI
  3. Prerequisiti
  4. Il client MistralGCP
  5. Completamenti Chat
  6. FIM con Codestral
  7. Streaming su Vertex AI
  8. Differenze rispetto alle API dirette Mistral
  9. Punti chiave

Aggiornato il 2 novembre 2026 — Google Cloud. Google raggruppa ora le sue offerte di intelligenza artificiale sotto la piattaforma Gemini Enterprise Agent Platform («Agent Platform»); il Model Garden rimane parte di questo ecosistema. I modelli Mistral disponibili includono Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) e Mistral Small 3.1 (mistral-small-2503). Con Mistral SDK v2 e versioni successive, importa il client tramite from mistralai.gcp.client import MistralGCP e installalo con pip install "mistralai[gcp]". Fonti: Modelli Mistral AI (Google Cloud) · Vertex AI (Mistral).

Mistral su Google Cloud

Google Cloud Vertex AI integra i modelli Mistral nella sua piattaforma ML unificata. L’accesso richiede un client dedicato, MistralGCP. La sua distinzione fondamentale risiede nell’autenticazione: non devi gestire una chiave API Mistral perché il client si basa sulle credenziali Google Cloud già configurate sulla tua macchina o sul tuo servizio. Questa lezione copre la configurazione, il codice Python e la funzionalità che Vertex AI mette maggiormente in risalto: il Fill-in-the-Middle (FIM) con Codestral.

Modelli disponibili su Vertex AI

Vertex AI fornisce accesso a diversi modelli; poiché il catalogo evolve regolarmente, consulta la pagina ufficiale per l’elenco aggiornato. Mistral Medium 3 (mistral-medium-3) funge da modello generalista ad alte prestazioni, la tua scelta predefinita per la generazione o l’analisi di testo. Codestral 2 (25.08) (codestral-2) è specializzato nel codice e supporta il FIM, dettagliato più avanti in questa lezione. Mistral OCR (25.05) (mistral-ocr-2505) gestisce il riconoscimento ottico dei caratteri, tipicamente per estrarre testo da lotti di fatture scansionate prima di passarle a un altro modello. Infine, Mistral Small 3.1 (25.03) (mistral-small-2503) è leggero e veloce, rendendolo ideale per elaborazioni ad alto volume dove la latenza conta più della sfumatura della risposta.

Prerequisiti

Configura il tuo ambiente Google Cloud prima di scrivere una singola riga di Python. Hai bisogno di un progetto Google Cloud con le API Vertex AI abilitate, della CLI gcloud installata e configurata, e di due ruoli IAM assegnati al tuo account di servizio:

  • Vertex AI User — per chiamare i modelli
  • Consumer Procurement Entitlement Manager — per abilitare i modelli Mistral

Il secondo ruolo è quello che manca nove volte su dieci: senza di esso, l’attivazione del modello fallisce anche se le tue chiamate sembrano autenticate correttamente.

# Installa la CLI gcloud
curl https://sdk.cloud.google.com | bash

# Accedi
gcloud auth application-default login

# Configura il progetto
gcloud config set project mon-projet-gcp

Rimane un passaggio che non puoi eseguire tramite riga di comando: devi attivare i modelli Mistral nel Vertex AI Model Garden prima di utilizzarli. Vai al portale Vertex AI, apri Model Garden, cerca Mistral e abilita i modelli desiderati.

Il client MistralGCP

L’installazione richiede l’extra gcp, che include le dipendenze per l’autenticazione Google.

pip install mistralai[gcp]

L’inizializzazione non richiede argomenti nel caso standard:

from mistralai.gcp.client import MistralGCP

# Autenticazione automatica tramite google.auth.default()
client = MistralGCP()

Il client utilizza le Google Cloud Application Default Credentials (ADC). Se hai eseguito gcloud auth application-default login, o se il tuo codice gira su una macchina con un account di servizio, non è necessaria alcuna ulteriore configurazione. Di default, la regione selezionata è europe-west4; puoi forzarne una diversa. Scegli in base alla posizione dei tuoi utenti, poiché ogni millisecondo di viaggio di rete si aggiunge al tempo di generazione.

client = MistralGCP(region="us-central1")

Completamenti Chat

La chiamata in sé non riserva sorprese: a differenza di Azure, qui il parametro model utilizza il nome reale del modello.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "Sei un esperto di architettura cloud."},
        {"role": "user", "content": "Quali sono i vantaggi di Vertex AI rispetto a un deployment self-hosted?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM con Codestral

Il Fill-in-the-Middle è una capacità unica di Codestral. Invece di continuare il testo, il modello riempie uno spazio vuoto tra un inizio (passato in prompt) e una fine (passata in suffix). Questa differenza è decisiva per l’autocompletamento negli IDE, dove il cursore si trova quasi sempre nel mezzo di un file: il modello vede ciò che segue e può quindi scrivere un corpo di funzione coerente con l’istruzione return successiva, o completare un blocco mancante nel codice esistente.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Genera il corpo della funzione tra il prompt e il suffix

L’esempio ha ancora più senso con una classe reale. Qui, il modello riceve l’intestazione completa, gli attributi già definiti e il metodo disconnect() seguente; deve produrre il corpo di connect() coerente con questo ambiente.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

Il codice generato riutilizzerà self.host, self.port e self.database, e assegnerà self.connection—qualcosa che un completamento standard, cieco al resto del file, non avrebbe motivo di fare.

Streaming su Vertex AI

Lo streaming funziona come altrove, iterando sui chunk restituiti.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Genera uno script Terraform per un cluster GKE."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Differenze rispetto alle API dirette Mistral

AspettoAPI MistralVertex AI
ClientMistral()MistralGCP()
AuthChiave APIGoogle ADC
RegioneAutomaticaConfigurabile
FIMSìSì (Codestral)
FatturazioneMistralGoogle Cloud

Punti chiave

  • Il client MistralGCP utilizza l’autenticazione nativa di Google Cloud (nessuna chiave API Mistral)
  • La regione predefinita è europe-west4: adattala al tuo caso d’uso
  • Codestral su Vertex AI supporta il FIM per l’autocompletamento del codice
  • Abilita i modelli nel Model Garden prima di utilizzarli
  • Gli identificativi Vertex sono versionati (codestral-2, mistral-medium-3) ed evolvono con ogni generazione: verifica il valore esatto nel Model Garden prima di cablare un deployment
  • La fatturazione passa attraverso il tuo account Google Cloud, non Mistral