Google Vertex AI
Sellel lehel
Mise à jour du 2 novembre 2026 — Google Cloud. Google regroupe désormais ses offres d’IA sous la plateforme Gemini Enterprise Agent Platform (« Agent Platform ») ; le Model Garden reste intégré à cet écosystème. Les modèles Mistral disponibles incluent Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) et Mistral Small 3.1 (mistral-small-2503). Avec Mistral SDK v2 et versions ultérieures, importe le client viafrom mistralai.gcp.client import MistralGCPet installe-le avecpip install "mistralai[gcp]". Sources : Modèles Mistral AI (Google Cloud) · Vertex AI (Mistral).
Mistral sur Google Cloud
Google Cloud Vertex AI intègre les modèles Mistral dans sa plateforme ML unifiée. L’accès nécessite un client dédié, MistralGCP. Sa distinction majeure réside dans l’authentification : tu ne gères pas de clé API Mistral, car le client s’appuie sur les identifiants Google Cloud déjà configurés sur ta machine ou ton service. Cette leçon couvre la configuration, le code Python et la fonctionnalité que Vertex AI met le plus en avant : le Fill-in-the-Middle (FIM) avec Codestral.
Modèles disponibles sur Vertex AI
Vertex AI donne accès à plusieurs modèles ; comme le catalogue évolue régulièrement, consulte la page officielle pour la liste actuelle. Mistral Medium 3 (mistral-medium-3) sert de modèle généraliste haute performance, ton choix par défaut pour la génération ou l’analyse de texte. Codestral 2 (25.08) (codestral-2) est spécialisé dans le code et prend en charge le FIM, détaillé plus loin dans cette leçon. Mistral OCR (25.05) (mistral-ocr-2505) gère la reconnaissance optique de caractères, typiquement pour extraire du texte de lots de factures numérisées avant de le transmettre à un autre modèle. Enfin, Mistral Small 3.1 (25.03) (mistral-small-2503) est léger et rapide, ce qui le rend idéal pour le traitement à haut volume où la latence compte plus que la nuance de la réponse.
Prérequis
Configure ton environnement Google Cloud avant d’écrire la moindre ligne de Python. Tu as besoin d’un projet Google Cloud avec l’API Vertex AI activée, de l’outil CLI gcloud installé et configuré, et de deux rôles IAM attribués à ton compte de service :
Vertex AI User— pour appeler les modèlesConsumer Procurement Entitlement Manager— pour activer les modèles Mistral
Le second rôle est celui qui manque neuf fois sur dix : sans lui, l’activation du modèle échoue même si tes appels semblent correctement authentifiés.
# Installer gcloud CLI
curl https://sdk.cloud.google.com | bash
# Se connecter
gcloud auth application-default login
# Configurer le projet
gcloud config set project mon-projet-gcp
Il reste une étape que tu ne peux pas effectuer via la ligne de commande : tu dois activer les modèles Mistral dans le Vertex AI Model Garden avant de les utiliser. Rends-toi sur le portail Vertex AI, ouvre Model Garden, recherche Mistral et active les modèles souhaités.
Le client MistralGCP
L’installation nécessite l’extra gcp, qui inclut les dépendances d’authentification Google.
pip install mistralai[gcp]
L’initialisation ne prend aucun argument dans le cas standard :
from mistralai.gcp.client import MistralGCP
# Authentification automatique via google.auth.default()
client = MistralGCP()
Le client utilise les identifiants d’application par défaut (ADC) de Google Cloud. Si tu as exécuté gcloud auth application-default login, ou si ton code s’exécute sur une machine disposant d’un compte de service, aucune configuration supplémentaire n’est nécessaire. Par défaut, la région sélectionnée est europe-west4 ; tu peux en imposer une autre. Choisis en fonction de la localisation de tes utilisateurs, car chaque milliseconde de trajet réseau s’ajoute au temps de génération.
client = MistralGCP(region="us-central1")
Complétions de chat
L’appel lui-même ne présente aucune surprise : contrairement à Azure, le paramètre model utilise ici le nom réel du modèle.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "You are a cloud architecture expert."},
{"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM avec Codestral
Le Fill-in-the-Middle est une capacité unique à Codestral. Au lieu de poursuivre un texte, le modèle comble un vide entre un début (passé dans prompt) et une fin (passée dans suffix). Cette différence est décisive pour l’autocomplétion dans les IDE, où le curseur se trouve presque toujours au milieu d’un fichier : le modèle voit ce qui suit et peut donc écrire un corps de fonction cohérent avec l’instruction return à venir, ou compléter un bloc manquant dans un code existant.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Génère le corps de la fonction entre le prompt et le suffix
L’exemple prend encore plus de sens avec une classe réelle. Ici, le modèle reçoit l’en-tête complet, les attributs déjà définis et la méthode disconnect() suivante ; il doit produire le corps de connect() cohérent avec cet environnement.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
Le code généré réutilisera self.host, self.port et self.database, et assignera self.connection — quelque chose qu’une complétion standard, aveugle au reste du fichier, n’aurait aucune raison de faire.
Streaming sur Vertex AI
Le streaming fonctionne comme ailleurs, en itérant sur les chunks retournés.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Différences avec l’API Mistral directe
| Aspect | API Mistral | Vertex AI |
|---|---|---|
| Client | Mistral() | MistralGCP() |
| Auth | Clé API | Google ADC |
| Région | Automatique | Configurable |
| FIM | Oui | Oui (Codestral) |
| Facturation | Mistral | Google Cloud |
Peamised punktid
- Le client
MistralGCPutilise l’authentification native Google Cloud (pas de clé API Mistral) - La région par défaut est
europe-west4— adapte-la à ton cas d’usage - Codestral sur Vertex AI prend en charge le FIM pour l’autocomplétion de code
- Active les modèles dans le Model Garden avant de les utiliser
- Les identifiants Vertex sont versionnés (
codestral-2,mistral-medium-3) et évoluent à chaque génération : vérifie la valeur exacte dans le Model Garden avant de câbler un déploiement - La facturation passe par ton compte Google Cloud, pas par Mistral