Google Vertex AI
Šajā lapā
Mise à jour du 2 novembre 2026 — Google Cloud. Google regroupe désormais ses offres d’IA sous la plateforme Gemini Enterprise Agent Platform (« Agent Platform ») ; le Model Garden reste intégré à cet écosystème. Les modèles Mistral disponibles incluent Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) et Mistral Small 3.1 (mistral-small-2503). Avec le SDK Mistral v2 et versions ultérieures, importe le client viafrom mistralai.gcp.client import MistralGCPet installe-le avecpip install "mistralai[gcp]". Sources : Modèles Mistral AI (Google Cloud) · Vertex AI (Mistral).
Mistral sur Google Cloud
Google Cloud Vertex AI intègre les modèles Mistral dans sa plateforme d’apprentissage automatique unifiée. L’accès nécessite un client dédié, MistralGCP. Sa particularité réside dans l’authentification : tu ne gères pas de clé API Mistral, car le client s’appuie sur les identifiants Google Cloud déjà configurés sur ta machine ou ton service. Cette leçon couvre la configuration, le code Python et la fonctionnalité que Vertex AI met le plus en avant : le remplissage intermédiaire (FIM) avec Codestral.
Modèles disponibles sur Vertex AI
Vertex AI donne accès à plusieurs modèles ; comme le catalogue évolue régulièrement, consulte la page officielle pour la liste actuelle. Mistral Medium 3 (mistral-medium-3) sert de modèle généraliste haute performance, ton choix par défaut pour la génération ou l’analyse de texte. Codestral 2 (25.08) (codestral-2) est spécialisé dans le code et prend en charge le FIM, détaillé plus loin dans cette leçon. Mistral OCR (25.05) (mistral-ocr-2505) gère la reconnaissance optique de caractères, généralement pour extraire du texte de lots de factures numérisées avant de le transmettre à un autre modèle. Enfin, Mistral Small 3.1 (25.03) (mistral-small-2503) est léger et rapide, ce qui le rend idéal pour le traitement à haut volume où la latence compte plus que la nuance de la réponse.
Prérequis
Configure ton environnement Google Cloud avant d’écrire la moindre ligne de Python. Tu as besoin d’un projet Google Cloud avec l’API Vertex AI activée, de l’interface en ligne de commande gcloud installée et configurée, ainsi que de deux rôles IAM attribués à ton compte de service :
Vertex AI User— pour appeler les modèlesConsumer Procurement Entitlement Manager— pour activer les modèles Mistral
Le second rôle est celui qui manque neuf fois sur dix : sans lui, l’activation du modèle échoue même si tes appels semblent correctement authentifiés.
# Installer l'interface en ligne de commande gcloud
curl https://sdk.cloud.google.com | bash
# Se connecter
gcloud auth application-default login
# Configurer le projet
gcloud config set project mon-projet-gcp
Il reste une étape que tu ne peux pas effectuer via la ligne de commande : tu dois activer les modèles Mistral dans le Model Garden de Vertex AI avant de les utiliser. Rends-toi sur le portail Vertex AI, ouvre Model Garden, recherche Mistral et active les modèles souhaités.
Le client MistralGCP
L’installation nécessite l’extra gcp, qui inclut les dépendances d’authentification Google.
pip install mistralai[gcp]
L’initialisation ne prend aucun argument dans le cas standard :
from mistralai.gcp.client import MistralGCP
# Authentification automatique via google.auth.default()
client = MistralGCP()
Le client utilise les identifiants d’application par défaut (ADC) de Google Cloud. Si tu as exécuté gcloud auth application-default login, ou si ton code s’exécute sur une machine disposant d’un compte de service, aucune configuration supplémentaire n’est nécessaire. Par défaut, la région sélectionnée est europe-west4 ; tu peux en imposer une autre. Choisis en fonction de la localisation de tes utilisateurs, car chaque milliseconde de trajet réseau s’ajoute au temps de génération.
client = MistralGCP(region="us-central1")
Complétions de chat
L’appel lui-même ne présente aucune surprise : contrairement à Azure, le paramètre model utilise ici le nom réel du modèle.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "You are a cloud architecture expert."},
{"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM avec Codestral
Le remplissage intermédiaire (Fill-in-the-Middle) est une capacité unique à Codestral. Au lieu de poursuivre un texte, le modèle comble un vide entre un début (passé dans prompt) et une fin (passée dans suffix). Cette différence est décisive pour l’autocomplétion dans les IDE, où le curseur se trouve presque toujours au milieu d’un fichier : le modèle voit ce qui suit et peut donc écrire un corps de fonction cohérent avec l’instruction return à venir, ou compléter un bloc manquant dans un code existant.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Génère le corps de la fonction entre le prompt et le suffix
L’exemple prend encore plus de sens avec une classe réelle. Ici, le modèle reçoit l’en-tête complet, les attributs déjà définis et la méthode disconnect() suivante ; il doit produire le corps de connect() cohérent avec cet environnement.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
Le code généré réutilisera self.host, self.port et self.database, et assignera self.connection — quelque chose qu’une complétion standard, aveugle au reste du fichier, n’aurait aucune raison de faire.
Streaming sur Vertex AI
Le streaming fonctionne comme ailleurs, en itérant sur les fragments retournés.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Différences avec l’API Mistral directe
| Aspect | API Mistral | Vertex AI |
|---|---|---|
| Client | Mistral() | MistralGCP() |
| Auth | Clé API | Google ADC |
| Région | Automatique | Configurable |
| FIM | Oui | Oui (Codestral) |
| Facturation | Mistral | Google Cloud |
Galvenās atziņas
- Le client
MistralGCPutilise l’authentification native Google Cloud (pas de clé API Mistral) - La région par défaut est
europe-west4— adapte-la à ton cas d’usage - Codestral sur Vertex AI prend en charge le FIM pour l’autocomplétion de code
- Active les modèles dans le Model Garden avant de les utiliser
- Les identifiants Vertex sont versionnés (
codestral-2,mistral-medium-3) et évoluent à chaque génération : vérifie la valeur exacte dans le Model Garden avant de câbler un déploiement - La facturation passe par ton compte Google Cloud, pas par Mistral