Mistral sur Google Vertex AI
Šajā lapā
Mis à jour le 2 novembre 2026 — Google Cloud. Google regroupe désormais ses offres d’IA sous la bannière Gemini Enterprise Agent Platform (« Agent Platform ») ; le Model Garden y reste accessible. Les modèles Mistral disponibles sont Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) et Mistral Small 3.1 (mistral-small-2503). Avec Mistral SDK v2 et versions ultérieures, importe le client viafrom mistralai.gcp.client import MistralGCPet installe-le avecpip install "mistralai[gcp]". Sources : Modèles Mistral AI (Google Cloud) · Vertex AI (Mistral).
Pourquoi Vertex AI ?
Google Cloud Vertex AI est la plateforme MLOps de Google et héberge des modèles partenaires, dont ceux de Mistral. La logique est la même que pour Azure : si ton infrastructure repose déjà sur Google Cloud (BigQuery pour les données, Cloud Run ou GKE pour l’exécution), utiliser Vertex t’évite d’introduire un nouveau fournisseur dans ta chaîne.
L’argument décisif ici est l’authentification. Tu n’as plus besoin de distribuer, faire tourner ou surveiller une clé API Mistral : tes services s’authentifient via leur compte de service Google, exactement comme ils le font déjà pour accéder à un bucket ou à une table BigQuery. Cela ajoute également une facturation centralisée sur ton compte Cloud Billing et l’accès aux outils MLOps de Google.
Modèles disponibles sur Vertex AI
En avril 2026, Vertex AI donne accès aux modèles suivants :
| Modèle | Positionnement |
|---|---|
| Mistral Medium | Modèle polyvalant haute performance |
| Mistral Small | Rapide et économique |
| Codestral | Spécialisé dans le code, avec prise en charge du FIM (Fill-in-the-Middle) |
| Mistral OCR | Extraction de contenu de documents |
Préparer ton environnement Google Cloud
La configuration se fait une seule fois et conditionne tout le reste :
- Un projet Google Cloud avec l’API Vertex AI activée
- Les rôles IAM suivants attribués à ton compte :
Vertex AI User— pour invoquer les modèlesConsumer Procurement Entitlement Manager— pour activer les modèles partenaires
- L’outil CLI gcloud installé et configuré
Le deuxième rôle surprend souvent : il n’a rien à voir avec l’inférence ; il autorise l’activation des modèles partenaires dans le catalogue. Sans lui, tu verras les modèles Mistral dans l’interface mais ne pourras jamais les activer, et l’erreur renvoyée n’indique pas clairement ce manque de permissions.
# Installer gcloud (si ce n'est pas déjà fait)
# Voir https://cloud.google.com/sdk/docs/install
# S'authentifier
gcloud auth application-default login
# Définir le projet par défaut
gcloud config set project your-project-id
Une étape est régulièrement oubliée : rends-toi sur la console Vertex AI, trouve le modèle Mistral souhaité dans le Model Garden et clique sur Enable (Activer). Cette activation n’est requise qu’une fois par modèle et par projet. Un appel à un modèle non activé échoue même si tes rôles IAM sont corrects — c’est la première chose à vérifier face à une erreur d’autorisation inexpliquée.
Un premier appel sans clé API
Remarque d’abord ce qui manque dans le code ci-dessous : pas de clé API, pas de secret à charger. Mistral SDK V2 fournit un client dédié pour Google Cloud, MistralGCP, qui s’appuie sur google.auth.default() : il récupère les identifiants que gcloud auth application-default login a déposés localement, ou le compte de service attaché à la machine en production.
from mistralai.gcp.client import MistralGCP
# L'authentification utilise google.auth.default()
# Assure-toi d'avoir exécuté : gcloud auth application-default login
client = MistralGCP()
response = client.chat.complete(
model="mistral-small-2503",
messages=[
{"role": "user", "content": "Explain the architecture of BigQuery."}
]
)
print(response.choices[0].message.content)
Par défaut, le client utilise la région europe-west4, aux Pays-Bas. Pour la changer, passe-la simplement au constructeur — en gardant à l’esprit que les régions disponibles dépendent du modèle et que la documentation de Vertex AI fait foi sur ce point.
client = MistralGCP(region="us-central1")
Le streaming suit le même mécanisme vu avec l’API directe : itère sur le flux, accède au contenu via chunk.data et teste avant d’imprimer car certains fragments arrivent vides.
stream = client.chat.stream(
model="mistral-small-2503",
messages=[
{"role": "user", "content": "List the serverless services of Google Cloud."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Le cas particulier du FIM avec Codestral
Codestral sur Vertex AI prend en charge le Fill-in-the-Middle (FIM), une fonctionnalité qui change ta façon d’aborder la complétion de code. Au lieu de demander « écris-moi une fonction », tu fournis le début et la fin, et le modèle produit ce qui manque entre les deux. La méthode change aussi : ce n’est plus chat.complete() mais fim.complete(), avec un prompt pour la partie amont et un suffix pour la partie aval.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def calculate_average(grades: list[float]) -> float:",
suffix=" return average"
)
print(response.choices[0].message.content)
Dans cet exemple, le modèle génère le corps de la fonction entre la signature et le return. Il sait qu’une variable average doit exister à la fin, puisqu’elle apparaît dans le suffixe : la contrainte le guide bien mieux qu’une instruction en langage naturel. C’est exactement ce qui se passe lorsqu’un IDE complète une fonction au milieu d’un fichier, rendant le FIM particulièrement efficace pour la complétion dans un éditeur, le remplissage de blocs de code manquants et la génération de code devant s’intégrer dans une structure existante.
Le client Vertex en TypeScript
En JavaScript et TypeScript, le client Google Cloud est publié dans un paquet séparé, @mistralai/mistralai-gcp (npm add @mistralai/mistralai-gcp), et s’appelle MistralGCP depuis la version 2.0 du SDK (il s’appelait auparavant MistralGoogleCloud). La région et l’ID du projet sont déclarés à la construction, et là encore, aucune clé n’apparaît dans le code.
import { MistralGCP } from '@mistralai/mistralai-gcp';
const client = new MistralGCP({
region: 'europe-west4',
projectId: process.env.GOOGLE_PROJECT_ID,
});
const response = await client.chat.complete({
model: 'mistral-small-2503',
messages: [
{ role: 'user', content: 'How to optimize a BigQuery query?' },
],
});
console.log(response.choices?.[0]?.message?.content);
Sources : SDK TypeScript
@mistralai/mistralai-gcp· Notes de version du SDK TypeScript 2.0.0
Passer correctement en production
L’authentification utilisateur via gcloud auth application-default login est parfaite pour le développement, mais elle lie tes appels à une personne : le jour où cette personne quitte l’équipe, le service casse. En production, utilise des comptes de service, dont les droits sont explicites et auditable. Garde europe-west4 comme région par défaut si la conformité européenne fait partie de tes contraintes. Active Cloud Logging pour tracer tes appels et diagnostiquer les erreurs, et configure des budgets Cloud Billing : sur une plateforme où l’inférence est facturée à l’usage, une alerte de budget est ta seule protection contre une boucle incontrôlée.
Galvenās atziņas
- Le client
MistralGCPutilise l’authentification native Google Cloud (gcloud auth) - La région par défaut est
europe-west4— modifiable à l’initialisation - Codestral sur Vertex prend en charge le FIM (Fill-in-the-Middle) pour la complétion de code
- Aucune clé API Mistral n’est requise : l’authentification passe par Google Cloud IAM
- Active chaque modèle dans le Model Garden avant de l’utiliser