Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Mistral sur Google Vertex AI

Lektion 12 av 14 Uppdaterad 2 november 2026 Utvecklare
På denna sida
  1. Pourquoi Vertex AI ?
  2. Modèles disponibles sur Vertex AI
  3. Prépare ton environnement Google Cloud
  4. Un premier appel sans clé API
  5. Le cas particulier du FIM avec Codestral
  6. Le client Vertex en TypeScript
  7. Passer en production correctement
  8. Viktiga punkter

Mis à jour le 2 novembre 2026 — Google Cloud. Google regroupe désormais ses offres d’IA sous la bannière Gemini Enterprise Agent Platform (« Agent Platform ») ; le Model Garden y reste accessible. Les modèles Mistral disponibles sont Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) et Mistral Small 3.1 (mistral-small-2503). Avec Mistral SDK v2 et versions ultérieures, importe le client via from mistralai.gcp.client import MistralGCP et installe-le avec pip install "mistralai[gcp]". Sources : Modèles Mistral AI (Google Cloud) · Vertex AI (Mistral).

Pourquoi Vertex AI ?

Google Cloud Vertex AI est la plateforme MLOps de Google et héberge des modèles partenaires, dont ceux de Mistral. La logique est la même que pour Azure : si ton infrastructure repose déjà sur Google Cloud (BigQuery pour les données, Cloud Run ou GKE pour l’exécution), utiliser Vertex t’évite d’introduire un nouveau fournisseur dans ta chaîne.

L’argument décisif ici est l’authentification. Tu n’as plus besoin de distribuer, faire tourner ou surveiller une clé API Mistral : tes services s’authentifient via leur compte de service Google, exactement comme ils le font déjà pour accéder à un bucket ou à une table BigQuery. Cela ajoute également une facturation centralisée sur ton compte Cloud Billing et l’accès aux outils MLOps de Google.

Modèles disponibles sur Vertex AI

En avril 2026, Vertex AI donne accès aux modèles suivants :

ModèlePositionnement
Mistral MediumModèle polyvalant haute performance
Mistral SmallRapide et économique
CodestralSpécialisé pour le code, avec prise en charge FIM (Fill-in-the-Middle)
Mistral OCRExtraction de contenu de documents

Prépare ton environnement Google Cloud

La configuration se fait une seule fois et conditionne tout le reste :

  1. Un projet Google Cloud avec l’API Vertex AI activée
  2. Les rôles IAM suivants attribués à ton compte :
    • Vertex AI User — pour invoquer les modèles
    • Consumer Procurement Entitlement Manager — pour activer les modèles partenaires
  3. L’outil en ligne de commande gcloud installé et configuré

Le deuxième rôle surprend souvent : il n’a rien à voir avec l’inférence ; il autorise l’activation des modèles partenaires dans le catalogue. Sans lui, tu verras les modèles Mistral dans l’interface mais ne pourras jamais les activer, et l’erreur renvoyée n’indique pas clairement ce manque de permissions.

# Installer gcloud (si ce n'est pas déjà fait)
# Voir https://cloud.google.com/sdk/docs/install

# S'authentifier
gcloud auth application-default login

# Définir le projet par défaut
gcloud config set project your-project-id

Une étape est régulièrement oubliée : rends-toi sur la console Vertex AI, trouve le modèle Mistral souhaité dans le Model Garden et clique sur Enable. Cette activation n’est requise qu’une seule fois par modèle et par projet. Un appel à un modèle non activé échoue même si tes rôles IAM sont corrects — c’est la première chose à vérifier face à une erreur d’autorisation inexpliquée.

Un premier appel sans clé API

Remarque d’abord ce qui manque dans le code ci-dessous : pas de clé API, pas de secret à charger. Mistral SDK V2 fournit un client dédié pour Google Cloud, MistralGCP, qui s’appuie sur google.auth.default() : il récupère les identifiants que gcloud auth application-default login a déposés localement, ou le compte de service attaché à la machine en production.

from mistralai.gcp.client import MistralGCP

# L'authentification utilise google.auth.default()
# Assure-toi d'avoir exécuté : gcloud auth application-default login
client = MistralGCP()

response = client.chat.complete(
    model="mistral-small-2503",
    messages=[
        {"role": "user", "content": "Explain the architecture of BigQuery."}
    ]
)

print(response.choices[0].message.content)

Par défaut, le client utilise la région europe-west4, aux Pays-Bas. Pour la changer, passe-la simplement au constructeur — en gardant à l’esprit que les régions disponibles dépendent du modèle et que la documentation Vertex AI fait foi sur ce point.

client = MistralGCP(region="us-central1")

Le streaming suit le même mécanisme vu avec l’API directe : itère sur le flux, accède au contenu via chunk.data et teste avant d’imprimer car certains fragments arrivent vides.

stream = client.chat.stream(
    model="mistral-small-2503",
    messages=[
        {"role": "user", "content": "List the serverless services of Google Cloud."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Le cas particulier du FIM avec Codestral

Codestral sur Vertex AI prend en charge le Fill-in-the-Middle (FIM), une fonctionnalité qui change ta façon d’aborder la complétion de code. Au lieu de demander « écris-moi une fonction », tu fournis le début et la fin, et le modèle produit ce qui manque entre les deux. La méthode change aussi : ce n’est plus chat.complete() mais fim.complete(), avec un prompt pour la partie amont et un suffix pour la partie aval.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def calculate_average(grades: list[float]) -> float:",
    suffix="    return average"
)

print(response.choices[0].message.content)

Dans cet exemple, le modèle génère le corps de la fonction entre la signature et le return. Il sait qu’une variable average doit exister à la fin, puisqu’elle apparaît dans le suffixe : la contrainte le guide bien mieux qu’une instruction en langage naturel. C’est exactement ce qui se passe lorsqu’un IDE complète une fonction au milieu d’un fichier, rendant le FIM particulièrement efficace pour la complétion dans un éditeur, le remplissage de blocs de code manquants et la génération de code devant s’intégrer dans une structure existante.

Le client Vertex en TypeScript

En JavaScript et TypeScript, le client Google Cloud est publié dans un paquet séparé, @mistralai/mistralai-gcp (npm add @mistralai/mistralai-gcp), et s’appelle MistralGCP depuis la version 2.0 du SDK (il s’appelait auparavant MistralGoogleCloud). La région et l’ID du projet sont déclarés à la construction et, là encore, aucune clé n’apparaît dans le code.

import { MistralGCP } from '@mistralai/mistralai-gcp';

const client = new MistralGCP({
  region: 'europe-west4',
  projectId: process.env.GOOGLE_PROJECT_ID,
});

const response = await client.chat.complete({
  model: 'mistral-small-2503',
  messages: [
    { role: 'user', content: 'How to optimize a BigQuery query?' },
  ],
});

console.log(response.choices?.[0]?.message?.content);

Sources : SDK TypeScript @mistralai/mistralai-gcp · Notes de version du SDK TypeScript 2.0.0

Passer en production correctement

L’authentification utilisateur via gcloud auth application-default login est parfaite pour le développement, mais elle lie tes appels à une personne : le jour où cette personne quitte l’équipe, le service casse. En production, utilise des comptes de service, dont les droits sont explicites et auditable. Garde europe-west4 comme région par défaut si la conformité européenne fait partie de tes contraintes. Active Cloud Logging pour tracer tes appels et diagnostiquer les erreurs, et configure des budgets Cloud Billing : sur une plateforme où l’inférence est facturée à l’usage, une alerte de budget est ta seule protection contre une boucle incontrôlée.

Viktiga punkter

  • Le client MistralGCP utilise l’authentification native Google Cloud (gcloud auth)
  • La région par défaut est europe-west4 — modifiable à l’initialisation
  • Codestral sur Vertex prend en charge le FIM (Fill-in-the-Middle) pour la complétion de code
  • Aucune clé API Mistral n’est requise : l’authentification passe par Google Cloud IAM
  • Active chaque modèle dans le Model Garden avant de l’utiliser