Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Google Vertex AI

Nodarbība 7 no 14 Atjaunota 2026. gada 2. novembris Augstākais
Šajā lapā
  1. Mistral sur Google Cloud
  2. Modèles disponibles sur Vertex AI
  3. Prérequis
  4. Le client MistralGCP
  5. Complétions de chat
  6. FIM avec Codestral
  7. Streaming sur Vertex AI
  8. Différences avec l’API Mistral directe
  9. Galvenās atziņas

Mise à jour du 2 novembre 2026 — Google Cloud. Google regroupe désormais ses offres d’IA sous la plateforme Gemini Enterprise Agent Platform (« Agent Platform ») ; le Model Garden reste intégré à cet écosystème. Les modèles Mistral disponibles incluent Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) et Mistral Small 3.1 (mistral-small-2503). Avec le SDK Mistral v2 et versions ultérieures, importe le client via from mistralai.gcp.client import MistralGCP et installe-le avec pip install "mistralai[gcp]". Sources : Modèles Mistral AI (Google Cloud) · Vertex AI (Mistral).

Mistral sur Google Cloud

Google Cloud Vertex AI intègre les modèles Mistral dans sa plateforme d’apprentissage automatique unifiée. L’accès nécessite un client dédié, MistralGCP. Sa particularité réside dans l’authentification : tu ne gères pas de clé API Mistral, car le client s’appuie sur les identifiants Google Cloud déjà configurés sur ta machine ou ton service. Cette leçon couvre la configuration, le code Python et la fonctionnalité que Vertex AI met le plus en avant : le remplissage intermédiaire (FIM) avec Codestral.

Modèles disponibles sur Vertex AI

Vertex AI donne accès à plusieurs modèles ; comme le catalogue évolue régulièrement, consulte la page officielle pour la liste actuelle. Mistral Medium 3 (mistral-medium-3) sert de modèle généraliste haute performance, ton choix par défaut pour la génération ou l’analyse de texte. Codestral 2 (25.08) (codestral-2) est spécialisé dans le code et prend en charge le FIM, détaillé plus loin dans cette leçon. Mistral OCR (25.05) (mistral-ocr-2505) gère la reconnaissance optique de caractères, généralement pour extraire du texte de lots de factures numérisées avant de le transmettre à un autre modèle. Enfin, Mistral Small 3.1 (25.03) (mistral-small-2503) est léger et rapide, ce qui le rend idéal pour le traitement à haut volume où la latence compte plus que la nuance de la réponse.

Prérequis

Configure ton environnement Google Cloud avant d’écrire la moindre ligne de Python. Tu as besoin d’un projet Google Cloud avec l’API Vertex AI activée, de l’interface en ligne de commande gcloud installée et configurée, ainsi que de deux rôles IAM attribués à ton compte de service :

  • Vertex AI User — pour appeler les modèles
  • Consumer Procurement Entitlement Manager — pour activer les modèles Mistral

Le second rôle est celui qui manque neuf fois sur dix : sans lui, l’activation du modèle échoue même si tes appels semblent correctement authentifiés.

# Installer l'interface en ligne de commande gcloud
curl https://sdk.cloud.google.com | bash

# Se connecter
gcloud auth application-default login

# Configurer le projet
gcloud config set project mon-projet-gcp

Il reste une étape que tu ne peux pas effectuer via la ligne de commande : tu dois activer les modèles Mistral dans le Model Garden de Vertex AI avant de les utiliser. Rends-toi sur le portail Vertex AI, ouvre Model Garden, recherche Mistral et active les modèles souhaités.

Le client MistralGCP

L’installation nécessite l’extra gcp, qui inclut les dépendances d’authentification Google.

pip install mistralai[gcp]

L’initialisation ne prend aucun argument dans le cas standard :

from mistralai.gcp.client import MistralGCP

# Authentification automatique via google.auth.default()
client = MistralGCP()

Le client utilise les identifiants d’application par défaut (ADC) de Google Cloud. Si tu as exécuté gcloud auth application-default login, ou si ton code s’exécute sur une machine disposant d’un compte de service, aucune configuration supplémentaire n’est nécessaire. Par défaut, la région sélectionnée est europe-west4 ; tu peux en imposer une autre. Choisis en fonction de la localisation de tes utilisateurs, car chaque milliseconde de trajet réseau s’ajoute au temps de génération.

client = MistralGCP(region="us-central1")

Complétions de chat

L’appel lui-même ne présente aucune surprise : contrairement à Azure, le paramètre model utilise ici le nom réel du modèle.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "You are a cloud architecture expert."},
        {"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM avec Codestral

Le remplissage intermédiaire (Fill-in-the-Middle) est une capacité unique à Codestral. Au lieu de poursuivre un texte, le modèle comble un vide entre un début (passé dans prompt) et une fin (passée dans suffix). Cette différence est décisive pour l’autocomplétion dans les IDE, où le curseur se trouve presque toujours au milieu d’un fichier : le modèle voit ce qui suit et peut donc écrire un corps de fonction cohérent avec l’instruction return à venir, ou compléter un bloc manquant dans un code existant.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Génère le corps de la fonction entre le prompt et le suffix

L’exemple prend encore plus de sens avec une classe réelle. Ici, le modèle reçoit l’en-tête complet, les attributs déjà définis et la méthode disconnect() suivante ; il doit produire le corps de connect() cohérent avec cet environnement.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

Le code généré réutilisera self.host, self.port et self.database, et assignera self.connection — quelque chose qu’une complétion standard, aveugle au reste du fichier, n’aurait aucune raison de faire.

Streaming sur Vertex AI

Le streaming fonctionne comme ailleurs, en itérant sur les fragments retournés.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Différences avec l’API Mistral directe

AspectAPI MistralVertex AI
ClientMistral()MistralGCP()
AuthClé APIGoogle ADC
RégionAutomatiqueConfigurable
FIMOuiOui (Codestral)
FacturationMistralGoogle Cloud

Galvenās atziņas

  • Le client MistralGCP utilise l’authentification native Google Cloud (pas de clé API Mistral)
  • La région par défaut est europe-west4 — adapte-la à ton cas d’usage
  • Codestral sur Vertex AI prend en charge le FIM pour l’autocomplétion de code
  • Active les modèles dans le Model Garden avant de les utiliser
  • Les identifiants Vertex sont versionnés (codestral-2, mistral-medium-3) et évoluent à chaque génération : vérifie la valeur exacte dans le Model Garden avant de câbler un déploiement
  • La facturation passe par ton compte Google Cloud, pas par Mistral