Google Vertex AI
En esta página
Actualizado el 2 de noviembre de 2026 — Google Cloud. Google agrupa ahora sus ofertas de IA bajo la Gemini Enterprise Agent Platform («Agent Platform»); Model Garden sigue formando parte de este ecosistema. Los modelos de Mistral disponibles incluyen Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) y Mistral Small 3.1 (mistral-small-2503). Con Mistral SDK v2 y versiones posteriores, importa el cliente mediantefrom mistralai.gcp.client import MistralGCPe instálalo conpip install "mistralai[gcp]". Fuentes: Modelos de Mistral AI (Google Cloud) · Vertex AI (Mistral).
Mistral en Google Cloud
Google Cloud Vertex AI integra los modelos de Mistral en su plataforma unificada de aprendizaje automático. El acceso requiere un cliente dedicado, MistralGCP. Su distinción clave reside en la autenticación: no gestionas una clave de API de Mistral porque el cliente depende de las credenciales de Google Cloud ya configuradas en tu máquina o servicio. Esta lección cubre la configuración, el código en Python y la función que Vertex AI destaca por encima de todas: Fill-in-the-Middle (FIM) con Codestral.
Modelos disponibles en Vertex AI
Vertex AI proporciona acceso a varios modelos; dado que el catálogo evoluciona con regularidad, consulta la página oficial para obtener la lista actual. Mistral Medium 3 (mistral-medium-3) actúa como el modelo generalista de alto rendimiento, tu opción predeterminada para la generación o el análisis de texto. Codestral 2 (25.08) (codestral-2) está especializado en código y admite FIM, detalle que se aborda más adelante en esta lección. Mistral OCR (25.05) (mistral-ocr-2505) se encarga del reconocimiento óptico de caracteres, típicamente para extraer texto de lotes de facturas escaneadas antes de pasarlo a otro modelo. Por último, Mistral Small 3.1 (25.03) (mistral-small-2503) es ligero y rápido, lo que lo hace ideal para el procesamiento de alto volumen donde la latencia importa más que el matiz de la respuesta.
Requisitos previos
Configura tu entorno de Google Cloud antes de escribir una sola línea de Python. Necesitas un proyecto de Google Cloud con la API de Vertex AI habilitada, la CLI gcloud instalada y configurada, y dos roles de IAM asignados a tu cuenta de servicio:
Vertex AI User: para llamar a los modelos.Consumer Procurement Entitlement Manager: para habilitar los modelos de Mistral.
El segundo rol es el que falta nueve de cada diez veces: sin él, la activación del modelo falla aunque tus llamadas parezcan estar correctamente autenticadas.
# Instalar la CLI de gcloud
curl https://sdk.cloud.google.com | bash
# Iniciar sesión
gcloud auth application-default login
# Configurar el proyecto
gcloud config set project mon-projet-gcp
Queda un paso que no puedes realizar mediante la línea de comandos: debes activar los modelos de Mistral en el Model Garden de Vertex AI antes de usarlos. Ve al portal de Vertex AI, abre Model Garden, busca Mistral y habilita los modelos deseados.
El cliente MistralGCP
La instalación requiere el extra gcp, que incluye las dependencias de autenticación de Google.
pip install mistralai[gcp]
La inicialización no toma argumentos en el caso estándar:
from mistralai.gcp.client import MistralGCP
# Autenticación automática mediante google.auth.default()
client = MistralGCP()
El cliente utiliza las Credenciales Predeterminadas de la Aplicación (ADC) de Google Cloud. Si has ejecutado gcloud auth application-default login, o si tu código se ejecuta en una máquina con una cuenta de servicio, no se necesita ninguna configuración adicional. De forma predeterminada, la región seleccionada es europe-west4; puedes forzar una diferente. Elige en función de la ubicación de tus usuarios, ya que cada milisegundo de viaje por la red suma tiempo a la generación.
client = MistralGCP(region="us-central1")
Completados de chat
La llamada en sí no tiene sorpresas: a diferencia de Azure, el parámetro model aquí utiliza el nombre real del modelo.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "Eres un experto en arquitectura en la nube."},
{"role": "user", "content": "¿Cuáles son las ventajas de Vertex AI frente a un despliegue autoalojado?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM con Codestral
Fill-in-the-Middle es una capacidad exclusiva de Codestral. En lugar de continuar el texto, el modelo rellena un hueco entre un principio (pasado en prompt) y un final (pasado en suffix). Esta diferencia es decisiva para el autocompletado en los IDE, donde el cursor casi siempre se sitúa en medio de un archivo: el modelo ve lo que sigue y, por tanto, puede escribir un cuerpo de función coherente con la siguiente sentencia return, o completar un bloque faltante en el código existente.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Genera el cuerpo de la función entre el prompt y el suffix
El ejemplo cobra aún más sentido con una clase real. Aquí, el modelo recibe la cabecera completa, los atributos ya definidos y el siguiente método disconnect(); debe producir el cuerpo de connect() coherente con este entorno.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
El código generado reutilizará self.host, self.port y self.database, y asignará self.connection, algo que un completado estándar, ciego al resto del archivo, no tendría razón de hacer.
Streaming en Vertex AI
El streaming funciona como en otros lugares, iterando sobre los fragmentos devueltos.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Genera un script de Terraform para un clúster de GKE."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Diferencias con la API directa de Mistral
| Aspecto | API de Mistral | Vertex AI |
|---|---|---|
| Cliente | Mistral() | MistralGCP() |
| Autenticación | Clave de API | Google ADC |
| Región | Automática | Configurable |
| FIM | Sí | Sí (Codestral) |
| Facturación | Mistral | Google Cloud |
Puntos clave
- El cliente
MistralGCPutiliza la autenticación nativa de Google Cloud (sin clave de API de Mistral). - La región predeterminada es
europe-west4; adáptala a tu caso de uso. - Codestral en Vertex AI admite FIM para el autocompletado de código.
- Habilita los modelos en Model Garden antes de usarlos.
- Los identificadores de Vertex tienen versión (
codestral-2,mistral-medium-3) y evolucionan con cada generación: verifica el valor exacto en Model Garden antes de cablear un despliegue. - La facturación se realiza a través de tu cuenta de Google Cloud, no de Mistral.