Ir al contenido principal
Español— Elegir un idioma
Menú

Mistral en Google Vertex AI

Lección 12 de 14 Actualizado el 2 de noviembre de 2026 Desarrollador
En esta página
  1. ¿Por qué Vertex AI?
  2. Modelos disponibles en Vertex AI
  3. Prepara tu entorno de Google Cloud
  4. Una primera llamada sin clave de API
  5. El caso especial de FIM con Codestral
  6. El cliente de Vertex en TypeScript
  7. Llevarlo a producción correctamente
  8. Puntos clave

Actualizado el 2 de noviembre de 2026 — Google Cloud. Google agrupa ahora sus ofertas de IA bajo la Gemini Enterprise Agent Platform («Agent Platform»); el Model Garden sigue disponible dentro de ella. Los modelos de Mistral disponibles son Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) y Mistral Small 3.1 (mistral-small-2503). Con Mistral SDK v2 y versiones posteriores, importa el cliente mediante from mistralai.gcp.client import MistralGCP e instálalo con pip install "mistralai[gcp]". Fuentes: Modelos de Mistral AI (Google Cloud) · Vertex AI (Mistral).

¿Por qué Vertex AI?

Google Cloud Vertex AI es la plataforma MLOps de Google y aloja modelos de socios, incluidos los de Mistral. La lógica aquí es idéntica a la de Azure: si tu infraestructura ya depende de Google Cloud (BigQuery para datos, Cloud Run o GKE para ejecución), usar Vertex te evita introducir otro proveedor en tu cadena.

El argumento decisivo es la autenticación. Ya no necesitas distribuir, rotar ni monitorizar una clave de API de Mistral: tus servicios se autentican usando su cuenta de servicio de Google, exactamente igual que ya lo hacen para acceder a un bucket o a una tabla de BigQuery. Esto añade además una facturación centralizada en tu cuenta de Cloud Billing y el acceso a las herramientas MLOps de Google.

Modelos disponibles en Vertex AI

A fecha de abril de 2026, Vertex AI proporciona acceso a los siguientes modelos:

ModeloPosicionamiento
Mistral MediumModelo polivalente de alto rendimiento
Mistral SmallRápido y rentable
CodestralEspecializado en código, con soporte FIM (Fill-in-the-Middle)
Mistral OCRExtracción de contenido de documentos

Prepara tu entorno de Google Cloud

La configuración se realiza una sola vez y condiciona todo lo demás:

  1. Un proyecto de Google Cloud con la API de Vertex AI habilitada.
  2. Los siguientes roles de IAM asignados a tu cuenta:
    • Vertex AI User: para invocar modelos.
    • Consumer Procurement Entitlement Manager: para habilitar modelos de socios.
  3. La CLI de gcloud instalada y configurada.

El segundo rol suele sorprender: no tiene nada que ver con la inferencia; autoriza la activación de modelos de socios en el catálogo. Sin él, verás los modelos de Mistral en la interfaz pero nunca podrás habilitarlos, y el error devuelto no señala claramente esta falta de permisos.

# Instalar gcloud (si aún no se ha hecho)
# Consulta https://cloud.google.com/sdk/docs/install

# Autenticación
gcloud auth application-default login

# Establecer el proyecto predeterminado
gcloud config set project your-project-id

Hay un paso que se olvida con frecuencia: ve a la consola de Vertex AI, busca el modelo de Mistral deseado en el Model Garden y haz clic en Enable (Habilitar). Esta activación solo es necesaria una vez por modelo y por proyecto. Una llamada a un modelo no habilitado fallará aunque tus roles de IAM sean correctos; esto es lo primero que debes comprobar si te enfrentas a un error de autorización inexplicable.

Una primera llamada sin clave de API

Fíjate primero en lo que falta en el código siguiente: no hay clave de API, ni ningún secreto que cargar. Mistral SDK V2 proporciona un cliente dedicado para Google Cloud, MistralGCP, que se basa en google.auth.default(): recupera las credenciales que gcloud auth application-default login depositó localmente o la cuenta de servicio adjunta a la máquina en producción.

from mistralai.gcp.client import MistralGCP

# La autenticación usa google.auth.default()
# Asegúrate de haber ejecutado: gcloud auth application-default login
client = MistralGCP()

response = client.chat.complete(
    model="mistral-small-2503",
    messages=[
        {"role": "user", "content": "Explica la arquitectura de BigQuery."}
    ]
)

print(response.choices[0].message.content)

Por defecto, el cliente usa la región europe-west4, en los Países Bajos. Para cambiarla, simplemente pásala al constructor, teniendo en cuenta que las regiones disponibles dependen del modelo y que la documentación de Vertex AI es la autoridad en este punto.

client = MistralGCP(region="us-central1")

El streaming sigue el mismo mecanismo visto con la API directa: itera sobre el flujo, accede al contenido mediante chunk.data y comprueba antes de imprimir, ya que algunos fragmentos llegan vacíos.

stream = client.chat.stream(
    model="mistral-small-2503",
    messages=[
        {"role": "user", "content": "Enumera los servicios sin servidor de Google Cloud."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

El caso especial de FIM con Codestral

Codestral en Vertex AI admite Fill-in-the-Middle (FIM), una función que cambia la forma de abordar la finalización de código. En lugar de pedir «escríbeme una función», proporcionas el principio y el final, y el modelo genera lo que falta entre ambos. El método también cambia: ya no es chat.complete(), sino fim.complete(), con un prompt para la parte anterior y un suffix para la parte posterior.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def calculate_average(grades: list[float]) -> float:",
    suffix="    return average"
)

print(response.choices[0].message.content)

En este ejemplo, el modelo genera el cuerpo de la función entre la signatura y el return. Sabe que debe existir una variable average al final, ya que aparece en el sufijo: la restricción lo guía mucho mejor que una instrucción en lenguaje natural. Esto es exactamente lo que ocurre cuando un IDE completa una función en medio de un archivo, lo que hace que FIM sea especialmente eficaz para la finalización en un editor, rellenando bloques de código faltantes y generando código que debe encajar en una estructura existente.

El cliente de Vertex en TypeScript

En JavaScript y TypeScript, el cliente de Google Cloud se publica en un paquete separado, @mistralai/mistralai-gcp (npm add @mistralai/mistralai-gcp), y se llama MistralGCP desde la versión 2.0 del SDK (anteriormente se llamaba MistralGoogleCloud). La región y el ID del proyecto se declaran en la construcción y, de nuevo, no aparece ninguna clave en el código.

import { MistralGCP } from '@mistralai/mistralai-gcp';

const client = new MistralGCP({
  region: 'europe-west4',
  projectId: process.env.GOOGLE_PROJECT_ID,
});

const response = await client.chat.complete({
  model: 'mistral-small-2503',
  messages: [
    { role: 'user', content: '¿Cómo optimizar una consulta de BigQuery?' },
  ],
});

console.log(response.choices?.[0]?.message?.content);

Fuentes: SDK de TypeScript @mistralai/mistralai-gcp · Notas de la versión 2.0.0 del SDK de TypeScript

Llevarlo a producción correctamente

La autenticación de usuario mediante gcloud auth application-default login es perfecta para el desarrollo, pero vincula tus llamadas a una persona: el día que esa persona abandone el equipo, el servicio se romperá. En producción, usa cuentas de servicio, cuyos derechos son explícitos y auditables. Mantén europe-west4 como región predeterminada si el cumplimiento normativo europeo forma parte de tus restricciones. Habilita Cloud Logging para rastrear tus llamadas y diagnosticar errores, y configura presupuestos de Cloud Billing: en una plataforma donde la inferencia se factura por uso, una alerta de presupuesto es tu única salvaguarda contra un bucle descontrolado.

Puntos clave

  • El cliente MistralGCP utiliza la autenticación nativa de Google Cloud (gcloud auth)
  • La región predeterminada es europe-west4; modificable en la inicialización
  • Codestral en Vertex admite FIM (Fill-in-the-Middle) para la finalización de código
  • No se requiere ninguna clave de API de Mistral: la autenticación pasa por IAM de Google Cloud
  • Habilita cada modelo en el Model Garden antes de usarlo