Ir al contenido principal
Español— Elegir un idioma
Menú

AWS Bedrock

Lección 8 de 14 Actualizado el 2 de noviembre de 2026 Avanzado
En esta página
  1. Mistral en Amazon Bedrock
  2. Requisitos previos
  3. Llamada mediante la API Converse
  4. El SDK nativo de Mistral y por qué evitarlo aquí
  5. Integración con el ecosistema AWS
  6. Diferencias con la API directa de Mistral
  7. Puntos clave

Mistral en Amazon Bedrock

Amazon Bedrock es el servicio gestionado de AWS para acceder a modelos fundacionales mediante una API unificada. Mistral AI ofrece aquí una gama completa, desde el ligero Mistral 7B hasta el potente Mistral Large 3. La integración se basa en el SDK estándar de AWS, boto3. Esto lo convierte en una opción atractiva para equipos ya establecidos en AWS: no hay que distribuir claves de proveedores adicionales, ni aprobar nuevos contratos, y el modelo de autenticación ya es conocido por tus administradores.

El catálogo de Bedrock es uno de los más extensos para Mistral. Encontrarás Mistral Large 3 para razonamiento avanzado y tareas multimodales, la gama ligera Ministral 3B / 8B / 14B, versiones anteriores como Mistral Large 24.07 y 24.02 (que a menudo se mantienen para evitar romper prompts calibrados), Mistral Small para un procesamiento rápido y rentable, Mixtral 8x7B con su arquitectura de mezcla de expertos (Mixture-of-Experts), el modelo fundacional de pesos abiertos Mistral 7B y Pixtral Large para capacidades de visión y multimodales. Esta profundidad te permite ejecutar un modelo barato para clasificación masiva junto a un modelo de gama alta para resúmenes delicados dentro de la misma aplicación.

Requisitos previos

Deben cumplirse tres condiciones antes de tu primera llamada. Primero, necesitas una cuenta de AWS en una región que admita Bedrock. Segundo, necesitas un principal de IAM (usuario o rol) al que se le hayan concedido los dos permisos requeridos de Bedrock:

  • bedrock:InvokeModel
  • bedrock:InvokeModelWithResponseStream

Por último, los modelos de Mistral deben estar habilitados en la consola de Bedrock para tu región específica. Este último paso pilla desprevenidos a muchos equipos: tus permisos de IAM pueden ser perfectos, pero si el modelo no está habilitado en la región que estás llamando, seguirá estando fuera de alcance. La habilitación se realiza región por región, lo que explica los fallos al cambiar de us-west-2 a otra zona.

En el lado de la estación de trabajo, la instalación se limita al SDK de AWS:

pip install boto3>=1.34.131

A continuación, configura tus credenciales como de costumbre:

aws configure
# AWS Access Key ID: your-access-key
# AWS Secret Access Key: your-secret-key
# Default region name: us-west-2
# Default output format: json

Llamada mediante la API Converse

Bedrock unifica el acceso a diferentes proveedores tras un único método: converse(). En la práctica, el mismo código llama a un modelo de Mistral o a cualquier otro modelo del catálogo; solo cambia el identificador. El contenido del mensaje no es una cadena simple, sino una lista de bloques, y la configuración de generación se agrupa bajo inferenceConfig en lugar de estar aplastada en el nivel superior.

import boto3

client = boto3.client("bedrock-runtime", region_name="us-west-2")

response = client.converse(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "Explain the concept of a VPC in AWS in 5 points."}]
        }
    ],
    inferenceConfig={
        "temperature": 0.3,
        "maxTokens": 1024
    }
)

# Extract the response
output = response["output"]["message"]["content"][0]["text"]
print(output)

Los identificadores siguen el formato mistral.<model-name>-<version>:0. Dado que tienen versión, lo mejor es centralizarlos en una constante en lugar de copiarlos en cada llamada:

# Common models (versioned identifiers — check the Bedrock console for the current list)
MODELS = {
    "large_3":  "mistral.mistral-large-2512-v1:0",
    "small":       "mistral.mistral-small-2402-v1:0",
    "mixtral":     "mistral.mixtral-8x7b-instruct-v0:1",
    "mistral_7b":  "mistral.mistral-7b-instruct-v0:2",
}

Para respuestas largas, converse_stream devuelve un flujo de eventos sobre el que iteras a medida que llegan. Esto permite que una interfaz muestre texto mientras se genera, en lugar de esperar varios segundos con la pantalla congelada.

response = client.converse_stream(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[
        {
            "role": "user",
            "content": [{"text": "Generate a complete guide on Lambda functions."}]
        }
    ],
    inferenceConfig={"maxTokens": 2048}
)

for event in response["stream"]:
    if "contentBlockDelta" in event:
        text = event["contentBlockDelta"]["delta"].get("text", "")
        print(text, end="", flush=True)

El SDK nativo de Mistral y por qué evitarlo aquí

Si prefieres el cliente estándar de Mistral, un adaptador te permite apuntarlo al punto final de Bedrock:

import os
from mistralai.client import Mistral

# Configuration for Bedrock
client = Mistral(
    api_key=os.environ.get("AWS_SECRET_ACCESS_KEY", ""),
    server_url=f"https://bedrock-runtime.us-west-2.amazonaws.com"
)

Sin embargo, se recomienda el enfoque con boto3 en AWS porque se integra de forma nativa con IAM, CloudWatch y otros servicios de AWS. En la práctica, elegir boto3 te ofrece la rotación automática de credenciales mediante roles y observabilidad sin escribir ni una línea extra de código.

Integración con el ecosistema AWS

Bedrock envía automáticamente métricas a CloudWatch: Invocations para el recuento de llamadas, InvocationLatency para la latencia de la solicitud, e InputTokenCount y OutputTokenCount para el consumo de tokens. Obtienes un panel de costes y rendimiento sin necesidad de instrumentar tu aplicación. Una comprobación rápida desde la línea de comandos es suficiente para verificar el volumen durante un periodo determinado:

# Check metrics via AWS CLI
aws cloudwatch get-metric-statistics \
    --namespace "AWS/Bedrock" \
    --metric-name "Invocations" \
    --start-time 2026-04-01T00:00:00Z \
    --end-time 2026-04-03T23:59:59Z \
    --period 3600 \
    --statistics Sum

AWS también ofrece sus propios raíles de seguridad (guardrails), que complementan los de Mistral. Estos se adjuntan a nivel de llamada, lo que te permite aplicar una política de filtrado coherente en todos los modelos del catálogo, independientemente de su proveedor:

response = client.converse(
    modelId="mistral.mistral-large-2512-v1:0",
    messages=[{"role": "user", "content": [{"text": "..."}]}],
    guardrailConfig={
        "guardrailIdentifier": "my-guardrail-id",
        "guardrailVersion": "1"
    }
)

Diferencias con la API directa de Mistral

AspectoAPI de MistralAWS Bedrock
SDKmistralaiboto3
AutenticaciónClave de APIIAM (SigV4)
APIchat.complete()converse()
Streamingchat.stream()converse_stream()
MonitorizaciónManualCloudWatch nativo
FacturaciónMistralAWS

Esta tabla explica por qué migrar desde la API de Mistral nunca es solo un cambio de URL: el formato del mensaje, el método llamado y el mecanismo de autenticación cambian todos a la vez. Planifica una capa de abstracción en tu código si tienes intención de dar servicio a ambos.

Puntos clave

  • Bedrock utiliza boto3 y la API converse(), no el cliente estándar de Mistral
  • La autenticación se realiza a través de IAM, no mediante una clave de API de Mistral
  • Las métricas de CloudWatch se envían automáticamente (latencia, tokens, invocaciones)
  • Habilita los modelos en la consola de Bedrock antes de usarlos
  • Los identificadores de Bedrock tienen versión (mistral.mistral-large-2512-v1:0) y cambian con cada generación: verifica el valor exacto en la consola de Bedrock antes de desplegar
  • El streaming se produce mediante converse_stream() con eventos