AWS Bedrock y otros proveedores en la nube
En esta página
Ecosistema en la nube de Mistral
Además de Azure y Google Cloud, los modelos de Mistral están disponibles en varias plataformas más. Esta lección aborda AWS Bedrock con detalle, ya que es la alternativa más común y la que más difiere de lo que has aprendido hasta ahora. A continuación, se cubren brevemente las integraciones con Snowflake Cortex, IBM watsonx y Outscale.
AWS Bedrock
Amazon Bedrock es el servicio gestionado de AWS para modelos fundamentales. Expone una API unificada frente a múltiples proveedores (Anthropic, Meta, Mistral y otros), gestionando la facturación, la seguridad y el cumplimiento normativo a través de AWS. Para los equipos que ya utilizan AWS, esto significa que los modelos de Mistral operan dentro del mismo ámbito de IAM, utilizan los mismos registros de CloudWatch y aparecen en la misma factura que el resto de tu infraestructura.
En cuanto al catálogo, Bedrock proporciona acceso a los siguientes modelos. La lista exacta depende de tu región y cambia con cada nuevo lanzamiento; la página Model Access de la consola es la fuente de la verdad.
| Modelo | Posicionamiento |
|---|---|
| Mistral Large 3 | Modelo insignia (las versiones anteriores de Mistral Large siguen disponibles) |
| Mistral Small | Rápido y rentable |
| Ministral (3B, 8B, 14B) | Modelos compactos |
| Mixtral 8x7B | Modelo de mezcla de expertos |
| Pixtral Large | Multimodal (texto + imágenes) |
Preparar el acceso
Debes cumplir cuatro condiciones antes de realizar tu primera llamada:
- Una cuenta de AWS con acceso a una región que admita Bedrock
- Un principal de IAM con los permisos
bedrock:InvokeModelybedrock:InvokeModelWithResponseStream - La CLI de AWS configurada y boto3 instalado
- Activar los modelos de Mistral en la consola de Bedrock (Model Access)
pip install boto3>=1.34.131
aws configure # Introduce tus credenciales
El segundo permiso es el que la gente suele olvidar: un principal con solo bedrock:InvokeModel funciona en modo síncrono, pero falla en la primera llamada en streaming. El paso 4 es similar a la activación de modelos en Model Garden de Google: hasta que no desbloqueas el modelo en Model Access, ningún permiso de IAM funcionará.
Llamar a un modelo con boto3
Aquí radica la gran diferencia respecto a Azure y Vertex: en Bedrock no utilizas el SDK de Mistral. Todo pasa por el SDK nativo de AWS, boto3, utilizando la API converse(), común a todos los proveedores de la plataforma.
import boto3
import json
client = boto3.client('bedrock-runtime', region_name='us-west-2')
response = client.converse(
modelId="mistral.mistral-large-2512-v1:0",
messages=[
{
"role": "user",
"content": [{"text": "¿Cuáles son las ventajas de una arquitectura sin servidor en AWS?"}]
}
],
inferenceConfig={
"temperature": 0.3,
"maxTokens": 1024
}
)
texte = response["output"]["message"]["content"][0]["text"]
print(texte)
El streaming sigue la misma lógica, utilizando converse_stream() e iterando sobre los eventos del flujo. Ten en cuenta que debes comprobar la clave contentBlockDelta: el flujo de Bedrock también transporta eventos de inicio y fin de bloque, que no contienen texto.
response = client.converse_stream(
modelId="mistral.mistral-large-2512-v1:0",
messages=[
{
"role": "user",
"content": [{"text": "Describe la arquitectura Lambda + API Gateway."}]
}
],
inferenceConfig={"temperature": 0.3, "maxTokens": 1024}
)
for event in response["stream"]:
if "contentBlockDelta" in event:
texte = event["contentBlockDelta"]["delta"].get("text", "")
print(texte, end="", flush=True)
Si portas código escrito para la API directa de Mistral, espera cuatro diferencias. Primero, content ya no es una cadena, sino un array de objetos {"text": "..."}. Segundo, modelId sigue el formato de AWS mistral.{model}-v{version}:{number}: a diferencia de los alias -latest de la API directa, fijas una versión específica y debes actualizarla manualmente. Tercero, los parámetros de inferencia se agrupan en un objeto inferenceConfig separado, en lugar de pasarse en el nivel superior. Por último, no interviene ningún SDK de Mistral: las respuestas son diccionarios de boto3, no modelos tipados, de ahí el acceso basado en claves mostrado arriba.
Snowflake Cortex
Snowflake integra los modelos de Mistral, incluido Mistral Large, directamente en su plataforma de datos a través de Cortex AI. La principal ventaja es sencilla: tus datos nunca salen de Snowflake. Llamar al modelo se convierte en una función SQL invocada dentro de una consulta, justo al lado de la tabla que quieres enriquecer.
-- Uso directo en una consulta SQL
SELECT SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large',
'Resume este informe financiero en tres puntos clave.'
) AS resume;
Imagina una tabla con miles de informes: en lugar de exportar el contenido a un script de Python, llamar a la API y volver a importar los resultados, escribes una consulta que produce directamente la columna de resumen. Esta es la opción obvia cuando tu canal de datos ya reside en Snowflake y las normas de gobernanza prohíben cualquier salida de datos.
IBM watsonx
IBM watsonx.ai ofrece modelos de Mistral, incluido Mistral Large, en su catálogo. El acceso se realiza a través de la API de watsonx utilizando credenciales de IBM Cloud: instancias un objeto ModelInference, pasando el ID del modelo, tus credenciales y el proyecto de destino. Observa la URL regional en el ejemplo: determina dónde se ejecuta la inferencia, un detalle que debes verificar si tienes requisitos de residencia de datos.
from ibm_watsonx_ai import Credentials
from ibm_watsonx_ai.foundation_models import ModelInference
model = ModelInference(
model_id="mistralai/mistral-large",
credentials=Credentials(url="https://eu-de.ml.cloud.ibm.com", api_key="..."),
project_id="your-project-id"
)
response = model.generate_text("Explica el concepto de malla de datos.")
Outscale, la nube soberana francesa
Outscale, una nube soberana francesa calificada como SecNumCloud, también ofrece modelos de Mistral. Para las organizaciones del sector público, de defensa o sanitarias sujetas a estrictas restricciones normativas, esta opción garantiza que tanto los datos como el procesamiento permanezcan en Francia. En estos contextos, este es el único criterio que importa: la cualificación tiene prioridad sobre la comodidad de integración o la experiencia del desarrollador.
Elegir el proveedor adecuado
La elección casi nunca depende de los modelos en sí, ya que los mismos están ampliamente disponibles en todas las plataformas. Depende de dónde residen tus datos, de tu contrato y de tus obligaciones de cumplimiento.
| Proveedor | Cuándo elegirlo |
|---|---|
| API directa de Mistral | La más sencilla, todos los modelos disponibles, ideal para empezar |
| Azure AI | Si ya estás en Azure, facturación consolidada |
| Google Vertex AI | Si estás en GCP, autenticación nativa de IAM |
| AWS Bedrock | Si estás en AWS, integración con el ecosistema de AWS |
| Snowflake Cortex | Si tus datos están en Snowflake |
| Outscale | Si tienes requisitos de soberanía francesa |
Una regla práctica útil: empieza con la API directa para validar que el modelo cumple tus necesidades y migra al proveedor de tu ecosistema cuando el proyecto pase a producción. El código de la aplicación cambia poco; la mayor parte del trabajo implica la autenticación y la nomenclatura de los modelos.
Comprobar antes del despliegue
Los ID de modelo de los proveedores en la nube tienen versión y cambian con cada generación (mistral.mistral-large-2512-v1:0 en Bedrock, por ejemplo). Antes de conectar un despliegue, verifica el valor exacto en la consola del proveedor: es la fuente de la verdad, y un ID obsoleto produce un error de acceso difícil de diagnosticar.
Puntos clave
- AWS Bedrock utiliza boto3 y la API
converse(), no el SDK de Mistral - El formato de mensaje de Bedrock difiere ligeramente (contenido como un array de objetos)
- Snowflake Cortex integra Mistral directamente en consultas SQL
- IBM watsonx y Outscale ofrecen alternativas para necesidades específicas
- Elige tu proveedor en función de tu ecosistema en la nube existente y de las restricciones normativas