AWS Bedrock
Nesta página
Mistral na Amazon Bedrock
A Amazon Bedrock é o serviço gerido da AWS para aceder a modelos fundamentais através de uma API unificada. A Mistral AI oferece aqui uma gama completa, desde o leve Mistral 7B até ao potente Mistral Large 3. A integração recorre ao SDK padrão da AWS, o boto3. Isto torna-a uma opção atrativa para equipas já estabelecidas na AWS: sem chaves de fornecedores adicionais para circular, sem novos contratos para aprovar e com um modelo de autenticação que os seus administradores já dominam.
O catálogo da Bedrock é um dos mais extensos para a Mistral. Encontrará o Mistral Large 3 para raciocínio avançado e tarefas multimodais, a gama leve Ministral 3B / 8B / 14B, versões anteriores como o Mistral Large 24.07 e 24.02 (frequentemente mantidas para evitar quebrar prompts calibrados), o Mistral Small para processamento rápido e económico, o Mixtral 8x7B com a sua arquitetura Mixture-of-Experts, o modelo fundamental de pesos abertos Mistral 7B e o Pixtral Large para capacidades de visão e multimodais. Esta profundidade permite-lhe executar um modelo barato para classificação em massa juntamente com um modelo de gama alta para resumos delicados dentro da mesma aplicação.
Pré-requisitos
Três condições devem ser cumpridas antes da sua primeira chamada. Primeiro, precisa de uma conta AWS numa região que suporte a Bedrock. Segundo, precisa de um principal IAM — utilizador ou função — com as duas permissões Bedrock necessárias:
bedrock:InvokeModelbedrock:InvokeModelWithResponseStream
Por fim, os modelos Mistral devem ser ativados na consola da Bedrock para a sua região específica. Este último passo apanha muitas equipas de surpresa: as suas permissões IAM podem ser perfeitas, mas se o modelo não estiver ativado na região que está a chamar, permanece inacessível. A ativação ocorre região por região, o que explica as falhas após mudar de us-west-2 para outra zona.
No lado da estação de trabalho, a instalação limita-se ao SDK da AWS:
pip install boto3>=1.34.131
Depois, configure as suas credenciais como habitualmente:
aws configure
# AWS Access Key ID: your-access-key
# AWS Secret Access Key: your-secret-key
# Default region name: us-west-2
# Default output format: json
Chamada via API Converse
A Bedrock unifica o acesso a diferentes fornecedores atrás de um único método: converse(). Na prática, o mesmo código chama um modelo Mistral ou qualquer outro modelo no catálogo; apenas o identificador muda. O conteúdo da mensagem não é uma simples cadeia de caracteres, mas uma lista de blocos, e as definições de geração estão agrupadas sob inferenceConfig em vez de estarem achatadas no nível superior.
import boto3
client = boto3.client("bedrock-runtime", region_name="us-west-2")
response = client.converse(
modelId="mistral.mistral-large-2512-v1:0",
messages=[
{
"role": "user",
"content": [{"text": "Explain the concept of a VPC in AWS in 5 points."}]
}
],
inferenceConfig={
"temperature": 0.3,
"maxTokens": 1024
}
)
# Extrair a resposta
output = response["output"]["message"]["content"][0]["text"]
print(output)
Os identificadores seguem o formato mistral.<model-name>-<version>:0. Como são versionados, é melhor centralizá-los numa constante em vez de os copiar para cada chamada:
# Modelos comuns (identificadores versionados — consulte a consola Bedrock para a lista atual)
MODELS = {
"large_3": "mistral.mistral-large-2512-v1:0",
"small": "mistral.mistral-small-2402-v1:0",
"mixtral": "mistral.mixtral-8x7b-instruct-v0:1",
"mistral_7b": "mistral.mistral-7b-instruct-v0:2",
}
Para respostas longas, converse_stream devolve um fluxo de eventos sobre o qual pode iterar à medida que chegam. Isto permite que uma interface apresente texto enquanto este está a ser gerado, em vez de esperar vários segundos com um ecrã congelado.
response = client.converse_stream(
modelId="mistral.mistral-large-2512-v1:0",
messages=[
{
"role": "user",
"content": [{"text": "Generate a complete guide on Lambda functions."}]
}
],
inferenceConfig={"maxTokens": 2048}
)
for event in response["stream"]:
if "contentBlockDelta" in event:
text = event["contentBlockDelta"]["delta"].get("text", "")
print(text, end="", flush=True)
O SDK Nativo Mistral e Por Que Evitá-lo Aqui
Se preferir o cliente Mistral padrão, um adaptador permite-lhe apontá-lo para o endpoint da Bedrock:
import os
from mistralai.client import Mistral
# Configuração para Bedrock
client = Mistral(
api_key=os.environ.get("AWS_SECRET_ACCESS_KEY", ""),
server_url=f"https://bedrock-runtime.us-west-2.amazonaws.com"
)
No entanto, a abordagem boto3 é recomendada na AWS porque se integra nativamente com IAM, CloudWatch e outros serviços AWS. Na prática, escolher boto3 oferece-lhe rotação automática de credenciais via funções e observabilidade sem escrever uma única linha de código extra.
Integração com o Ecossistema AWS
A Bedrock envia automaticamente métricas para o CloudWatch: Invocations para contagem de chamadas, InvocationLatency para latência do pedido e InputTokenCount e OutputTokenCount para consumo de tokens. Obtém um painel de custos e desempenho sem instrumentar a sua aplicação. Uma verificação rápida a partir da linha de comandos é suficiente para verificar o volume num determinado período:
# Verificar métricas via AWS CLI
aws cloudwatch get-metric-statistics \
--namespace "AWS/Bedrock" \
--metric-name "Invocations" \
--start-time 2026-04-01T00:00:00Z \
--end-time 2026-04-03T23:59:59Z \
--period 3600 \
--statistics Sum
A AWS também oferece os seus próprios guard-rails, que complementam os da Mistral. Estes são anexados ao nível da chamada, permitindo-lhe aplicar uma política de filtragem consistente em todos os modelos do catálogo, independentemente do seu fornecedor:
response = client.converse(
modelId="mistral.mistral-large-2512-v1:0",
messages=[{"role": "user", "content": [{"text": "..."}]}],
guardrailConfig={
"guardrailIdentifier": "my-guardrail-id",
"guardrailVersion": "1"
}
)
Diferenças em Relação à API Direta da Mistral
| Aspeto | API Mistral | AWS Bedrock |
|---|---|---|
| SDK | mistralai | boto3 |
| Autenticação | Chave API | IAM (SigV4) |
| API | chat.complete() | converse() |
| Streaming | chat.stream() | converse_stream() |
| Monitorização | Manual | CloudWatch Nativo |
| Faturação | Mistral | AWS |
Esta tabela explica por que razão migrar da API Mistral nunca é apenas uma mudança de URL: o formato da mensagem, o método chamado e o mecanismo de autenticação mudam todos em simultâneo. Planeie uma camada de abstração no seu código se tencionar servir ambos.
Pontos-chave
- A Bedrock utiliza
boto3e a APIconverse()— não o cliente Mistral padrão - A autenticação passa pelo IAM, não por uma chave API da Mistral
- As métricas do CloudWatch são enviadas automaticamente (latência, tokens, invocações)
- Ative os modelos na consola da Bedrock antes de os utilizar
- Os identificadores da Bedrock são versionados (
mistral.mistral-large-2512-v1:0) e mudam com cada geração: verifique o valor exato na consola da Bedrock antes de implementar - O streaming ocorre via
converse_stream()com eventos