AWS Bedrock e Outros Fornecedores de Nuvem
Nesta página
O Ecossistema de Nuvem da Mistral
Para além da Azure e do Google Cloud, os modelos da Mistral estão disponíveis em várias outras plataformas. Esta lição aborda detalhadamente a AWS Bedrock, pois é a alternativa mais comum e difere substancialmente do que aprendeu até agora. De seguida, cobre brevemente as integrações com o Snowflake Cortex, o IBM watsonx e a Outscale.
AWS Bedrock
A Amazon Bedrock é o serviço gerido da AWS para modelos fundamentais. Expõe uma API unificada à frente de múltiplos fornecedores — Anthropic, Meta, Mistral e outros — gerindo a faturação, a segurança e a conformidade através da AWS. Para equipas que já utilizam a AWS, isto significa que os modelos da Mistral operam dentro do mesmo âmbito IAM, utilizam os mesmos registos do CloudWatch e aparecem na mesma fatura que o resto da sua infraestrutura.
No que diz respeito ao catálogo, a Bedrock fornece acesso aos seguintes modelos. A lista exata depende da sua região e altera-se com novos lançamentos; a página de Acesso a Modelos (Model Access) na consola é a fonte da verdade.
| Modelo | Posicionamento |
|---|---|
| Mistral Large 3 | Modelo de topo (versões anteriores do Mistral Large permanecem disponíveis) |
| Mistral Small | Rápido e económico |
| Ministral (3B, 8B, 14B) | Modelos compactos |
| Mixtral 8x7B | Modelo de mistura de especialistas (mixture-of-experts) |
| Pixtral Large | Multimodal (texto + imagens) |
Preparar o Acesso
Deve cumprir quatro condições antes de efetuar a sua primeira chamada:
- Uma conta AWS com acesso a uma região que suporte a Bedrock
- Um principal IAM com as permissões
bedrock:InvokeModelebedrock:InvokeModelWithResponseStream - A AWS CLI configurada e o boto3 instalado
- Ativar os modelos da Mistral na consola da Bedrock (Acesso a Modelos)
pip install boto3>=1.34.131
aws configure # Introduza as suas credenciais
A segunda permissão é aquela que as pessoas esquecem frequentemente: um principal com apenas bedrock:InvokeModel funciona em modo síncrono, mas falha na primeira chamada de streaming. O passo 4 é semelhante à ativação de modelos no Model Garden da Google: até desbloquear o modelo no Acesso a Modelos, nenhuma permissão IAM funcionará.
Chamar um Modelo com boto3
Eis a principal diferença em relação à Azure e ao Vertex: na Bedrock, não utiliza o SDK da Mistral. Tudo passa pelo SDK nativo da AWS, o boto3, utilizando a API converse() comum a todos os fornecedores na plataforma.
import boto3
import json
client = boto3.client('bedrock-runtime', region_name='us-west-2')
response = client.converse(
modelId="mistral.mistral-large-2512-v1:0",
messages=[
{
"role": "user",
"content": [{"text": "What are the advantages of a serverless architecture on AWS?"}]
}
],
inferenceConfig={
"temperature": 0.3,
"maxTokens": 1024
}
)
texte = response["output"]["message"]["content"][0]["text"]
print(texte)
O streaming segue a mesma lógica, utilizando converse_stream() e iterando sobre os eventos do stream. Note que deve verificar a chave contentBlockDelta: o stream da Bedrock também transporta eventos de início e fim de bloco, que não contêm texto.
response = client.converse_stream(
modelId="mistral.mistral-large-2512-v1:0",
messages=[
{
"role": "user",
"content": [{"text": "Describe the Lambda + API Gateway architecture."}]
}
],
inferenceConfig={"temperature": 0.3, "maxTokens": 1024}
)
for event in response["stream"]:
if "contentBlockDelta" in event:
texte = event["contentBlockDelta"]["delta"].get("text", "")
print(texte, end="", flush=True)
Se portar código escrito para a API direta da Mistral, espere quatro diferenças. Primeiro, content deixa de ser uma string para se tornar um array de objetos {"text": "..."}. Segundo, modelId segue o formato da AWS mistral.{model}-v{version}:{number}: ao contrário dos aliases -latest na API direta, fixa uma versão específica e deve atualizá-la manualmente. Terceiro, os parâmetros de inferência são agrupados num objeto inferenceConfig separado, em vez de serem passados no nível superior. Finalmente, não está envolvido nenhum SDK da Mistral: as respostas são dicionários boto3, não modelos tipados, daí o acesso baseado em chaves mostrado acima.
Snowflake Cortex
O Snowflake integra modelos da Mistral, incluindo o Mistral Large, diretamente na sua plataforma de dados através do Cortex AI. A principal vantagem é simples: os seus dados nunca saem do Snowflake. Chamar o modelo torna-se uma função SQL invocada dentro de uma consulta, mesmo ao lado da tabela que deseja enriquecer.
-- Utilização direta numa consulta SQL
SELECT SNOWFLAKE.CORTEX.COMPLETE(
'mistral-large',
'Summarize this financial report in three key points.'
) AS resume;
Imagine uma tabela com milhares de relatórios: em vez de exportar o conteúdo para um script Python, chamar a API e reimportar os resultados, escreve uma consulta que produz diretamente a coluna de resumo. Esta é a escolha óbvia quando o seu pipeline de dados já reside no Snowflake e as regras de governança proíbem qualquer saída de dados.
IBM watsonx
O IBM watsonx.ai oferece modelos da Mistral, incluindo o Mistral Large, no seu catálogo. O acesso ocorre através da API watsonx utilizando credenciais da IBM Cloud: instancia um objeto ModelInference, passando o ID do modelo, as suas credenciais e o projeto de destino. Note o URL regional no exemplo — ele determina onde a inferência é executada, um detalhe a verificar se tiver requisitos de residência de dados.
from ibm_watsonx_ai import Credentials
from ibm_watsonx_ai.foundation_models import ModelInference
model = ModelInference(
model_id="mistralai/mistral-large",
credentials=Credentials(url="https://eu-de.ml.cloud.ibm.com", api_key="..."),
project_id="your-project-id"
)
response = model.generate_text("Explain the data mesh concept.")
Outscale, a Nuvem Soberana Francesa
A Outscale, uma nuvem soberana francesa qualificada SecNumCloud, também oferece modelos da Mistral. Para organizações do setor público, defesa ou saúde sujeitas a restrições regulamentares estritas, esta opção garante que tanto os dados como o processamento permanecem em França. Nestes contextos, este é o único critério que importa: a qualificação prevalece sobre a conveniência de integração ou a experiência do programador.
Escolher o Fornecedor Adequado
A escolha quase nunca depende dos modelos em si, uma vez que os mesmos estão amplamente disponíveis em todas as plataformas. Depende de onde residem os seus dados, do seu contrato e das suas obrigações de conformidade.
| Fornecedor | Quando Escolher |
|---|---|
| API Direta da Mistral | Mais simples, todos os modelos disponíveis, ideal para começar |
| Azure AI | Se já estiver na Azure, faturação consolidada |
| Google Vertex AI | Se estiver na GCP, autenticação IAM nativa |
| AWS Bedrock | Se estiver na AWS, integração com o ecossistema AWS |
| Snowflake Cortex | Se os seus dados estiverem no Snowflake |
| Outscale | Se tiver requisitos de soberania francesa |
Uma regra prática útil: comece com a API direta para validar se o modelo satisfaz as suas necessidades e, em seguida, migre para o fornecedor do seu ecossistema quando o projeto passar para produção. O código da aplicação altera-se pouco; a maior parte do trabalho envolve a autenticação e a nomenclatura dos modelos.
Verificar Antes da Implementação
Os IDs de modelo dos fornecedores de nuvem são versionados e alteram-se com cada geração (mistral.mistral-large-2512-v1:0 na Bedrock, por exemplo). Antes de configurar uma implementação, verifique o valor exato na consola do fornecedor: é a fonte da verdade e um ID desatualizado produz um erro de acesso difícil de diagnosticar.
Pontos-chave
- A AWS Bedrock utiliza o boto3 e a API
converse()— não o SDK da Mistral - O formato de mensagem da Bedrock difere ligeiramente (conteúdo como um array de objetos)
- O Snowflake Cortex integra a Mistral diretamente em consultas SQL
- O IBM watsonx e a Outscale oferecem alternativas para necessidades específicas
- Escolha o seu fornecedor com base no seu ecossistema de nuvem existente e nas restrições regulamentares