Mistral no Google Vertex AI
Nesta página
Atualizado em 2 de novembro de 2026 — Google Cloud. A Google agrupa agora as suas ofertas de IA sob a Gemini Enterprise Agent Platform («Agent Platform»); o Model Garden permanece disponível dentro desta plataforma. Os modelos Mistral disponíveis são o Mistral Medium 3 (
mistral-medium-3), o Codestral 2 (codestral-2), o Mistral OCR 25.05 (mistral-ocr-2505) e o Mistral Small 3.1 (mistral-small-2503). Com o Mistral SDK v2 e versões posteriores, importe o cliente através defrom mistralai.gcp.client import MistralGCPe instale-o compip install "mistralai[gcp]". Fontes: Modelos Mistral AI (Google Cloud) · Vertex AI (Mistral).
Porquê o Vertex AI?
O Google Cloud Vertex AI é a plataforma MLOps da Google e aloja modelos de parceiros, incluindo os da Mistral. A lógica aqui espelha a da Azure: se a sua infraestrutura já depende da Google Cloud — BigQuery para dados, Cloud Run ou GKE para execução —, utilizar o Vertex evita-lhe introduzir outro fornecedor na sua cadeia.
O argumento decisivo aqui é a autenticação. Já não precisa de distribuir, rodar ou monitorizar uma chave de API da Mistral: os seus serviços autenticam-se utilizando a sua conta de serviço da Google, exatamente como já fazem para aceder a um bucket ou a uma tabela do BigQuery. Isto adiciona também uma faturação centralizada na sua conta Cloud Billing e o acesso às ferramentas MLOps da Google.
Modelos disponíveis no Vertex AI
Em abril de 2026, o Vertex AI fornece acesso aos seguintes modelos:
| Modelo | Posicionamento |
|---|---|
| Mistral Medium | Modelo polivalente de alto desempenho |
| Mistral Small | Rápido e económico |
| Codestral | Especializado em código, com suporte FIM (Fill-in-the-Middle) |
| Mistral OCR | Extração de conteúdo de documentos |
Prepare o seu ambiente Google Cloud
A configuração ocorre uma única vez e condiciona todo o resto:
- Um projeto Google Cloud com a API Vertex AI ativada
- As seguintes funções IAM atribuídas à sua conta:
Vertex AI User— para invocar modelosConsumer Procurement Entitlement Manager— para ativar modelos de parceiros
- A CLI gcloud instalada e configurada
A segunda função surpreende frequentemente as pessoas: não tem nada a ver com inferência; autoriza a ativação de modelos de parceiros no catálogo. Sem ela, verá os modelos Mistral na interface, mas nunca conseguirá ativá-los, e o erro devolvido não aponta claramente para esta falta de permissões.
# Instalar gcloud (se ainda não estiver feito)
# Ver https://cloud.google.com/sdk/docs/install
# Autenticar
gcloud auth application-default login
# Definir o projeto padrão
gcloud config set project your-project-id
Um passo é regularmente esquecido: aceda à consola do Vertex AI, encontre o modelo Mistral desejado no Model Garden e clique em Enable (Ativar). Esta ativação é necessária apenas uma vez por modelo e por projeto. Uma chamada a um modelo não ativado falha mesmo que as suas funções IAM estejam corretas — esta é a primeira coisa a verificar quando se depara com um erro de autorização inexplicável.
Uma primeira chamada sem chave de API
Note primeiro o que falta no código abaixo: nenhuma chave de API, nenhum segredo para carregar. O Mistral SDK V2 fornece um cliente dedicado para a Google Cloud, MistralGCP, que depende de google.auth.default(): este recolhe as credenciais que o gcloud auth application-default login depositou localmente ou a conta de serviço anexada à máquina em produção.
from mistralai.gcp.client import MistralGCP
# A autenticação utiliza google.auth.default()
# Certifique-se de que executou: gcloud auth application-default login
client = MistralGCP()
response = client.chat.complete(
model="mistral-small-2503",
messages=[
{"role": "user", "content": "Explain the architecture of BigQuery."}
]
)
print(response.choices[0].message.content)
Por predefinição, o cliente utiliza a região europe-west4, nos Países Baixos. Para a alterar, basta passá-la ao construtor — tendo em mente que as regiões disponíveis dependem do modelo e que a documentação do Vertex AI é autoridade nesta matéria.
client = MistralGCP(region="us-central1")
O streaming segue o mesmo mecanismo visto com a API direta: itere sobre o fluxo, aceda ao conteúdo via chunk.data e teste antes de imprimir, uma vez que alguns fragmentos chegam vazios.
stream = client.chat.stream(
model="mistral-small-2503",
messages=[
{"role": "user", "content": "List the serverless services of Google Cloud."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
O caso especial do FIM com o Codestral
O Codestral no Vertex AI suporta Fill-in-the-Middle (FIM), uma funcionalidade que altera a forma como aborda a conclusão de código. Em vez de pedir «escreva-me uma função», fornece o início e o fim, e o modelo produz o que falta entre os dois. O método também muda: já não é chat.complete(), mas fim.complete(), com um prompt para a parte inicial e um suffix para a parte final.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def calculate_average(grades: list[float]) -> float:",
suffix=" return average"
)
print(response.choices[0].message.content)
Neste exemplo, o modelo gera o corpo da função entre a assinatura e o return. Sabe que uma variável average deve existir no final, uma vez que aparece no sufixo: a restrição guia-o muito melhor do que uma instrução em linguagem natural. É exatamente isto que acontece quando um IDE completa uma função no meio de um ficheiro, tornando o FIM particularmente eficaz para conclusão num editor, preenchendo blocos de código em falta e gerando código que deve integrar-se numa estrutura existente.
O cliente Vertex em TypeScript
Em JavaScript e TypeScript, o cliente da Google Cloud é publicado num pacote separado, @mistralai/mistralai-gcp (npm add @mistralai/mistralai-gcp), e chama-se MistralGCP desde a versão 2.0 do SDK (anteriormente chamava-se MistralGoogleCloud). A região e o ID do projeto são declarados na construção e, mais uma vez, nenhuma chave aparece no código.
import { MistralGCP } from '@mistralai/mistralai-gcp';
const client = new MistralGCP({
region: 'europe-west4',
projectId: process.env.GOOGLE_PROJECT_ID,
});
const response = await client.chat.complete({
model: 'mistral-small-2503',
messages: [
{ role: 'user', content: 'How to optimize a BigQuery query?' },
],
});
console.log(response.choices?.[0]?.message?.content);
Fontes: TypeScript SDK
@mistralai/mistralai-gcp· Notas de lançamento do TypeScript SDK 2.0.0
Ir para produção corretamente
A autenticação de utilizador via gcloud auth application-default login é perfeita para desenvolvimento, mas vincula as suas chamadas a uma pessoa: no dia em que essa pessoa deixar a equipa, o serviço quebra. Em produção, utilize contas de serviço, cujos direitos são explícitos e auditáveis. Mantenha europe-west4 como região predefinida se a conformidade europeia fizer parte das suas restrições. Ative o Cloud Logging para rastrear as suas chamadas e diagnosticar erros, e configure orçamentos no Cloud Billing: numa plataforma onde a inferência é faturada por utilização, um alerta de orçamento é a sua única salvaguarda contra um loop descontrolado.
Pontos-chave
- O cliente
MistralGCPutiliza a autenticação nativa da Google Cloud (gcloud auth) - A região predefinida é
europe-west4— modificável na inicialização - O Codestral no Vertex suporta FIM (Fill-in-the-Middle) para conclusão de código
- Não é necessária nenhuma chave de API da Mistral: a autenticação passa pelo IAM da Google Cloud
- Ative cada modelo no Model Garden antes de o utilizar