Mistral ar Google Vertex AI
Ar an leathanach seo
Nuashonraithe an 2 Samhain, 2026 — Google Cloud. Cuireann Google a thairiscintí IA faoinár Gemini Enterprise Agent Platform (“Ardán Gníomhaire”) anois; fanann an Ghairdín Múnlaí ar fáil laistigh de. Is iad na múnlaí Mistral atá ar fáil ná Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505), agus Mistral Small 3.1 (mistral-small-2503). Le Mistral SDK v2 agus leaganacha ina dhiaidh sin, allmhairigh an cliant trífrom mistralai.gcp.client import MistralGCPagus suiteáil é lepip install "mistralai[gcp]". Foinse: Múnlaí Mistral AI (Google Cloud) · Vertex AI (Mistral).
Cén fáth Vertex AI?
Is é Google Cloud Vertex AI ardán MLOps de chuid Google, agus óstálann sé múnlaí comhpháirtithe, lena n-áirítear cinn ó Mistral. Tá an loighic anseo cosúil le Azure: má bhraitheann do bhonneagar cheana féin ar Google Cloud—BigQuery do shonraí, Cloud Run nó GKE don fhorghníomhú—cuireann úsáid Vertex cosc ort díoltóir eile a thabhairt isteach i do shlabhra.
Is é an fíorargóint thábhachtach anseo ná an fíordheimhniú. Ní gá duit a thuilleadh eochair API Mistral a dháileadh, a rothlú ná a mhonatóiriú: déanann do sheirbhísí fíordheimhniú ag baint úsáide as a gcuntas seirbhíse Google, díreach mar a dhéanann siad cheana féin chun rochtain a fháil ar bhuicéad nó ar thábla BigQuery. Cuirtear billeáil láraithe ar do chuntas Billeála Cloud leis seo, chomh maith le rochtain ar uirlisí MLOps Google.
Múnlaí atá ar fáil ar Vertex AI
Ó Aibreán 2026 i leith, soláthraíonn Vertex AI rochtain ar na múnlaí seo a leanas:
| Múnla | Suíomh |
|---|---|
| Mistral Medium | Múnla ginearálta ardfheidhmíochta |
| Mistral Small | Tapa agus cost-éifeachtach |
| Codestral | Speisialaithe do chód, le tacaíocht FIM (Fill-in-the-Middle) |
| Mistral OCR | Eastóscadh ábhair ó dhoiciméid |
Do thimpeallacht Google Cloud a ullmhú
Tarlaíonn an chumraíocht uair amháin agus coinníonn sí gach rud eile faoi ghlas:
- Tionscadal Google Cloud leis an API Vertex AI cumasaithe
- Na róil IAM seo a leanas sannta do do chuntas:
Vertex AI User— chun múnlaí a ghairmConsumer Procurement Entitlement Manager— chun múnlaí comhpháirtithe a chumasú
- An gcloud CLI suiteáilte agus cumraithe
Go minic, cuireann an dara ról iontas ar dhaoine: níl baint ar bith aige le hinferacht; údarú a thugann sé chun múnlaí comhpháirtithe a chumasú sa chatalóg. Gan é, feicfidh tú múnlaí Mistral sa chomhéadan ach ní bheidh tú in ann iad a chumasú riamh, agus ní thugann an earráid a fhilltear le fios go soiléir go bhfuil easnamh ceadanna ann.
# Suiteáil gcloud (mura ndearnadh cheana é)
# Féach https://cloud.google.com/sdk/docs/install
# Fíordheimhnigh
gcloud auth application-default login
# Socraigh an tionscadal réamhshocraithe
gcloud config set project your-project-id
Déantar dearmad go minic ar chéim amháin: téigh go dtí an consól Vertex AI, aimsigh an múnla Mistral atá uait sa Ghairdín Múnlaí, agus cliceáil ar Enable (Cumasigh). Ní gá an gníomhachtú seo ach uair amháin in aghaidh an mhúnla agus in aghaidh an tionscadail. Teipeann ar ghlaonna chuig múnla nach bhfuil cumasaithe fiú má tá do róil IAM ceart—is é seo an chéad rud le seiceáil nuair a bhíonn earráid údarúcháin gan mhíniú romhat.
An chéad ghlao gan eochair API
Tabhair faoi deara ar dtús cad atá in easnamh sa chód thíos: gan eochair API, gan rún le lódáil. Soláthraíonn Mistral SDK V2 cliant tiomnaithe do Google Cloud, MistralGCP, a bhraitheann ar google.auth.default(): piocann sé suas na dintiúir a d’fhág gcloud auth application-default login go logánta, nó an cuntas seirbhíse atá ceangailte leis an meaisín sa táirgeadh.
from mistralai.gcp.client import MistralGCP
# Úsáideann an fíordheimhniú google.auth.default()
# Déan cinnte go rith tú: gcloud auth application-default login
client = MistralGCP()
response = client.chat.complete(
model="mistral-small-2503",
messages=[
{"role": "user", "content": "Explain the architecture of BigQuery."}
]
)
print(response.choices[0].message.content)
De réir réamhshocraithe, úsáideann an cliant an réigiún europe-west4, san Ísiltír. Chun é a athrú, ní gá duit ach é a rith chuig an gconstróir—ag cuimhneamh go mbraitheann na réigiúin atá ar fáil ar an múnla agus gurb é doiciméadú Vertex AI an t-údarás ar an bpointe seo.
client = MistralGCP(region="us-central1")
Leanann sruthú an mheicníocht chéanna a chonaiceamar leis an API díreach: déan iteráil ar an sruth, bain úsáid as chunk.data chun rochtain a fháil ar an ábhar, agus déan tástáil sula ndéanann tú priontáil toisc go dtagann roinnt blúirí isteach folamh.
stream = client.chat.stream(
model="mistral-small-2503",
messages=[
{"role": "user", "content": "List the serverless services of Google Cloud."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
An cás speisialta FIM le Codestral
Tacaíonn Codestral ar Vertex AI le Fill-in-the-Middle (FIM), gné a athraíonn an chaoi a gcuireann tú cur chuige i leith críochnú cóid. In ionad “scríobh feidhm dom” a iarraidh, soláthraíonn tú an tús agus an deireadh, agus táirgeann an múnla an rud atá in easnamh eatarthu. Athraíonn an modh freisin: ní chat.complete() a thuilleadh é ach fim.complete(), le prompt don chuid thuas agus suffix don chuid thíos.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def calculate_average(grades: list[float]) -> float:",
suffix=" return average"
)
print(response.choices[0].message.content)
Sa sampla seo, gineann an múnla corp na feidhme idir an síniú agus an return. Tá a fhios aige go gcaithfidh athróg average a bheith ann ag an deireadh, ós rud é go bhfeictear sa suffix é: treoraíonn an srian i bhfad níos fearr é ná treoir teanga nádúrtha. Is é seo díreach a tharlaíonn nuair a chríochnaíonn IDE feidhm i lár comhaid, rud a fhágann go bhfuil FIM thar a bheith éifeachtach le haghaidh críochnú in eagarthóir, ag líonadh blocanna cóid atá in easnamh, agus ag giniúint cóid a chaithfidh oiriúnú do struchtúr atá ann cheana.
An cliant Vertex i TypeScript
I JavaScript agus TypeScript, foilsítear an cliant Google Cloud i bpacáiste ar leith, @mistralai/mistralai-gcp (npm add @mistralai/mistralai-gcp), agus tugtar MistralGCP air ó leagan SDK 2.0 (tugadh MistralGoogleCloud air roimhe seo). Dearbhaítear an réigiún agus an t-Aitheantas Tionscadail ag an am tógála, agus arís, ní fheictear aon eochair sa chód.
import { MistralGCP } from '@mistralai/mistralai-gcp';
const client = new MistralGCP({
region: 'europe-west4',
projectId: process.env.GOOGLE_PROJECT_ID,
});
const response = await client.chat.complete({
model: 'mistral-small-2503',
messages: [
{ role: 'user', content: 'How to optimize a BigQuery query?' },
],
});
console.log(response.choices?.[0]?.message?.content);
Foinsí: TypeScript SDK
@mistralai/mistralai-gcp· Nótaí scaoilte TypeScript SDK 2.0.0
Dul i mbun táirgeachta i gceart
Tá fíordheimhniú úsáideora trí gcloud auth application-default login foirfe don fhorbairt, ach ceanglaíonn sé do ghlaonna le duine: an lá a fhágann an duine sin an fhoireann, briseann an tseirbhís. Sa táirgeadh, bain úsáid as cuntais seirbhíse, a bhfuil a gcearta sainráite agus iniúchta. Coinnigh europe-west4 mar an réigiún réamhshocraithe má tá comhlíonadh Eorpach mar chuid de do shrianta. Cumasaigh Cloud Logging chun do ghlaonna a rianú agus earráidí a dhiagnóisiú, agus cumraigh buiséid Cloud Billing: ar ardán ina mbilleáiltear inferacht de réir úsáide, is é foláireamh buiséid do chosaint amháin i gcoinne lúba rite as smacht.
Príomhphointí
- Úsáideann an cliant
MistralGCPfíordheimhniú dúchasach Google Cloud (gcloud auth) - Is é
europe-west4an réigiún réamhshocraithe — inathraithe ag an am tosaigh - Tacaíonn Codestral ar Vertex le FIM (Fill-in-the-Middle) le haghaidh críochnú cóid
- Ní gá aon eochair API Mistral: téann an fíordheimhniú trí IAM Google Cloud
- Cumasaigh gach múnla sa Ghairdín Múnlaí sula n-úsáideann tú é