Google Vertex AI
Tällä sivulla
Päivitetty 2. marraskuuta 2026 — Google Cloud. Google ryhmittää nykyään tekoälytarjontansa Gemini Enterprise Agent Platform -alustan (“Agent Platform”) alle; Model Garden pysyy osana tätä ekosysteemiä. Käytettävissä olevat Mistral-mallit ovat Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) ja Mistral Small 3.1 (mistral-small-2503). Mistral SDK:n versiosta 2 eteenpäin tuo asiakasohjelma sisään komennollafrom mistralai.gcp.client import MistralGCPja asenna se komennollapip install "mistralai[gcp]". Lähteet: Mistral AI -mallit (Google Cloud) · Vertex AI (Mistral).
Mistral Google Cloudissa
Google Cloud Vertex AI integroi Mistral-mallit yhtenäiseen koneoppimisalustaansa. Käyttö vaatii erillisen asiakasohjelman, MistralGCP. Sen tärkein eroavaisuus liittyy tunnistautumiseen: sinun ei tarvitse hallita Mistral API -avainta, koska asiakasohjelma luottaa koneellesi tai palvelullesi jo määritettyihin Google Cloud -tunnisteisiin. Tämä oppitunti kattaa määritykset, Python-koodin ja ominaisuuden, jota Vertex AI korostaa eniten: Fill-in-the-Middle (FIM) Codestralilla.
Vertex AI:ssa saatavilla olevat mallit
Vertex AI tarjoaa pääsyn useisiin malleihin; koska luettelo kehittyy jatkuvasti, tarkista virallinen sivu ajantasaisen listan saamiseksi. Mistral Medium 3 (mistral-medium-3) toimii suorituskykyisenä yleismallina, joka on oletusvalintasi tekstin tuottamiseen tai analysointiin. Codestral 2 (25.08) (codestral-2) on erikoistunut koodiin ja tukee FIM-toimintoa, jota käsitellään tarkemmin myöhemmin tässä oppitunnissa. Mistral OCR (25.05) (mistral-ocr-2505) hoitaa optisen merkkien tunnistuksen, tyypillisesti tekstin erottamiseksi skannattujen laskujen eristä ennen niiden siirtämistä toiselle mallille. Lopuksi Mistral Small 3.1 (25.03) (mistral-small-2503) on kevyt ja nopea, mikä tekee siitä ihanteellisen suurten volyymien käsittelyyn tilanteissa, joissa viive on tärkeämpää kuin vastauksen hienosäätö.
Edellytykset
Määritä Google Cloud -konfiguraatiosi ennen kuin kirjoitat riviäkään Python-koodia. Tarvitset Google Cloud -projektin, jossa Vertex AI API on otettu käyttöön, gcloud CLI:n asennettuna ja määritettynä sekä kaksi IAM-roolia, jotka on myönnetty palvelutilillesi:
Vertex AI User— mallien kutsumiseenConsumer Procurement Entitlement Manager— Mistral-mallien käyttöönottoon
Toinen rooli on se, joka puuttuu yhdeksässä tapauksessa kymmenestä: ilman sitä mallin aktivointi epäonnistuu, vaikka puhelusi näyttäisivät olevan oikein tunnistautuneita.
# Asenna gcloud CLI
curl https://sdk.cloud.google.com | bash
# Kirjaudu sisään
gcloud auth application-default login
# Määritä projekti
gcloud config set project mon-projet-gcp
Jäljellä on yksi vaihe, jota et voi suorittaa komentoriviltä: sinun on aktivoitava Mistral-mallit Vertex AI Model Gardenissa ennen niiden käyttöä. Siirry Vertex AI -portaaliin, avaa Model Garden, etsi Mistral ja ota haluamasi mallit käyttöön.
MistralGCP-asiakasohjelma
Asennus vaatii gcp-lisäosan, joka sisältää Google-tunnistautumisriippuvuudet.
pip install mistralai[gcp]
Alustus ei vaadi argumentteja vakiotilanteessa:
from mistralai.gcp.client import MistralGCP
# Automaattinen tunnistautuminen google.auth.default()-funktiolla
client = MistralGCP()
Asiakasohjelma käyttää Google Cloudin sovellusten oletustunnisteita (ADC). Jos olet suorittanut komennon gcloud auth application-default login tai jos koodisi suoritetaan koneella, jossa on palvelutili, lisämäärityksiä ei tarvita. Oletusarvoinen alue on europe-west4; voit pakottaa käyttämään jotain muuta. Valitse alue käyttäjiesi sijainnin perusteella, sillä jokainen millisekunti verkon yli kuluvaa aikaa lisää tuottoaikaa.
client = MistralGCP(region="us-central1")
Chat-täydennykset
Itse puhelu ei sisällä yllätyksiä: toisin kuin Azuressa, model-parametri käyttää tässä mallin todellista nimeä.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "You are a cloud architecture expert."},
{"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM Codestralilla
Fill-in-the-Middle on Codestralille ainutlaatuinen ominaisuus. Tekstin jatkamisen sijaan malli täyttää aukon alun (joka välitetään parametrissa prompt) ja lopun (joka välitetään parametrissa suffix) välissä. Tämä ero on ratkaiseva IDE-työkalujen automaattiselle täydennykselle, jossa kohdistin sijaitsee lähes aina tiedoston keskellä: malli näkee, mitä seuraa, ja voi siksi kirjoittaa funktiorungon, joka on johdonmukainen tulevan return-lauseen kanssa, tai täydentää puuttuvan lohkon olemassa olevaan koodiin.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Tuottaa funktiorungon kehotteen ja päätteen väliin
Esimerkki saa vielä enemmän merkitystä todellisen luokan kanssa. Tässä malli vastaanottaa koko otsikon, jo määritellyt attribuutit ja seuraavan disconnect()-metodin; sen on tuotettava connect()-metodin runko, joka on johdonmukainen tämän ympäristön kanssa.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
Tuotettu koodi käyttää uudelleen arvoja self.host, self.port ja self.database sekä määrittää arvon self.connection — jotain, mitä tavallinen täydennys, joka on sokea tiedoston loppuosalle, ei olisi syytä tehdä.
Streamaus Vertex AI:ssa
Streamaus toimii kuten muuallakin iteroiden palautettuja osia.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Erot suoraan Mistral API:hun verrattuna
| Näkökohta | Mistral API | Vertex AI |
|---|---|---|
| Asiakasohjelma | Mistral() | MistralGCP() |
| Tunnistautuminen | API-avain | Google ADC |
| Alue | Automaattinen | Määritettävissä |
| FIM | Kyllä | Kyllä (Codestral) |
| Laskutus | Mistral | Google Cloud |
Keskeiset asiat
MistralGCP-asiakasohjelma käyttää natiivia Google Cloud -tunnistautumista (ei Mistral API -avainta)- Oletusalue on
europe-west4— sovita se käyttötapaustasi vastaavaksi - Codestral Vertex AI:ssa tukee FIM-toimintoa koodin automaattiseen täydennykseen
- Ota mallit käyttöön Model Gardenissa ennen niiden käyttämistä
- Vertex-tunnisteet ovat versioituja (
codestral-2,mistral-medium-3) ja kehittyvät jokaisen sukupolven myötä: varmista tarkka arvo Model Gardenista ennen käyttöönoton kytkemistä - Laskutus kulkee Google Cloud -tilisi kautta, ei Mistralin kautta