Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Google Vertex AI

Oppitunti 7 / 14 Päivitetty 2. marraskuuta 2026 Edistynyt
Tällä sivulla
  1. Mistral Google Cloudissa
  2. Vertex AI:ssa saatavilla olevat mallit
  3. Edellytykset
  4. MistralGCP-asiakasohjelma
  5. Chat-täydennykset
  6. FIM Codestralilla
  7. Streamaus Vertex AI:ssa
  8. Erot suoraan Mistral API:hun verrattuna
  9. Keskeiset asiat

Päivitetty 2. marraskuuta 2026 — Google Cloud. Google ryhmittää nykyään tekoälytarjontansa Gemini Enterprise Agent Platform -alustan (“Agent Platform”) alle; Model Garden pysyy osana tätä ekosysteemiä. Käytettävissä olevat Mistral-mallit ovat Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) ja Mistral Small 3.1 (mistral-small-2503). Mistral SDK:n versiosta 2 eteenpäin tuo asiakasohjelma sisään komennolla from mistralai.gcp.client import MistralGCP ja asenna se komennolla pip install "mistralai[gcp]". Lähteet: Mistral AI -mallit (Google Cloud) · Vertex AI (Mistral).

Mistral Google Cloudissa

Google Cloud Vertex AI integroi Mistral-mallit yhtenäiseen koneoppimisalustaansa. Käyttö vaatii erillisen asiakasohjelman, MistralGCP. Sen tärkein eroavaisuus liittyy tunnistautumiseen: sinun ei tarvitse hallita Mistral API -avainta, koska asiakasohjelma luottaa koneellesi tai palvelullesi jo määritettyihin Google Cloud -tunnisteisiin. Tämä oppitunti kattaa määritykset, Python-koodin ja ominaisuuden, jota Vertex AI korostaa eniten: Fill-in-the-Middle (FIM) Codestralilla.

Vertex AI:ssa saatavilla olevat mallit

Vertex AI tarjoaa pääsyn useisiin malleihin; koska luettelo kehittyy jatkuvasti, tarkista virallinen sivu ajantasaisen listan saamiseksi. Mistral Medium 3 (mistral-medium-3) toimii suorituskykyisenä yleismallina, joka on oletusvalintasi tekstin tuottamiseen tai analysointiin. Codestral 2 (25.08) (codestral-2) on erikoistunut koodiin ja tukee FIM-toimintoa, jota käsitellään tarkemmin myöhemmin tässä oppitunnissa. Mistral OCR (25.05) (mistral-ocr-2505) hoitaa optisen merkkien tunnistuksen, tyypillisesti tekstin erottamiseksi skannattujen laskujen eristä ennen niiden siirtämistä toiselle mallille. Lopuksi Mistral Small 3.1 (25.03) (mistral-small-2503) on kevyt ja nopea, mikä tekee siitä ihanteellisen suurten volyymien käsittelyyn tilanteissa, joissa viive on tärkeämpää kuin vastauksen hienosäätö.

Edellytykset

Määritä Google Cloud -konfiguraatiosi ennen kuin kirjoitat riviäkään Python-koodia. Tarvitset Google Cloud -projektin, jossa Vertex AI API on otettu käyttöön, gcloud CLI:n asennettuna ja määritettynä sekä kaksi IAM-roolia, jotka on myönnetty palvelutilillesi:

  • Vertex AI User — mallien kutsumiseen
  • Consumer Procurement Entitlement Manager — Mistral-mallien käyttöönottoon

Toinen rooli on se, joka puuttuu yhdeksässä tapauksessa kymmenestä: ilman sitä mallin aktivointi epäonnistuu, vaikka puhelusi näyttäisivät olevan oikein tunnistautuneita.

# Asenna gcloud CLI
curl https://sdk.cloud.google.com | bash

# Kirjaudu sisään
gcloud auth application-default login

# Määritä projekti
gcloud config set project mon-projet-gcp

Jäljellä on yksi vaihe, jota et voi suorittaa komentoriviltä: sinun on aktivoitava Mistral-mallit Vertex AI Model Gardenissa ennen niiden käyttöä. Siirry Vertex AI -portaaliin, avaa Model Garden, etsi Mistral ja ota haluamasi mallit käyttöön.

MistralGCP-asiakasohjelma

Asennus vaatii gcp-lisäosan, joka sisältää Google-tunnistautumisriippuvuudet.

pip install mistralai[gcp]

Alustus ei vaadi argumentteja vakiotilanteessa:

from mistralai.gcp.client import MistralGCP

# Automaattinen tunnistautuminen google.auth.default()-funktiolla
client = MistralGCP()

Asiakasohjelma käyttää Google Cloudin sovellusten oletustunnisteita (ADC). Jos olet suorittanut komennon gcloud auth application-default login tai jos koodisi suoritetaan koneella, jossa on palvelutili, lisämäärityksiä ei tarvita. Oletusarvoinen alue on europe-west4; voit pakottaa käyttämään jotain muuta. Valitse alue käyttäjiesi sijainnin perusteella, sillä jokainen millisekunti verkon yli kuluvaa aikaa lisää tuottoaikaa.

client = MistralGCP(region="us-central1")

Chat-täydennykset

Itse puhelu ei sisällä yllätyksiä: toisin kuin Azuressa, model-parametri käyttää tässä mallin todellista nimeä.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "You are a cloud architecture expert."},
        {"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM Codestralilla

Fill-in-the-Middle on Codestralille ainutlaatuinen ominaisuus. Tekstin jatkamisen sijaan malli täyttää aukon alun (joka välitetään parametrissa prompt) ja lopun (joka välitetään parametrissa suffix) välissä. Tämä ero on ratkaiseva IDE-työkalujen automaattiselle täydennykselle, jossa kohdistin sijaitsee lähes aina tiedoston keskellä: malli näkee, mitä seuraa, ja voi siksi kirjoittaa funktiorungon, joka on johdonmukainen tulevan return-lauseen kanssa, tai täydentää puuttuvan lohkon olemassa olevaan koodiin.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Tuottaa funktiorungon kehotteen ja päätteen väliin

Esimerkki saa vielä enemmän merkitystä todellisen luokan kanssa. Tässä malli vastaanottaa koko otsikon, jo määritellyt attribuutit ja seuraavan disconnect()-metodin; sen on tuotettava connect()-metodin runko, joka on johdonmukainen tämän ympäristön kanssa.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

Tuotettu koodi käyttää uudelleen arvoja self.host, self.port ja self.database sekä määrittää arvon self.connection — jotain, mitä tavallinen täydennys, joka on sokea tiedoston loppuosalle, ei olisi syytä tehdä.

Streamaus Vertex AI:ssa

Streamaus toimii kuten muuallakin iteroiden palautettuja osia.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Erot suoraan Mistral API:hun verrattuna

NäkökohtaMistral APIVertex AI
AsiakasohjelmaMistral()MistralGCP()
TunnistautuminenAPI-avainGoogle ADC
AlueAutomaattinenMääritettävissä
FIMKylläKyllä (Codestral)
LaskutusMistralGoogle Cloud

Keskeiset asiat

  • MistralGCP-asiakasohjelma käyttää natiivia Google Cloud -tunnistautumista (ei Mistral API -avainta)
  • Oletusalue on europe-west4 — sovita se käyttötapaustasi vastaavaksi
  • Codestral Vertex AI:ssa tukee FIM-toimintoa koodin automaattiseen täydennykseen
  • Ota mallit käyttöön Model Gardenissa ennen niiden käyttämistä
  • Vertex-tunnisteet ovat versioituja (codestral-2, mistral-medium-3) ja kehittyvät jokaisen sukupolven myötä: varmista tarkka arvo Model Gardenista ennen käyttöönoton kytkemistä
  • Laskutus kulkee Google Cloud -tilisi kautta, ei Mistralin kautta