Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Google Vertex AI

Lezzjoni 7 / 14 Aġġornat 2 ta’ Novembru 2026 Avvanzat
F'din il-paġna
  1. Mistral fuq Google Cloud
  2. Mudelli Disponibbli fuq Vertex AI
  3. Prerekwiżiti
  4. Il-Klijent MistralGCP
  5. Chat Completions
  6. FIM ma’ Codestral
  7. Streaming fuq Vertex AI
  8. Differenzi mill-API Diretta ta’ Mistral
  9. Punti Ewlenin

Aġġornat fit-2 ta’ Novembru, 2026 — Google Cloud. Issa Google tiġbor l-offerti tal-AI tagħha taħt il-Gemini Enterprise Agent Platform (“Agent Platform”); il-Model Garden jibqa’ parti minn dan l-ekosistema. Il-mudelli Mistral disponibbli jinkludu Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505), u Mistral Small 3.1 (mistral-small-2503). Bil-Mistral SDK v2 u verżjonijiet sussegwenti, importja l-klijent permezz ta’ from mistralai.gcp.client import MistralGCP u installah b’pip install "mistralai[gcp]". Sorsi: Mistral AI models (Google Cloud) · Vertex AI (Mistral).

Mistral fuq Google Cloud

Google Cloud Vertex AI jintegra l-mudelli Mistral fil-pjattaforma ML unifikata tiegħu. L-aċċess jeħtieġ klijent iddedikat, MistralGCP. Id-distinzjoni ewlenija tiegħu tinsab fl-awtentikazzjoni: inti ma timmaniġġjax ċavetta API ta’ Mistral għax il-klijent jiddependi fuq il-kredenzjali ta’ Google Cloud diġà kkonfigurati fuq il-magna jew is-servizz tiegħek. Din il-lezzjoni tkopri l-konfigurazzjoni, il-kodiċi Python, u l-karatteristika li Vertex AI jenfasizza l-aktar: Fill-in-the-Middle (FIM) ma’ Codestral.

Mudelli Disponibbli fuq Vertex AI

Vertex AI jipprovdi aċċess għal diversi mudelli; peress li l-katalogu jevolvi regolarment, iċċekkja l-paġna uffiċjali għall-lista attwali. Mistral Medium 3 (mistral-medium-3) jservi bħala l-mudell ġeneralista ta’ prestazzjoni għolja, l-għażla predefinita tiegħek għall-ġenerazzjoni jew l-analiżi tat-test. Codestral 2 (25.08) (codestral-2) huwa speċjalizzat fil-kodiċi u jappoġġja FIM, iddettaljat aktar tard f’din il-lezzjoni. Mistral OCR (25.05) (mistral-ocr-2505) jittratta r-rikonoxximent ottiku tal-karattri, tipikament biex testraġi test minn lotti ta’ fatturi skanjati qabel ma jgħaddihom lil mudell ieħor. Fl-aħħar nett, Mistral Small 3.1 (25.03) (mistral-small-2503) huwa ħafif u veloċi, u jagħmluh ideali għall-ipproċessar ta’ volum għoli fejn il-latenza hija aktar importanti min-nuwans tar-rispons.

Prerekwiżiti

Ikkonfigura l-konfigurazzjoni ta’ Google Cloud tiegħek qabel ma tikteb linja waħda ta’ Python. Għandek bżonn proġett ta’ Google Cloud bl-API Vertex AI attivata, il-CLI gcloud installata u kkonfigurata, u żewġ rwoli IAM assenjati lill-kont tas-servizz tiegħek:

  • Vertex AI User — biex isejjaħ il-mudelli
  • Consumer Procurement Entitlement Manager — biex tattivaw il-mudelli Mistral

It-tieni rwol huwa dak li jonqos disa’ drabi minn għaxra: mingħajru, l-attivazzjoni tal-mudell tfalli anke jekk is-sejħiet tiegħek jidhru awtentikati b’mod korrett.

# Installa l-CLI gcloud
curl https://sdk.cloud.google.com | bash

# Iddħol
gcloud auth application-default login

# Ikkonfigura l-proġett
gcloud config set project mon-projet-gcp

Jifdal pass wieħed li ma tistax twettaq permezz tal-linja tal-kmand: trid tattivaw il-mudelli Mistral fil-Vertex AI Model Garden qabel ma tużahom. Mur fil-portal ta’ Vertex AI, ftaħ Model Garden, fittex Mistral, u attiva l-mudelli mixtieqa.

Il-Klijent MistralGCP

L-installazzjoni teħtieġ l-extra gcp, li jinkludi d-dipendenzi tal-awtentikazzjoni ta’ Google.

pip install mistralai[gcp]

L-inizjalizzazzjoni ma tieħu l-ebda argument fil-każ standard:

from mistralai.gcp.client import MistralGCP

# Awtentikazzjoni awtomatika permezz ta' google.auth.default()
client = MistralGCP()

Il-klijent juża l-Kredenzjali Predefiniti tal-Applikazzjoni (ADC) ta’ Google Cloud. Jekk tkun ħdimt gcloud auth application-default login, jew jekk il-kodiċi tiegħek ikun qed jaħdem fuq magna b’kont tas-servizz, m’hemmx bżonn ta’ konfigurazzjoni addizzjonali. B’mod predefinit, ir-reġjun magħżul huwa europe-west4; tista’ timponi wieħed differenti. Agħżel ibbażat fuq il-post tal-utenti tiegħek, peress li kull millisekonda ta’ vvjaġġar fin-netwerk tiżdied mal-ħin tal-ġenerazzjoni.

client = MistralGCP(region="us-central1")

Chat Completions

Is-sejħa nnifisha ma fiha l-ebda sorpriża: kuntrarjament għal Azure, il-parametru model hawnhekk juża l-isem attwali tal-mudell.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "You are a cloud architecture expert."},
        {"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM ma’ Codestral

Fill-in-the-Middle hija kapaċità unika għal Codestral. Minflok ma jkompli t-test, il-mudell jimla lakuna bejn bidu (mgħoddi f’prompt) u tmiem (mgħoddi f’suffix). Din id-differenza hija deċiżiva għall-awtokompletament tal-IDE, fejn il-kursur kważi dejjem ikun fin-nofs ta’ fajl: il-mudell jara x’jiġi wara u għalhekk jista’ jikteb korp ta’ funzjoni konsistenti mad-dikjarazzjoni return li jmiss, jew jikkompleta blokka nieqsa f’kodiċi eżistenti.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Jiġġenera l-korp tal-funzjoni bejn il-prompt u s-suffix

L-eżempju jagħmel sens akbar b’klassi reali. Hawnhekk, il-mudell jirċievi l-intestatura sħiħa, l-attributi diġà definiti, u l-metodu disconnect() li jmiss; irid jipproduċi l-korp ta’ connect() konsistenti ma’ dan l-ambjent.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

Il-kodiċi ġġenerat jerġa’ juża self.host, self.port, u self.database, u jassenja self.connection—xi ħaġa li l-kompletament standard, għami għall-bqija tal-fajl, ma kienx ikollu raġuni biex jagħmel.

Streaming fuq Vertex AI

Ix-xogħol ta’ streaming jaħdem bħal kullimkien ieħor, billi tgħaddi mill-biċċiet (chunks) ritornati.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Differenzi mill-API Diretta ta’ Mistral

AspettMistral APIVertex AI
KlijentMistral()MistralGCP()
AwtentikazzjoniĊavetta APIGoogle ADC
ReġjunAwtomatikuKonfigurabbli
FIMIvaIva (Codestral)
FatturazzjoniMistralGoogle Cloud

Punti Ewlenin

  • Il-klijent MistralGCP juża awtentikazzjoni nativa ta’ Google Cloud (l-ebda ċavetta API ta’ Mistral)
  • Ir-reġjun predefinit huwa europe-west4—adattah għall-każ ta’ użu tiegħek
  • Codestral fuq Vertex AI jappoġġja FIM għall-awtokompletament tal-kodiċi
  • Attiva l-mudelli fil-Model Garden qabel ma tużahom
  • L-identifikaturi ta’ Vertex huma b’verżjoni (codestral-2, mistral-medium-3) u jevolvu ma’ kull ġenerazzjoni: ivverifika l-valur eżatt fil-Model Garden qabel ma twaqqal dispjegament
  • Il-fatturazzjoni tgħaddi mill-kont ta’ Google Cloud tiegħek, mhux minn Mistral