Google Vertex AI
F'din il-paġna
Aġġornat fit-2 ta’ Novembru, 2026 — Google Cloud. Issa Google tiġbor l-offerti tal-AI tagħha taħt il-Gemini Enterprise Agent Platform (“Agent Platform”); il-Model Garden jibqa’ parti minn dan l-ekosistema. Il-mudelli Mistral disponibbli jinkludu Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505), u Mistral Small 3.1 (mistral-small-2503). Bil-Mistral SDK v2 u verżjonijiet sussegwenti, importja l-klijent permezz ta’from mistralai.gcp.client import MistralGCPu installah b’pip install "mistralai[gcp]". Sorsi: Mistral AI models (Google Cloud) · Vertex AI (Mistral).
Mistral fuq Google Cloud
Google Cloud Vertex AI jintegra l-mudelli Mistral fil-pjattaforma ML unifikata tiegħu. L-aċċess jeħtieġ klijent iddedikat, MistralGCP. Id-distinzjoni ewlenija tiegħu tinsab fl-awtentikazzjoni: inti ma timmaniġġjax ċavetta API ta’ Mistral għax il-klijent jiddependi fuq il-kredenzjali ta’ Google Cloud diġà kkonfigurati fuq il-magna jew is-servizz tiegħek. Din il-lezzjoni tkopri l-konfigurazzjoni, il-kodiċi Python, u l-karatteristika li Vertex AI jenfasizza l-aktar: Fill-in-the-Middle (FIM) ma’ Codestral.
Mudelli Disponibbli fuq Vertex AI
Vertex AI jipprovdi aċċess għal diversi mudelli; peress li l-katalogu jevolvi regolarment, iċċekkja l-paġna uffiċjali għall-lista attwali. Mistral Medium 3 (mistral-medium-3) jservi bħala l-mudell ġeneralista ta’ prestazzjoni għolja, l-għażla predefinita tiegħek għall-ġenerazzjoni jew l-analiżi tat-test. Codestral 2 (25.08) (codestral-2) huwa speċjalizzat fil-kodiċi u jappoġġja FIM, iddettaljat aktar tard f’din il-lezzjoni. Mistral OCR (25.05) (mistral-ocr-2505) jittratta r-rikonoxximent ottiku tal-karattri, tipikament biex testraġi test minn lotti ta’ fatturi skanjati qabel ma jgħaddihom lil mudell ieħor. Fl-aħħar nett, Mistral Small 3.1 (25.03) (mistral-small-2503) huwa ħafif u veloċi, u jagħmluh ideali għall-ipproċessar ta’ volum għoli fejn il-latenza hija aktar importanti min-nuwans tar-rispons.
Prerekwiżiti
Ikkonfigura l-konfigurazzjoni ta’ Google Cloud tiegħek qabel ma tikteb linja waħda ta’ Python. Għandek bżonn proġett ta’ Google Cloud bl-API Vertex AI attivata, il-CLI gcloud installata u kkonfigurata, u żewġ rwoli IAM assenjati lill-kont tas-servizz tiegħek:
Vertex AI User— biex isejjaħ il-mudelliConsumer Procurement Entitlement Manager— biex tattivaw il-mudelli Mistral
It-tieni rwol huwa dak li jonqos disa’ drabi minn għaxra: mingħajru, l-attivazzjoni tal-mudell tfalli anke jekk is-sejħiet tiegħek jidhru awtentikati b’mod korrett.
# Installa l-CLI gcloud
curl https://sdk.cloud.google.com | bash
# Iddħol
gcloud auth application-default login
# Ikkonfigura l-proġett
gcloud config set project mon-projet-gcp
Jifdal pass wieħed li ma tistax twettaq permezz tal-linja tal-kmand: trid tattivaw il-mudelli Mistral fil-Vertex AI Model Garden qabel ma tużahom. Mur fil-portal ta’ Vertex AI, ftaħ Model Garden, fittex Mistral, u attiva l-mudelli mixtieqa.
Il-Klijent MistralGCP
L-installazzjoni teħtieġ l-extra gcp, li jinkludi d-dipendenzi tal-awtentikazzjoni ta’ Google.
pip install mistralai[gcp]
L-inizjalizzazzjoni ma tieħu l-ebda argument fil-każ standard:
from mistralai.gcp.client import MistralGCP
# Awtentikazzjoni awtomatika permezz ta' google.auth.default()
client = MistralGCP()
Il-klijent juża l-Kredenzjali Predefiniti tal-Applikazzjoni (ADC) ta’ Google Cloud. Jekk tkun ħdimt gcloud auth application-default login, jew jekk il-kodiċi tiegħek ikun qed jaħdem fuq magna b’kont tas-servizz, m’hemmx bżonn ta’ konfigurazzjoni addizzjonali. B’mod predefinit, ir-reġjun magħżul huwa europe-west4; tista’ timponi wieħed differenti. Agħżel ibbażat fuq il-post tal-utenti tiegħek, peress li kull millisekonda ta’ vvjaġġar fin-netwerk tiżdied mal-ħin tal-ġenerazzjoni.
client = MistralGCP(region="us-central1")
Chat Completions
Is-sejħa nnifisha ma fiha l-ebda sorpriża: kuntrarjament għal Azure, il-parametru model hawnhekk juża l-isem attwali tal-mudell.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "You are a cloud architecture expert."},
{"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM ma’ Codestral
Fill-in-the-Middle hija kapaċità unika għal Codestral. Minflok ma jkompli t-test, il-mudell jimla lakuna bejn bidu (mgħoddi f’prompt) u tmiem (mgħoddi f’suffix). Din id-differenza hija deċiżiva għall-awtokompletament tal-IDE, fejn il-kursur kważi dejjem ikun fin-nofs ta’ fajl: il-mudell jara x’jiġi wara u għalhekk jista’ jikteb korp ta’ funzjoni konsistenti mad-dikjarazzjoni return li jmiss, jew jikkompleta blokka nieqsa f’kodiċi eżistenti.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Jiġġenera l-korp tal-funzjoni bejn il-prompt u s-suffix
L-eżempju jagħmel sens akbar b’klassi reali. Hawnhekk, il-mudell jirċievi l-intestatura sħiħa, l-attributi diġà definiti, u l-metodu disconnect() li jmiss; irid jipproduċi l-korp ta’ connect() konsistenti ma’ dan l-ambjent.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
Il-kodiċi ġġenerat jerġa’ juża self.host, self.port, u self.database, u jassenja self.connection—xi ħaġa li l-kompletament standard, għami għall-bqija tal-fajl, ma kienx ikollu raġuni biex jagħmel.
Streaming fuq Vertex AI
Ix-xogħol ta’ streaming jaħdem bħal kullimkien ieħor, billi tgħaddi mill-biċċiet (chunks) ritornati.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Differenzi mill-API Diretta ta’ Mistral
| Aspett | Mistral API | Vertex AI |
|---|---|---|
| Klijent | Mistral() | MistralGCP() |
| Awtentikazzjoni | Ċavetta API | Google ADC |
| Reġjun | Awtomatiku | Konfigurabbli |
| FIM | Iva | Iva (Codestral) |
| Fatturazzjoni | Mistral | Google Cloud |
Punti Ewlenin
- Il-klijent
MistralGCPjuża awtentikazzjoni nativa ta’ Google Cloud (l-ebda ċavetta API ta’ Mistral) - Ir-reġjun predefinit huwa
europe-west4—adattah għall-każ ta’ użu tiegħek - Codestral fuq Vertex AI jappoġġja FIM għall-awtokompletament tal-kodiċi
- Attiva l-mudelli fil-Model Garden qabel ma tużahom
- L-identifikaturi ta’ Vertex huma b’verżjoni (
codestral-2,mistral-medium-3) u jevolvu ma’ kull ġenerazzjoni: ivverifika l-valur eżatt fil-Model Garden qabel ma twaqqal dispjegament - Il-fatturazzjoni tgħaddi mill-kont ta’ Google Cloud tiegħek, mhux minn Mistral