Salt la conținutul principal
Română— Alege o limbă
Meniu

Google Vertex AI

Lecția 7 din 14 Actualizată 2 noiembrie 2026 Avansat
Pe această pagină
  1. Mistral pe Google Cloud
  2. Modele disponibile pe Vertex AI
  3. Condiții prealabile
  4. Clientul MistralGCP
  5. Completări Chat
  6. FIM cu Codestral
  7. Streaming pe Vertex AI
  8. Diferențe față de API-ul direct Mistral
  9. Puncte cheie

Actualizat la 2 noiembrie 2026 — Google Cloud. Google își grupează acum ofertele de IA sub platforma Gemini Enterprise Agent Platform („Agent Platform“); Model Garden rămâne parte a acestui ecosistem. Modelele Mistral disponibile includ Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) și Mistral Small 3.1 (mistral-small-2503). Începând cu Mistral SDK v2 și versiunile ulterioare, importați clientul prin from mistralai.gcp.client import MistralGCP și instalați-l cu pip install "mistralai[gcp]". Surse: Modele Mistral AI (Google Cloud) · Vertex AI (Mistral).

Mistral pe Google Cloud

Google Cloud Vertex AI integrează modelele Mistral în platforma sa unificată de ML. Accesul necesită un client dedicat, MistralGCP. Distincția sa principală rezidă în autentificare: nu gestionați o cheie API Mistral, deoarece clientul se bazează pe credențialele Google Cloud deja configurate pe mașina sau serviciul dumneavoastră. Această lecție acoperă configurarea, codul Python și funcționalitatea pe care Vertex AI o evidențiază cel mai mult: Fill-in-the-Middle (FIM) cu Codestral.

Modele disponibile pe Vertex AI

Vertex AI oferă acces la mai multe modele; deoarece catalogul evoluează regulat, verificați pagina oficială pentru lista actualizată. Mistral Medium 3 (mistral-medium-3) servește drept model generalist de înaltă performanță, alegerea dumneavoastră implicită pentru generarea sau analiza textului. Codestral 2 (25.08) (codestral-2) este specializat în cod și suportă FIM, detaliat mai târziu în această lecție. Mistral OCR (25.05) (mistral-ocr-2505) gestionează recunoașterea optică a caracterelor, utilizată tipic pentru extragerea textului din loturi de facturi scanate înainte de a-l transmite unui alt model. În final, Mistral Small 3.1 (25.03) (mistral-small-2503) este ușor și rapid, fiind ideal pentru procesarea unor volume mari unde latența contează mai mult decât nuanța răspunsului.

Condiții prealabile

Configurați mediul Google Cloud înainte de a scrie prima linie de Python. Aveți nevoie de un proiect Google Cloud cu API-ul Vertex AI activat, CLI-ul gcloud instalat și configurat, precum și de atribuirea a două roluri IAM contului dumneavoastră de serviciu:

  • Vertex AI User — pentru a apela modelele
  • Consumer Procurement Entitlement Manager — pentru a activa modelele Mistral

Al doilea rol este cel care lipsește în nouă cazuri din zece: fără el, activarea modelului eșuează, chiar dacă apelurile dumneavoastră par autentificate corect.

# Instalare gcloud CLI
curl https://sdk.cloud.google.com | bash

# Autentificare
gcloud auth application-default login

# Configurare proiect
gcloud config set project mon-projet-gcp

A mai rămas un pas pe care nu îl puteți efectua prin linia de comandă: trebuie să activați modelele Mistral în Vertex AI Model Garden înainte de a le utiliza. Accesați portalul Vertex AI, deschideți Model Garden, căutați Mistral și activați modelele dorite.

Clientul MistralGCP

Instalarea necesită extra-ul gcp, care include dependențele de autentificare Google.

pip install mistralai[gcp]

Inițializarea nu necesită argumente în cazul standard:

from mistralai.gcp.client import MistralGCP

# Autentificare automată prin google.auth.default()
client = MistralGCP()

Clientul utilizează Credențialele Implicite ale Aplicației Google Cloud (ADC). Dacă ați rulat gcloud auth application-default login sau dacă codul dumneavoastră rulează pe o mașină cu un cont de serviciu, nu este necesară nicio configurare suplimentară. Implicit, regiunea selectată este europe-west4; puteți impune una diferită. Alegeți în funcție de locația utilizatorilor dumneavoastră, deoarece fiecare milisecundă de tranzit în rețea se adaugă timpului de generare.

client = MistralGCP(region="us-central1")

Completări Chat

Apelul în sine nu prezintă surprize: spre deosebire de Azure, parametrul model folosește aici numele real al modelului.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "You are a cloud architecture expert."},
        {"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM cu Codestral

Fill-in-the-Middle este o capacitate unică pentru Codestral. În loc să continue textul, modelul completează un gol între un început (transmis în prompt) și un sfârșit (transmis în suffix). Această diferență este decisivă pentru autocompletarea în IDE, unde cursorul se află aproape întotdeauna la mijlocul unui fișier: modelul vede ceea ce urmează și poate, prin urmare, să scrie un corp de funcție consistent cu instrucțiunea return viitoare sau să completeze un bloc lipsă din codul existent.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Generează corpul funcției între prompt și suffix

Exemplul devine și mai relevant cu o clasă reală. Aici, modelul primește antetul complet, atributele deja definite și metoda disconnect() care urmează; acesta trebuie să producă corpul metodei connect() consistent cu acest mediu.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

Codul generat va reutiliza self.host, self.port și self.database și va atribui self.connection — lucru pe care o completare standard, oarbă la restul fișierului, nu ar avea niciun motiv să îl facă.

Streaming pe Vertex AI

Streaming-ul funcționează ca în alte părți, prin iterarea asupra fragmentelor returnate.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Diferențe față de API-ul direct Mistral

AspectAPI MistralVertex AI
ClientMistral()MistralGCP()
AuthCheie APIGoogle ADC
RegiuneAutomatăConfigurabilă
FIMDaDa (Codestral)
FacturareMistralGoogle Cloud

Puncte cheie

  • Clientul MistralGCP utilizează autentificarea nativă Google Cloud (fără cheie API Mistral)
  • Regiunea implicită este europe-west4 — adaptați-o la cazul dumneavoastră de utilizare
  • Codestral pe Vertex AI suportă FIM pentru autocompletarea codului
  • Activați modelele în Model Garden înainte de a le utiliza
  • Identificatorii Vertex sunt versionați (codestral-2, mistral-medium-3) și evoluează cu fiecare generație: verificați valoarea exactă în Model Garden înainte de a configura o implementare
  • Facturarea se face prin contul dumneavoastră Google Cloud, nu prin Mistral