Google Vertex AI
Σε αυτήν τη σελίδα
Ενημερώθηκε στις 2 Νοεμβρίου 2026 — Google Cloud. Η Google ομαδοποιεί πλέον τις προσφορές τεχνητής νοημοσύνης της κάτω από την πλατφόρμα Gemini Enterprise Agent Platform («Πλατφόρμα Πρακτόρων»)· το Model Garden παραμένει μέρος αυτού του οικοσυστήματος. Τα διαθέσιμα μοντέλα Mistral περιλαμβάνουν τα Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) και Mistral Small 3.1 (mistral-small-2503). Με το Mistral SDK v2 και νεότερες εκδόσεις, εισάγετε τον πελάτη μέσωfrom mistralai.gcp.client import MistralGCPκαι τον εγκαθιστάτε μεpip install "mistralai[gcp]". Πηγές: Μοντέλα Mistral AI (Google Cloud) · Vertex AI (Mistral).
Το Mistral στο Google Cloud
Το Google Cloud Vertex AI ενσωματώνει τα μοντέλα Mistral στην ενοποιημένη πλατφόρμα μηχανικής μάθησής του. Η πρόσβαση απαιτεί έναν εξειδικευμένο πελάτη, τον MistralGCP. Η βασική του διάκριση έγκειται στον έλεγχο ταυτότητας: δεν διαχειρίζεστε κλειδί API του Mistral, καθώς ο πελάτης βασίζεται στα διαπιστευτήρια του Google Cloud που έχουν ήδη ρυθμιστεί στον υπολογιστή ή την υπηρεσία σας. Αυτό το μάθημα καλύπτει τη διαμόρφωση, κώδικα Python και το χαρακτηριστικό που αναδεικνύει περισσότερο το Vertex AI: τη συμπλήρωση στη μέση (Fill-in-the-Middle - FIM) με το Codestral.
Διαθέσιμα μοντέλα στο Vertex AI
Το Vertex AI παρέχει πρόσβαση σε πολλά μοντέλα· δεδομένου ότι ο κατάλογος εξελίσσεται τακτικά, ελέγξτε την επίσημη σελίδα για την τρέχουσα λίστα. Το Mistral Medium 3 (mistral-medium-3) λειτουργεί ως το μοντέλο γενικής χρήσης υψηλής απόδοσης, η προεπιλεγμένη επιλογή σας για παραγωγή ή ανάλυση κειμένου. Το Codestral 2 (25.08) (codestral-2) ειδικεύεται στον κώδικα και υποστηρίζει FIM, όπως θα αναλυθεί στη συνέχεια αυτού του μαθήματος. Το Mistral OCR (25.05) (mistral-ocr-2505) χειρίζεται την οπτική αναγνώριση χαρακτήρων, συνήθως για την εξαγωγή κειμένου από παρτίδες σαρωμένων τιμολογίων πριν τη διαβίβασή τους σε άλλο μοντέλο. Τέλος, το Mistral Small 3.1 (25.03) (mistral-small-2503) είναι ελαφρύ και γρήγορο, καθιστώντας το ιδανικό για επεξεργασία υψηλού όγκου όπου η καθυστέρηση έχει μεγαλύτερη σημασία από τις αποχρώσεις της απάντησης.
Προαπαιτούμενα
Ρυθμίστε τη διαμόρφωση του Google Cloud πριν γράψετε την πρώτη γραμμή Python. Χρειάζεστε ένα έργο Google Cloud με ενεργοποιημένο το API Vertex AI, το CLI gcloud εγκατεστημένο και διαμορφωμένο, και δύο ρόλους IAM εκχωρημένους στον λογαριασμό υπηρεσίας σας:
Vertex AI User— για κλήση μοντέλωνConsumer Procurement Entitlement Manager— για ενεργοποίηση μοντέλων Mistral
Ο δεύτερος ρόλος είναι αυτός που λείπει εννέα φορές στις δέκα: χωρίς αυτόν, η ενεργοποίηση του μοντέλου αποτυγχάνει, παρόλο που οι κλήσεις σας φαίνονται σωστά πιστοποιημένες.
# Εγκατάσταση gcloud CLI
curl https://sdk.cloud.google.com | bash
# Σύνδεση
gcloud auth application-default login
# Διαμόρφωση του έργου
gcloud config set project mon-projet-gcp
Απομένει ένα βήμα που δεν μπορείτε να εκτελέσετε μέσω γραμμής εντολών: πρέπει να ενεργοποιήσετε τα μοντέλα Mistral στο Vertex AI Model Garden πριν τα χρησιμοποιήσετε. Μεταβείτε στην πύλη Vertex AI, ανοίξτε το Model Garden, αναζητήστε το Mistral και ενεργοποιήστε τα επιθυμητά μοντέλα.
Ο πελάτης MistralGCP
Η εγκατάσταση απαιτεί το πρόσθετο gcp, το οποίο περιλαμβάνει εξαρτήσεις ελέγχου ταυτότητας της Google.
pip install mistralai[gcp]
Η αρχικοποίηση δεν δέχεται ορίσματα στην τυπική περίπτωση:
from mistralai.gcp.client import MistralGCP
# Αυτόματος έλεγχος ταυτότητας μέσω google.auth.default()
client = MistralGCP()
Ο πελάτης χρησιμοποιεί τις Προεπιλεγμένες Διαπιστευτήρια Εφαρμογής (ADC) του Google Cloud. Εάν έχετε εκτελέσει gcloud auth application-default login, ή εάν ο κώδικάς σας εκτελείται σε μηχάνημα με λογαριασμό υπηρεσίας, δεν απαιτείται περαιτέρω διαμόρφωση. Από προεπιλογή, η επιλεγμένη περιοχή είναι europe-west4· μπορείτε να επιβάλετε μια διαφορετική. Επιλέξτε με βάση την τοποθεσία των χρηστών σας, καθώς κάθε χιλιοστό του δευτερολέπτου ταξιδιού στο δίκτυο προστίθεται στον χρόνο παραγωγής.
client = MistralGCP(region="us-central1")
Ολοκληρώσεις Συνομιλίας (Chat Completions)
Η ίδια η κλήση δεν παρουσιάζει εκπλήξεις: σε αντίθεση με το Azure, η παράμετρος model εδώ χρησιμοποιεί το πραγματικό όνομα του μοντέλου.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.chat.complete(
model="mistral-medium-3",
messages=[
{"role": "system", "content": "You are a cloud architecture expert."},
{"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
],
temperature=0.3,
max_tokens=500
)
print(response.choices[0].message.content)
FIM με το Codestral
Η Συμπλήρωση στη Μέση (Fill-in-the-Middle) είναι μια δυνατότητα μοναδική για το Codestral. Αντί να συνεχίζει το κείμενο, το μοντέλο συμπληρώνει ένα κενό μεταξύ μιας αρχής (που περνά στο prompt) και ενός τέλους (που περνά στο suffix). Αυτή η διαφορά είναι καθοριστική για την αυτόματη συμπλήρωση στα IDE, όπου ο δρομέας βρίσκεται σχεδόν πάντα στη μέση ενός αρχείου: το μοντέλο βλέπει τι ακολουθεί και μπορεί επομένως να γράψει ένα σώμα συνάρτησης συνεπές με την επόμενη εντολή return, ή να συμπληρώσει ένα missing block σε υπάρχοντα κώδικα.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def count_words(file_path: str) -> int:",
suffix="return n_words"
)
print(response.choices[0].message.content)
# Παράγει το σώμα της συνάρτησης μεταξύ του prompt και του suffix
Το παράδειγμα αποκτά ακόμη περισσότερο νόημα με μια πραγματική κλάση. Εδώ, το μοντέλο λαμβάνει την πλήρη κεφαλίδα, ήδη ορισμένα χαρακτηριστικά και την ακόλουθη μέθοδο disconnect()· πρέπει να παράγει το σώμα της connect() συνεπές με αυτό το περιβάλλον.
response = client.fim.complete(
model="codestral-2",
prompt="""class DatabaseConnection:
def __init__(self, host: str, port: int, database: str):
self.host = host
self.port = port
self.database = database
self.connection = None
def connect(self):""",
suffix="""
def disconnect(self):
if self.connection:
self.connection.close()
self.connection = None
"""
)
print(response.choices[0].message.content)
Ο παραγόμενος κώδικας θα επαναχρησιμοποιήσει τα self.host, self.port και self.database, και θα αναθέσει τιμή στο self.connection—κάτι που μια τυπική συμπλήρωση, τυφλή ως προς το υπόλοιπο αρχείο, δεν θα είχε λόγο να κάνει.
Ροή δεδομένων (Streaming) στο Vertex AI
Η ροή δεδομένων λειτουργεί όπως αλλού, επαναλαμβάνοντας τα επιστρεφόμενα τμήματα.
stream = client.chat.stream(
model="mistral-medium-3",
messages=[
{"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Διαφορές από το άμεσο API του Mistral
| Πτυχή | Mistral API | Vertex AI |
|---|---|---|
| Πελάτης | Mistral() | MistralGCP() |
| Έλεγχος ταυτότητας | Κλειδί API | Google ADC |
| Περιοχή | Αυτόματη | Διαμορφώσιμη |
| FIM | Ναι | Ναι (Codestral) |
| Χρέωση | Mistral | Google Cloud |
Βασικά σημεία
- Ο πελάτης
MistralGCPχρησιμοποιεί εγγενή έλεγχο ταυτότητας του Google Cloud (χωρίς κλειδί API Mistral) - Η προεπιλεγμένη περιοχή είναι
europe-west4—προσαρμόστε την στη χρήση σας - Το Codestral στο Vertex AI υποστηρίζει FIM για αυτόματη συμπλήρωση κώδικα
- Ενεργοποιήστε τα μοντέλα στο Model Garden πριν τα χρησιμοποιήσετε
- Τα αναγνωριστικά Vertex έχουν έκδοση (
codestral-2,mistral-medium-3) και εξελίσσονται με κάθε γενιά: επαληθεύστε την ακριβή τιμή στο Model Garden πριν συνδέσετε μια ανάπτυξη - Η χρέωση γίνεται μέσω του λογαριασμού Google Cloud σας, όχι της Mistral