Mistral στο Google Vertex AI
Σε αυτήν τη σελίδα
Ενημερώθηκε στις 2 Νοεμβρίου 2026 — Google Cloud. Η Google ομαδοποιεί πλέον τις προσφορές τεχνητής νοημοσύνης της κάτω από την πλατφόρμα Gemini Enterprise Agent Platform («Agent Platform»· το Model Garden παραμένει διαθέσιμο εντός αυτής. Τα διαθέσιμα μοντέλα Mistral είναι τα Mistral Medium 3 (
mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) και Mistral Small 3.1 (mistral-small-2503). Με το Mistral SDK v2 και νεότερες εκδόσεις, εισάγετε τον πελάτη μέσωfrom mistralai.gcp.client import MistralGCPκαι εγκαθιστάτε το πακέτο μεpip install "mistralai[gcp]". Πηγές: Μοντέλα Mistral AI (Google Cloud) · Vertex AI (Mistral).
Γιατί το Vertex AI;
Το Google Cloud Vertex AI είναι η πλατφόρμα MLOps της Google και φιλοξενεί μοντέλα συνεργατών, συμπεριλαμβανομένων εκείνων της Mistral. Η λογική εδώ είναι παρόμοια με αυτή του Azure: εάν οι υποδομές σας βασίζονται ήδη στο Google Cloud—BigQuery για δεδομένα, Cloud Run ή GKE για εκτέλεση—η χρήση του Vertex σάς εμποδίζει να εισάγετε έναν ακόμη πάροχο στην αλυσίδα σας.
Το καθοριστικό επιχείρημα εδώ είναι ο έλεγχος ταυτότητας. Δεν χρειάζεται πλέον να διανέμετε, να περιστρέφετε ή να παρακολουθείτε ένα κλειδί API της Mistral: οι υπηρεσίες σας ελέγχουν την ταυτότητά τους χρησιμοποιώντας τον λογαριασμό υπηρεσίας (service account) της Google, ακριβώς όπως κάνουν ήδη για την πρόσβαση σε έναν κάδο ή έναν πίνακα BigQuery. Αυτό προσθέτει επίσης κεντρική χρέωση στον λογαριασμό Cloud Billing σας και πρόσβαση στα εργαλεία MLOps της Google.
Μοντέλα διαθέσιμα στο Vertex AI
Από τον Απρίλιο του 2026, το Vertex AI παρέχει πρόσβαση στα ακόλουθα μοντέλα:
| Μοντέλο | Θέση |
|---|---|
| Mistral Medium | Μοντέλο γενικής χρήσης υψηλής απόδοσης |
| Mistral Small | Γρήγορο και οικονομικό |
| Codestral | Εξειδικευμένο για κώδικα, με υποστήριξη FIM (Fill-in-the-Middle) |
| Mistral OCR | Εξαγωγή περιεχομένου εγγράφων |
Προετοιμάστε το περιβάλλον Google Cloud
Η διαμόρφωση γίνεται μία φορά και καθορίζει τα πάντα:
- Ένα έργο Google Cloud με ενεργοποιημένο το API Vertex AI
- Οι ακόλουθοι ρόλοι IAM ανατεθειμένοι στον λογαριασμό σας:
Vertex AI User— για την επίκληση μοντέλωνConsumer Procurement Entitlement Manager— για την ενεργοποίηση μοντέλων συνεργατών
- Το gcloud CLI εγκατεστημένο και διαμορφωμένο
Ο δεύτερος ρόλος συχνά εκπλήσσει: δεν έχει καμία σχέση με την εξαγωγή συμπερασμάτων (inference)· εξουσιοδοτεί την ενεργοποίηση μοντέλων συνεργατών στον κατάλογο. Χωρίς αυτόν, θα βλέπετε τα μοντέλα Mistral στη διεπαφή αλλά δεν θα μπορείτε ποτέ να τα ενεργοποιήσετε, και το σφάλμα που επιστρέφεται δεν υποδεικνύει σαφώς αυτή την έλλειψη δικαιωμάτων.
# Εγκατάσταση gcloud (αν δεν έχει γίνει ήδη)
# Δείτε https://cloud.google.com/sdk/docs/install
# Έλεγχος ταυτότητας
gcloud auth application-default login
# Ορισμός του προεπιλεγμένου έργου
gcloud config set project your-project-id
Ένα βήμα ξεχνιέται τακτικά: μεταβείτε στην κονσόλα Vertex AI, βρείτε το επιθυμητό μοντέλο Mistral στο Model Garden και κάντε κλικ στο Enable. Αυτή η ενεργοποίηση απαιτείται μόνο μία φορά ανά μοντέλο και ανά έργο. Μια κλήση σε ένα μη ενεργοποιημένο μοντέλο αποτυγχάνει ακόμη και αν οι ρόλοι IAM σας είναι σωστοί—αυτό είναι το πρώτο πράγμα που πρέπει να ελέγξετε όταν αντιμετωπίζετε ένα ανεξήγητο σφάλμα εξουσιοδότησης.
Μια πρώτη κλήση χωρίς κλειδί API
Παρατηρήστε πρώτα τι λείπει στον παρακάτω κώδικα: κανένα κλειδί API, κανένα μυστικό προς φόρτωση. Το Mistral SDK V2 παρέχει έναν αφιερωμένο πελάτη για το Google Cloud, τον MistralGCP, ο οποίος βασίζεται στο google.auth.default(): ανακτά τα διαπιστευτήρια που το gcloud auth application-default login απέθεσε τοπικά, ή τον λογαριασμό υπηρεσίας που είναι προσαρτημένος στη μηχανή σε περιβάλλον παραγωγής.
from mistralai.gcp.client import MistralGCP
# Ο έλεγχος ταυτότητας χρησιμοποιεί το google.auth.default()
# Βεβαιωθείτε ότι έχετε εκτελέσει: gcloud auth application-default login
client = MistralGCP()
response = client.chat.complete(
model="mistral-small-2503",
messages=[
{"role": "user", "content": "Explain the architecture of BigQuery."}
]
)
print(response.choices[0].message.content)
Από προεπιλογή, ο πελάτης χρησιμοποιεί την περιοχή europe-west4, στην Ολλανδία. Για να την αλλάξετε, απλώς περάστε την στον κατασκευαστή—έχοντας υπόψη ότι οι διαθέσιμες περιοχές εξαρτώνται από το μοντέλο και ότι η τεκμηρίωση του Vertex AI είναι η αυθεντική πηγή για αυτό το σημείο.
client = MistralGCP(region="us-central1")
Η ροή δεδομένων (streaming) ακολουθεί τον ίδιο μηχανισμό που είδαμε με το άμεσο API: επαναλάβετε τη ροή, αποκτήστε πρόσβαση στο περιεχόμενο μέσω chunk.data και ελέγξτε πριν την εκτύπωση, καθώς ορισμένα τμήματα φτάνουν κενά.
stream = client.chat.stream(
model="mistral-small-2503",
messages=[
{"role": "user", "content": "List the serverless services of Google Cloud."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Η ειδική περίπτωση του FIM με το Codestral
Το Codestral στο Vertex AI υποστηρίζει το Fill-in-the-Middle (FIM), μια λειτουργία που αλλάζει τον τρόπο με τον οποίο προσεγγίζετε την ολοκλήρωση κώδικα. Αντί να ζητάτε «γράψε μου μια συνάρτηση», παρέχετε την αρχή και το τέλος, και το μοντέλο παράγει αυτό που λείπει μεταξύ των δύο. Η μέθοδος αλλάζει επίσης: δεν είναι πλέον chat.complete() αλλά fim.complete(), με ένα prompt για το αρχικό μέρος και ένα suffix για το τελικό μέρος.
from mistralai.gcp.client import MistralGCP
client = MistralGCP()
response = client.fim.complete(
model="codestral-2",
prompt="def calculate_average(grades: list[float]) -> float:",
suffix=" return average"
)
print(response.choices[0].message.content)
Σε αυτό το παράδειγμα, το μοντέλο δημιουργεί το σώμα της συνάρτησης μεταξύ της υπογραφής και του return. Γνωρίζει ότι μια μεταβλητή average πρέπει να υπάρχει στο τέλος, καθώς εμφανίζεται στο suffix: ο περιορισμός το καθοδηγεί πολύ καλύτερα από μια οδηγία σε φυσική γλώσσα. Αυτό ακριβώς συμβαίνει όταν ένα IDE ολοκληρώνει μια συνάρτηση στη μέση ενός αρχείου, καθιστώντας το FIM ιδιαίτερα αποτελεσματικό για την ολοκλήρωση σε έναν επεξεργαστή, τη συμπλήρωση missing blocks κώδικα και τη δημιουργία κώδικα που πρέπει να ταιριάζει σε μια υπάρχουσα δομή.
Ο πελάτης Vertex σε TypeScript
Στη JavaScript και την TypeScript, ο πελάτης Google Cloud δημοσιεύεται σε ένα ξεχωριστό πακέτο, το @mistralai/mistralai-gcp (npm add @mistralai/mistralai-gcp), και ονομάζεται MistralGCP από την έκδοση 2.0 του SDK (προηγουμένως ονομαζόταν MistralGoogleCloud). Η περιοχή και το αναγνωριστικό έργου δηλώνονται κατά την κατασκευή και, και πάλι, κανένα κλειδί δεν εμφανίζεται στον κώδικα.
import { MistralGCP } from '@mistralai/mistralai-gcp';
const client = new MistralGCP({
region: 'europe-west4',
projectId: process.env.GOOGLE_PROJECT_ID,
});
const response = await client.chat.complete({
model: 'mistral-small-2503',
messages: [
{ role: 'user', content: 'How to optimize a BigQuery query?' },
],
});
console.log(response.choices?.[0]?.message?.content);
Πηγές: TypeScript SDK
@mistralai/mistralai-gcp· Σημειώσεις έκδοσης TypeScript SDK 2.0.0
Μετάβαση στην παραγωγή σωστά
Ο έλεγχος ταυτότητας χρήστη μέσω gcloud auth application-default login είναι ιδανικός για ανάπτυξη, αλλά συνδέει τις κλήσεις σας με ένα άτομο: την ημέρα που το άτομο αυτό θα αποχωρήσει από την ομάδα, η υπηρεσία θα διακοπεί. Στην παραγωγή, χρησιμοποιήστε λογαριασμούς υπηρεσίας (service accounts), των οποίων τα δικαιώματα είναι ρητά και ελέγξιμα. Διατηρήστε το europe-west4 ως προεπιλεγμένη περιοχή εάν η ευρωπαϊκή συμμόρφωση αποτελεί μέρος των περιορισμών σας. Ενεργοποιήστε το Cloud Logging για να παρακολουθείτε τις κλήσεις σας και να διαγιγνώσκετε σφάλματα, και διαμορφώστε προϋπολογισμούς Cloud Billing: σε μια πλατφόρμα όπου η εξαγωγή συμπερασμάτων χρεώνεται βάσει χρήσης, μια ειδοποίηση προϋπολογισμού είναι η μοναδική σας ασφάλεια έναντι ενός βρόχου που έχει ξεφύγει.
Βασικά σημεία
- Ο πελάτης
MistralGCPχρησιμοποιεί τον εγγενή έλεγχο ταυτότητας του Google Cloud (gcloud auth) - Η προεπιλεγμένη περιοχή είναι
europe-west4— τροποποιήσιμη κατά την αρχικοποίηση - Το Codestral στο Vertex υποστηρίζει FIM (Fill-in-the-Middle) για ολοκλήρωση κώδικα
- Δεν απαιτείται κλειδί API Mistral: ο έλεγχος ταυτότητας γίνεται μέσω του Google Cloud IAM
- Ενεργοποιήστε κάθε μοντέλο στο Model Garden πριν το χρησιμοποιήσετε