Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Google Vertex AI

Μάθημα 7 / 14 Ενημερώθηκε 2 Νοεμβρίου 2026 Προχωρημένος
Σε αυτήν τη σελίδα
  1. Το Mistral στο Google Cloud
  2. Διαθέσιμα μοντέλα στο Vertex AI
  3. Προαπαιτούμενα
  4. Ο πελάτης MistralGCP
  5. Ολοκληρώσεις Συνομιλίας (Chat Completions)
  6. FIM με το Codestral
  7. Ροή δεδομένων (Streaming) στο Vertex AI
  8. Διαφορές από το άμεσο API του Mistral
  9. Βασικά σημεία

Ενημερώθηκε στις 2 Νοεμβρίου 2026 — Google Cloud. Η Google ομαδοποιεί πλέον τις προσφορές τεχνητής νοημοσύνης της κάτω από την πλατφόρμα Gemini Enterprise Agent Platform («Πλατφόρμα Πρακτόρων»)· το Model Garden παραμένει μέρος αυτού του οικοσυστήματος. Τα διαθέσιμα μοντέλα Mistral περιλαμβάνουν τα Mistral Medium 3 (mistral-medium-3), Codestral 2 (codestral-2), Mistral OCR 25.05 (mistral-ocr-2505) και Mistral Small 3.1 (mistral-small-2503). Με το Mistral SDK v2 και νεότερες εκδόσεις, εισάγετε τον πελάτη μέσω from mistralai.gcp.client import MistralGCP και τον εγκαθιστάτε με pip install "mistralai[gcp]". Πηγές: Μοντέλα Mistral AI (Google Cloud) · Vertex AI (Mistral).

Το Mistral στο Google Cloud

Το Google Cloud Vertex AI ενσωματώνει τα μοντέλα Mistral στην ενοποιημένη πλατφόρμα μηχανικής μάθησής του. Η πρόσβαση απαιτεί έναν εξειδικευμένο πελάτη, τον MistralGCP. Η βασική του διάκριση έγκειται στον έλεγχο ταυτότητας: δεν διαχειρίζεστε κλειδί API του Mistral, καθώς ο πελάτης βασίζεται στα διαπιστευτήρια του Google Cloud που έχουν ήδη ρυθμιστεί στον υπολογιστή ή την υπηρεσία σας. Αυτό το μάθημα καλύπτει τη διαμόρφωση, κώδικα Python και το χαρακτηριστικό που αναδεικνύει περισσότερο το Vertex AI: τη συμπλήρωση στη μέση (Fill-in-the-Middle - FIM) με το Codestral.

Διαθέσιμα μοντέλα στο Vertex AI

Το Vertex AI παρέχει πρόσβαση σε πολλά μοντέλα· δεδομένου ότι ο κατάλογος εξελίσσεται τακτικά, ελέγξτε την επίσημη σελίδα για την τρέχουσα λίστα. Το Mistral Medium 3 (mistral-medium-3) λειτουργεί ως το μοντέλο γενικής χρήσης υψηλής απόδοσης, η προεπιλεγμένη επιλογή σας για παραγωγή ή ανάλυση κειμένου. Το Codestral 2 (25.08) (codestral-2) ειδικεύεται στον κώδικα και υποστηρίζει FIM, όπως θα αναλυθεί στη συνέχεια αυτού του μαθήματος. Το Mistral OCR (25.05) (mistral-ocr-2505) χειρίζεται την οπτική αναγνώριση χαρακτήρων, συνήθως για την εξαγωγή κειμένου από παρτίδες σαρωμένων τιμολογίων πριν τη διαβίβασή τους σε άλλο μοντέλο. Τέλος, το Mistral Small 3.1 (25.03) (mistral-small-2503) είναι ελαφρύ και γρήγορο, καθιστώντας το ιδανικό για επεξεργασία υψηλού όγκου όπου η καθυστέρηση έχει μεγαλύτερη σημασία από τις αποχρώσεις της απάντησης.

Προαπαιτούμενα

Ρυθμίστε τη διαμόρφωση του Google Cloud πριν γράψετε την πρώτη γραμμή Python. Χρειάζεστε ένα έργο Google Cloud με ενεργοποιημένο το API Vertex AI, το CLI gcloud εγκατεστημένο και διαμορφωμένο, και δύο ρόλους IAM εκχωρημένους στον λογαριασμό υπηρεσίας σας:

  • Vertex AI User — για κλήση μοντέλων
  • Consumer Procurement Entitlement Manager — για ενεργοποίηση μοντέλων Mistral

Ο δεύτερος ρόλος είναι αυτός που λείπει εννέα φορές στις δέκα: χωρίς αυτόν, η ενεργοποίηση του μοντέλου αποτυγχάνει, παρόλο που οι κλήσεις σας φαίνονται σωστά πιστοποιημένες.

# Εγκατάσταση gcloud CLI
curl https://sdk.cloud.google.com | bash

# Σύνδεση
gcloud auth application-default login

# Διαμόρφωση του έργου
gcloud config set project mon-projet-gcp

Απομένει ένα βήμα που δεν μπορείτε να εκτελέσετε μέσω γραμμής εντολών: πρέπει να ενεργοποιήσετε τα μοντέλα Mistral στο Vertex AI Model Garden πριν τα χρησιμοποιήσετε. Μεταβείτε στην πύλη Vertex AI, ανοίξτε το Model Garden, αναζητήστε το Mistral και ενεργοποιήστε τα επιθυμητά μοντέλα.

Ο πελάτης MistralGCP

Η εγκατάσταση απαιτεί το πρόσθετο gcp, το οποίο περιλαμβάνει εξαρτήσεις ελέγχου ταυτότητας της Google.

pip install mistralai[gcp]

Η αρχικοποίηση δεν δέχεται ορίσματα στην τυπική περίπτωση:

from mistralai.gcp.client import MistralGCP

# Αυτόματος έλεγχος ταυτότητας μέσω google.auth.default()
client = MistralGCP()

Ο πελάτης χρησιμοποιεί τις Προεπιλεγμένες Διαπιστευτήρια Εφαρμογής (ADC) του Google Cloud. Εάν έχετε εκτελέσει gcloud auth application-default login, ή εάν ο κώδικάς σας εκτελείται σε μηχάνημα με λογαριασμό υπηρεσίας, δεν απαιτείται περαιτέρω διαμόρφωση. Από προεπιλογή, η επιλεγμένη περιοχή είναι europe-west4· μπορείτε να επιβάλετε μια διαφορετική. Επιλέξτε με βάση την τοποθεσία των χρηστών σας, καθώς κάθε χιλιοστό του δευτερολέπτου ταξιδιού στο δίκτυο προστίθεται στον χρόνο παραγωγής.

client = MistralGCP(region="us-central1")

Ολοκληρώσεις Συνομιλίας (Chat Completions)

Η ίδια η κλήση δεν παρουσιάζει εκπλήξεις: σε αντίθεση με το Azure, η παράμετρος model εδώ χρησιμοποιεί το πραγματικό όνομα του μοντέλου.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.chat.complete(
    model="mistral-medium-3",
    messages=[
        {"role": "system", "content": "You are a cloud architecture expert."},
        {"role": "user", "content": "What are the advantages of Vertex AI compared to a self-hosted deployment?"}
    ],
    temperature=0.3,
    max_tokens=500
)

print(response.choices[0].message.content)

FIM με το Codestral

Η Συμπλήρωση στη Μέση (Fill-in-the-Middle) είναι μια δυνατότητα μοναδική για το Codestral. Αντί να συνεχίζει το κείμενο, το μοντέλο συμπληρώνει ένα κενό μεταξύ μιας αρχής (που περνά στο prompt) και ενός τέλους (που περνά στο suffix). Αυτή η διαφορά είναι καθοριστική για την αυτόματη συμπλήρωση στα IDE, όπου ο δρομέας βρίσκεται σχεδόν πάντα στη μέση ενός αρχείου: το μοντέλο βλέπει τι ακολουθεί και μπορεί επομένως να γράψει ένα σώμα συνάρτησης συνεπές με την επόμενη εντολή return, ή να συμπληρώσει ένα missing block σε υπάρχοντα κώδικα.

from mistralai.gcp.client import MistralGCP

client = MistralGCP()

response = client.fim.complete(
    model="codestral-2",
    prompt="def count_words(file_path: str) -> int:",
    suffix="return n_words"
)

print(response.choices[0].message.content)
# Παράγει το σώμα της συνάρτησης μεταξύ του prompt και του suffix

Το παράδειγμα αποκτά ακόμη περισσότερο νόημα με μια πραγματική κλάση. Εδώ, το μοντέλο λαμβάνει την πλήρη κεφαλίδα, ήδη ορισμένα χαρακτηριστικά και την ακόλουθη μέθοδο disconnect()· πρέπει να παράγει το σώμα της connect() συνεπές με αυτό το περιβάλλον.

response = client.fim.complete(
    model="codestral-2",
    prompt="""class DatabaseConnection:
    def __init__(self, host: str, port: int, database: str):
        self.host = host
        self.port = port
        self.database = database
        self.connection = None

    def connect(self):""",
    suffix="""
    def disconnect(self):
        if self.connection:
            self.connection.close()
            self.connection = None
"""
)
print(response.choices[0].message.content)

Ο παραγόμενος κώδικας θα επαναχρησιμοποιήσει τα self.host, self.port και self.database, και θα αναθέσει τιμή στο self.connection—κάτι που μια τυπική συμπλήρωση, τυφλή ως προς το υπόλοιπο αρχείο, δεν θα είχε λόγο να κάνει.

Ροή δεδομένων (Streaming) στο Vertex AI

Η ροή δεδομένων λειτουργεί όπως αλλού, επαναλαμβάνοντας τα επιστρεφόμενα τμήματα.

stream = client.chat.stream(
    model="mistral-medium-3",
    messages=[
        {"role": "user", "content": "Generate a Terraform script for a GKE cluster."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Διαφορές από το άμεσο API του Mistral

ΠτυχήMistral APIVertex AI
ΠελάτηςMistral()MistralGCP()
Έλεγχος ταυτότηταςΚλειδί APIGoogle ADC
ΠεριοχήΑυτόματηΔιαμορφώσιμη
FIMΝαιΝαι (Codestral)
ΧρέωσηMistralGoogle Cloud

Βασικά σημεία

  • Ο πελάτης MistralGCP χρησιμοποιεί εγγενή έλεγχο ταυτότητας του Google Cloud (χωρίς κλειδί API Mistral)
  • Η προεπιλεγμένη περιοχή είναι europe-west4—προσαρμόστε την στη χρήση σας
  • Το Codestral στο Vertex AI υποστηρίζει FIM για αυτόματη συμπλήρωση κώδικα
  • Ενεργοποιήστε τα μοντέλα στο Model Garden πριν τα χρησιμοποιήσετε
  • Τα αναγνωριστικά Vertex έχουν έκδοση (codestral-2, mistral-medium-3) και εξελίσσονται με κάθε γενιά: επαληθεύστε την ακριβή τιμή στο Model Garden πριν συνδέσετε μια ανάπτυξη
  • Η χρέωση γίνεται μέσω του λογαριασμού Google Cloud σας, όχι της Mistral