Azure AI: Model as a Service
Σε αυτήν τη σελίδα
Mistral στο Azure AI
Η Microsoft Azure είναι ο κύριος συνεργάτης cloud της Mistral AI. Η ενσωμάτωση με το Azure AI προσφέρει μοντέλα ως Model as a Service (MaaS), που σημαίνει ότι τα καταναλώνετε μέσω API χωρίς να διαχειρίζεστε ούτε μία GPU. Για πολλές επιχειρήσεις, ο αποφασιστικός παράγοντας δεν είναι τεχνικός αλλά οργανωτικός: ο προϋπολογισμός cloud υπάρχει ήδη, η πρόσβαση διέπεται από το Azure AD και η προσθήκη της Mistral στον κατάλογο σημαίνει την ενεργοποίηση μιας ακόμη υπηρεσίας αντί για τη διαπραγμάτευση νέας σύμβασης. Αυτό το μάθημα καλύπτει τις δύο διαθέσιμες προσεγγίσεις ανάπτυξης και τα προσβάσιμα μοντέλα.
Δύο προσεγγίσεις ανάπτυξης
Η προσέγγιση pay-as-you-go είναι η πιο συνηθισμένη. Αναπτύσσετε ένα serverless endpoint και χρεώνεστε μόνο για τη χρήση, ανά token που καταναλώνεται, χωρίς ανάγκη για quota GPU. Η εκκίνηση είναι άμεση καθώς δεν υπάρχει τίποτα προς προμήθεια, δεν υπάρχουν σταθερά κόστη, η κλιμάκωση ακολουθεί αυτόματα τη ζήτηση και όλη η ρύθμιση ενσωματώνεται εγγενώς στο οικοσύστημα της Azure. Αυτή είναι η προεπιλεγμένη επιλογή εφόσον η κίνησή σας είναι ακανόνιστη.
Η προσέγγιση real-time endpoints καλύπτει την αντίθετη περίπτωση. Εδώ, επιλέγετε την υποδομή GPU στην οποία εκτελείται το μοντέλο και χρεώνεστε για ώρες υποδομής, ανεξάρτητα από τον όγκο των αιτημάτων. Η απόδοση γίνεται προβλέψιμη και ο χρόνος απόκρισης εγγυημένος, γεγονός που δικαιολογεί το σταθερό κόστος μόλις η διαπερατότητα είναι συνεχής και σταθερή. Μια πλατφόρμα που επεξεργάζεται αρκετές εκατοντάδες χιλιάδες έγγραφα κάθε βράδυ ωφελείται από αυτό· ένας εσωτερικός βοηθός που συμβουλεύεται τριάντα φορές την ημέρα όχι.
Μοντέλα διαθέσιμα στο Azure
Το Azure προσφέρει ένα ευρύ φάσμα μοντέλων Mistral, τόσο γενικής χρήσης όσο και εξειδικευμένων.
| Μοντέλο | Προφίλ |
|---|---|
| Mistral Large 3 | Κορυφαίο μοντέλο, προηγμένη συλλογιστική |
| Mistral Large 24.07 / 24.11 | Προηγούμενες εκδόσεις, ακόμα διαθέσιμες |
| Mistral Medium 25.05 | Καλή ισορροπία απόδοσης/κόστους |
| Mistral Small 25.03 | Ελαφρύ και γρήγορο |
| Mistral Document AI | Επεξεργασία εγγράφων |
| Mistral OCR | Οπτική αναγνώριση χαρακτήρων |
| Ministral 3B | Υπερ-ελαφρύ για οριακές περιπτώσεις |
| Mistral Nemo | Ευέλικτο μοντέλο ανοιχτών βαρών |
| Codestral | Εξειδικευμένο σε κώδικα και τεχνική παραγωγή |
Ανάπτυξη μοντέλου στο Azure
Τρεις προϋποθέσεις καθορίζουν τη συνέχεια: μια ενεργή συνδρομή Azure, πρόσβαση στο Azure AI Studio μέσω portal.azure.com και μια ομάδα πόρων διαμορφωμένη για να φιλοξενήσει τον πόρο. Μόλις αυτά τα στοιχεία είναι έτοιμα, η ανάπτυξη γίνεται εξ ολοκλήρου από την πύλη:
- Μεταβείτε στο Azure AI Studio στην πύλη της Azure
- Πλοηγηθείτε στο Model catalog > Mistral AI
- Επιλέξτε το επιθυμητό μοντέλο
- Επιλέξτε Pay-as-you-go ή Real-time endpoint
- Διαμορφώστε το όνομα του endpoint και την περιοχή
- Αναπτύξτε και ανακτήστε το URL + το κλειδί API
Στο τέλος αυτού του τελευταίου βήματος, αποκτάτε δύο πληροφορίες που καθοδηγούν όλα τα υπόλοιπα: το URL του endpoint και το συσχετισμένο μυστικό κλειδί.
# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Secret API key
export AZUREAI_API_KEY="your-secret-key"
Αυτές οι εντολές export λειτουργούν για τοπικές δοκιμές. Στην παραγωγή, αυτές οι δύο τιμές ανήκουν σε έναν διαχειριστή μυστικών—σε αυτή την περίπτωση το Azure Key Vault—και θα δούμε στο Μάθημα 6 πώς να τις ανακτάτε από εκεί χωρίς ποτέ να τις γράφετε αλλού.
Πρώτη κλήση API
Ιδού πώς να επαληθεύσετε ότι το endpoint σας αποκρίνεται πραγματικά.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
]
)
print(response.choices[0].message.content)
Μια λεπτομέρεια αξίζει την προσοχή σας επειδή μπερδεύει σχεδόν κάθε προγραμματιστή που έρχεται από το άμεσο API: η παράμετρος model είναι πάντα "azureai". Το πραγματικό μοντέλο που ερωτάται καθορίζεται από το endpoint που αναπτύξατε, όχι από αυτή τη συμβολοσειρά. Αν θέλετε να αλλάξετε μοντέλα, αναπτύσσετε ένα άλλο endpoint· η εγγραφή model="mistral-large-latest" εδώ δεν θα παράγει τίποτα χρήσιμο.
Διαφορές από το άμεσο API της Mistral
| Πτυχή | Άμεσο API Mistral | Azure MaaS |
|---|---|---|
| Πελάτης Python | Mistral() | MistralAzure() |
| Παράμετρος μοντέλου | Όνομα μοντέλου | "azureai" |
| Πιστοποίηση | Κλειδί API Mistral | Κλειδί API Azure |
| Χρέωση | Mistral | Azure |
| Δίκτυο | Διαδίκτυο | Μπορεί να είναι ιδιωτικό (VNet) |
Πότε να επιλέξετε το Azure
Το Azure γίνεται η φυσική επιλογή όταν η εταιρεία σας ζει ήδη στο οικοσύστημα της Microsoft και αξιοποιεί το Azure AD, το Key Vault ή το Monitor: η ενσωμάτωση τότε κοστίζει σχεδόν τίποτα. Η ανάγκη για συνδεσιμότητα ιδιωτικού δικτύου, μέσω VNet ή Private Link, ωθεί προς την ίδια κατεύθυνση, όπως και οι πολιτικές συμμόρφωσης που απαιτούν τα δεδομένα να παραμένουν σε έναν πιστοποιημένο πάροχο cloud. Προσθέστε σε αυτό ένα πεζό αλλά συχνά αποφασιστικό επιχείρημα στις επιτροπές επενδύσεων: την ενοποίηση της χρέωσης cloud σε ένα μόνο κονδύλι.
Βασικά σημεία
- Το Azure προσφέρει το Mistral ως MaaS (pay-as-you-go) ή real-time endpoints (αφιερωμένη GPU)
- Ο πελάτης Python
MistralAzureαντικαθιστά τον τυπικό πελάτηMistral - Η παράμετρος
modelείναι πάντα"azureai"—το μοντέλο εξαρτάται από το endpoint - Η εγγενής ενσωμάτωση με το οικοσύστημα της Azure (Key Vault, VNet, Monitor) αποτελεί σημαντικό πλεονέκτημα