Ο πελάτης MistralAzure σε Python
Σε αυτήν τη σελίδα
Προγραμματισμός με το MistralAzure
Το endpoint του Azure σας έχει αναπτυχθεί και αποκρίνεται· τώρα πρέπει να γράψετε τον κώδικα που θα το χρησιμοποιεί αξιόπιστα. Αυτό το μάθημα λεπτομερείς τον πελάτη Python MistralAzure: την αρχικοποίηση, τα πρότυπα που θα χρησιμοποιείτε καθημερινά—απλές κλήσεις, ροή δεδομένων (streaming), ασύγχρονη εκτέλεση και κλήση συναρτήσεων—καθώς και τις λίγες ιδιαιτερότητες που διακρίνουν το Azure από το άμεσο API.
Εγκατάσταση και Διαμόρφωση
Ενημερώθηκε στις 2 Νοεμβρίου 2026 — Mistral SDK 2 και νεότερες εκδόσεις. Από την έκδοση 2.0 του Python SDK (Μάρτιος 2026), ο πελάτης Azure εισάγεται από το
mistralai.azure.clientκαι οι παράμετροι της έκδοσης 1,azure_endpointκαιazure_api_key, έχουν μετονομαστεί σεserver_urlκαιapi_key. Ο κώδικας σε αυτό το μάθημα ακολουθεί την τρέχουσα έκδοση (3.7.0, 1 Νοεμβρίου 2026). Πηγές: Σημειώσεις έκδοσης v2.0.0 · Mistral στο Azure.
Ο πελάτης Azure περιλαμβάνεται στο πακέτο mistralai· δεν απαιτούνται πρόσθετες εξαρτήσεις.
pip install mistralai
Η αρχικοποίηση απαιτεί δύο παραμέτρους:
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
server_url— Η URL του endpoint του Azure σαςapi_key— Το κλειδί πιστοποίησης του endpoint
Μια τρίτη, προαιρετική παράμετρος, η api_version, έχει ως προεπιλογή την τιμή 2024-05-01-preview. Το SDK προσθέτει αυτόματα αυτή την τιμή σε κάθε αίτημα ως παράμετρο URL.
Ολοκληρώσεις Συνομιλίας (Chat Completions)
Από εδώ και πέρα, η εμπειρία είναι ίδια με τον τυπικό πελάτη. Χρησιμοποιήστε ένα μήνυμα συστήματος για να ορίσετε τον ρόλο του μοντέλου, ένα μήνυμα χρήστη για την ερώτηση και διαβάστε την απάντηση από το choices[0].message.content.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "system", "content": "Είστε ένας τεχνικός βοηθός ειδικός στην Python."},
{"role": "user", "content": "Πώς υλοποιώ έναν διακοσμητή cache;"}
]
)
print(response.choices[0].message.content)
Οι παράμετροι παραγωγής λειτουργούν ακριβώς όπως και με το άμεσο API της Mistral. Εάν μια απάντηση είναι πολύ απρόβλεπτη ή φλύαρη, διορθώστε το εδώ, όχι στο prompt.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Γράψε ένα χαϊκού για τον υπολογιστικό νέφος."}
],
temperature=0.7,
max_tokens=150,
top_p=0.95
)
temperature— Ελέγχει τη δημιουργικότητα (0,0 = ντετερμινιστικό, 1,0 = δημιουργικό)max_tokens— Περιορίζει το μήκος της απάντησηςtop_p— Δειγματοληψία πυρήνα (nucleus sampling)
Ροή Δεδομένων (Streaming)
Για απαντήσεις που εκτείνονται σε αρκετές εκατοντάδες λέξεις, μια τυπική κλήση αφήνει τον χρήστη να κοιτάζει μια παγωμένη οθόνη για αρκετά δευτερόλεπτα. Η ροή δεδομένων εξαλείφει αυτή την αναμονή εμφανίζοντας το κείμενο καθώς παράγεται. Αυτός είναι ο προεπιλεγμένος τρόπος λειτουργίας όποτε εμπλέκεται μια διεπαφή ανθρώπου.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Εξήγησε πώς λειτουργεί ένας εξισορροπητής φορτίου."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
print() # Νέα γραμμή στο τέλος
Σημειώστε τον έλεγχο if content: ορισμένα τμήματα φτάνουν κενά και θα εκτύπωναν None στην οθόνη χωρίς αυτή την προφύλαξη.
Ασύγχρονες Κλήσεις
Σε έναν διακομιστή web—FastAPI, Django async—μια μπλοκαρισμένη κλήση δεσμεύει έναν worker για όλη τη διάρκεια της παραγωγής, συχνά αρκετά δευτερόλεπτα ανά αίτημα. Ο ασύγχρονος πελάτης παραδίδει τον έλεγχο κατά την αναμονή, επιτρέποντας σε μια μοναδική διαδικασία να χειριστεί δεκάδες ταυτόχρονα αιτήματα.
import asyncio
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
async def generate_response(prompt: str) -> str:
response = await client.chat.complete_async(
model="azureai",
messages=[{"role": "user", "content": prompt}]
)
return response.choices[0].message.content
# Εκτέλεση
result = asyncio.run(generate_response("Τι είναι το Kubernetes;"))
print(result)
Κλήση Συναρτήσεων (Function Calling)
Η κλήση συναρτήσεων λειτουργεί πανομοιότυπα με το άμεσο API. Περιγράφετε τα διαθέσιμα εργαλεία, το μοντέλο αποφασίζει αν θα καλέσει κάποιο και ο κώδικάς σας εκτελεί πραγματικά τη συνάρτηση· το μοντέλο διατυπώνει μόνο την πρόθεση και τα ορίσματα.
import json
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Λήψη καιρού για μια πόλη",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "Όνομα της πόλης"}
},
"required": ["city"]
}
}
}
]
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Ποιος είναι ο καιρός στο Παρίσι;"}],
tools=tools,
tool_choice="auto"
)
# Έλεγχος αν το μοντέλο θέλει να καλέσει συνάρτηση
if response.choices[0].message.tool_calls:
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
print(f"Κλήθηκε συνάρτηση: {tool_call.function.name}")
print(f"Ορίσματα: {args}")
Διαχείριση Σφαλμάτων
Σε περιβάλλον παραγωγής, επανέρχονται τρεις οικογένειες σφαλμάτων, οι οποίες απαιτούν διαφορετικές αντιδράσεις. Ένα 429 σηματοδοτεί όριο ρυθμού και απαιτεί επανάληψη με εκθετική καθυστέρηση (exponential backoff). Ένα 401 υποδεικνύει μη έγκυρο ή ληγμένο κλειδί: η επανάληψη είναι άχρηστη, οπότε αποτύχετε αμέσως με ένα σαφές μήνυμα. Ένα 404 σχεδόν πάντα υποδεικνύει μια εσφαλμένη διαμόρφωση της μεταβλητής AZUREAI_ENDPOINT. Η διάκριση αυτών των περιπτώσεων σας γλιτώνει από το να ξοδέψετε μία ώρα εντοπίζοντας ένα τυπογραφικό λάθος σε μια URL.
import time
from mistralai.azure.client import MistralAzure
def robust_call(client, messages, max_retries=3):
"""Κλήση με εκθετική επανάληψη και διαχείριση σφαλμάτων."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="azureai",
messages=messages
)
except Exception as e:
error_str = str(e)
if "429" in error_str:
wait = 2 ** attempt
print(f"Όριο ρυθμού — επανάληψη σε {wait}s")
time.sleep(wait)
elif "401" in error_str:
raise ValueError("Μη έγκυρο ή ληγμένο κλειδί API") from e
elif "404" in error_str:
raise ValueError("Το endpoint δεν βρέθηκε — ελέγξτε το AZUREAI_ENDPOINT") from e
else:
if attempt == max_retries - 1:
raise
time.sleep(1)
raise RuntimeError("Αποτυχία μετά από όλες τις επαναλήψεις")
Μέτρηση Κατανάλωσης
Κάθε απάντηση περιλαμβάνει ένα αντικείμενο usage που λεπτομερεί τα consumed tokens. Διαβάστε το συστηματικά: είναι το μόνο αξιόπιστο μέτρο για την εκτίμηση του κόστους και τον εντοπισμό ενός prompt συστήματος που έχει become bloated από επανειλημμένες επεξεργασίες.
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Γεια"}]
)
usage = response.usage
print(f"Tokens prompt : {usage.prompt_tokens}")
print(f"Tokens απάντησης: {usage.completion_tokens}")
print(f"Συνολικά tokens : {usage.total_tokens}")
Βασικά σημεία
- Ο πελάτης
MistralAzureλειτουργεί όπως ο τυπικός πελάτης, χρησιμοποιώνταςmodel="azureai" - Η ροή δεδομένων (
chat.stream) συνιστάται για διεπαφές χρήστη - Οι ασύγχρονες κλήσεις (
complete_async) είναι απαραίτητες για διακομιστές web - Η κλήση συναρτήσεων και η λειτουργία JSON λειτουργούν πανομοιότυπα με το άμεσο API
- Υλοποιείτε πάντα εκθετική επανάληψη για τη διαχείριση σφαλμάτων
429