Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Azure σε Περιβάλλον Παραγωγής

Μάθημα 6 / 14 Ενημερώθηκε 2 Νοεμβρίου 2026 Προχωρημένος
Σε αυτήν τη σελίδα
  1. Προετοιμασία μιας Αξιόπιστης Ανάπτυξης στο Azure
  2. Αρχιτεκτονική Παραγωγής
  3. Παρακολούθηση με το Application Insights
  4. Κλιμάκωση
  5. Ασφάλεια Δικτύου
  6. Λίστα Ελέγχου Ετοιμότητας για Παραγωγή
  7. Βασικά σημεία

Προετοιμασία μιας Αξιόπιστης Ανάπτυξης στο Azure

Ένα λειτουργικό πρωτότυπο στον φορητό υπολογιστή σας και ένα σύστημα παραγωγής δεν διαφέρουν ως προς τον κώδικα κλήσης, ο οποίος παραμένει ίδιος. Διαφέρουν σε όλα όσα περιβάλλουν αυτόν τον κώδικα: από πού προέρχονται τα μυστικά, πώς παρατηρείτε τι συμβαίνει, τι συμβαίνει όταν η κίνηση διπλασιάζεται και ποια διαδρομή δικτύου ακολουθούν τα δεδομένα. Αυτό το μάθημα καλύπτει αυτές τις τέσσερις διαστάσεις για μια ανάπτυξη Mistral στο Azure.

Αρχιτεκτονική Παραγωγής

Μια τυπική ανάπτυξη συνδυάζει πέντε δομικά στοιχεία. Το τελικό σημείο Azure AI φιλοξενεί το μοντέλο Mistral ως MaaS· το Azure Key Vault αποθηκεύει τα κλειδιά API· το Azure Monitor και το Application Insights παρέχουν παρατηρησιμότητα· το Azure API Management λειτουργεί ως πύλη με περιορισμό ρυθμού και έλεγχο ταυτότητας μπροστά από την εφαρμογή σας· τέλος, ένα Εικονικό Δίκτυο Azure (Virtual Network) παρέχει απομόνωση δικτύου, η οποία είναι προαιρετική αλλά συχνά απαραίτητη για ευαίσθητα δεδομένα.

Η πρώτη σας κίνηση πρέπει να είναι η εξαγωγή των μυστικών από τον κώδικα και τις μεταβλητές περιβάλλοντος, κάνοντας την εφαρμογή να τα διαβάζει κατά την εκκίνηση από το Key Vault.

from azure.identity import DefaultAzureCredential
from azure.keyvault.secrets import SecretClient
from mistralai.azure.client import MistralAzure

# Retrieve the API key from Key Vault
credential = DefaultAzureCredential()
vault_url = "https://mon-keyvault.vault.azure.net"
secret_client = SecretClient(vault_url=vault_url, credential=credential)

endpoint = secret_client.get_secret("mistral-endpoint").value
api_key = secret_client.get_secret("mistral-api-key").value

client = MistralAzure(server_url=endpoint, api_key=api_key)

Το όφελος ξεπερνά την απλή εμπιστευτικότητα. Όταν περιστρέφετε ένα κλειδί, δεν απαιτείται επαναδιάθεση της εφαρμογής, καθώς η τιμή διαβάζεται από το θησαυροφυλάκιο και όχι από σκληροκωδικοποιημένη διαμόρφωση.

Παρακολούθηση με το Application Insights

Χωρίς οργανοποίηση, το μόνο που θα γνωρίζετε για ένα περιστατικό είναι ότι ένας χρήστης βρίσκει την εφαρμογή «αργή». Η ιχνηλάτηση κάθε κλήσης με τη διάρκειά της, τον αριθμό των token και το μοντέλο, σας παρέχει ό,τι χρειάζεστε για να ανταποκριθείτε μέσα σε λεπτά.

import time
import logging
from opencensus.ext.azure.log_exporter import AzureLogHandler

logger = logging.getLogger(__name__)
logger.addHandler(AzureLogHandler(
    connection_string="InstrumentationKey=your-key"
))

def monitored_call(client, messages, model="azureai"):
    """Mistral call with Azure Monitor metrics."""
    start = time.time()
    try:
        response = client.chat.complete(model=model, messages=messages)
        duration = time.time() - start
        logger.info(
            "MistralCall",
            extra={
                "custom_dimensions": {
                    "duration_ms": int(duration * 1000),
                    "prompt_tokens": response.usage.prompt_tokens,
                    "completion_tokens": response.usage.completion_tokens,
                    "model": model
                }
            }
        )
        return response
    except Exception as e:
        duration = time.time() - start
        logger.error(
            f"MistralError: {e}",
            extra={
                "custom_dimensions": {
                    "duration_ms": int(duration * 1000),
                    "error_type": type(e).__name__
                }
            }
        )
        raise

Αυτές οι μετρικές είναι χρήσιμες μόνο εάν κάποιος τις παρακολουθεί. Διαμορφώστε τις αντίστοιχες ειδοποιήσεις στο Azure Monitor:

  • Λανθάνουσα χρόνος P95 > 5δ — υποβάθμιση επιδόσεων
  • Ποσοστό σφαλμάτων 5xx > 1% — προβλήματα στην πλευρά του διακομιστή
  • Σφάλματα 429 > 10/λεπτό — έχει επιτευχθεί το όριο ρυθμού
  • Κατανάλωση token > 80% της ποσόστωσης — προσέγγιση ορίου

Κλιμάκωση

Όταν ο όγκος αυξάνεται, το πρώτο λάθος είναι η σύγχρονη κλήση του μοντέλου από την εισερχόμενη αίτηση HTTP: οποιαδήποτε επιβράδυνση μεταδίδεται απευθείας στον χρήστη. Η αποσύζευξη με το Azure Service Bus σας επιτρέπει να απορροφήσετε αιχμές φορτίου· οι αιτήσεις συσσωρεύονται σε μια ουρά και καταναλώνονται με τον ρυθμό που επιτρέπει η ποσόστωσή σας.

from azure.servicebus import ServiceBusClient, ServiceBusMessage
import json

# Producer: send requests to the queue
def enqueue_request(prompt: str, request_id: str):
    with ServiceBusClient.from_connection_string(conn_str) as sb_client:
        sender = sb_client.get_queue_sender(queue_name="mistral-requests")
        message = ServiceBusMessage(
            json.dumps({"prompt": prompt, "request_id": request_id})
        )
        sender.send_messages(message)

# Consumer: process requests from the queue
def process_queue():
    with ServiceBusClient.from_connection_string(conn_str) as sb_client:
        receiver = sb_client.get_queue_receiver(queue_name="mistral-requests")
        for msg in receiver:
            data = json.loads(str(msg))
            response = client.chat.complete(
                model="azureai",
                messages=[{"role": "user", "content": data["prompt"]}]
            )
            # Store the result...
            receiver.complete_message(msg)

Εάν το σημείο συμφόρησης προέρχεται από τη διαπερατότητα (throughput) και όχι από το στιγμιαίο φορτίο, αναπτύξτε πολλαπλά τελικά σημεία για το ίδιο μοντέλο και κατανείμετε τις κλήσεις μεταξύ τους.

import random

endpoints = [
    {"url": os.environ["AZUREAI_ENDPOINT_1"], "key": os.environ["AZUREAI_KEY_1"]},
    {"url": os.environ["AZUREAI_ENDPOINT_2"], "key": os.environ["AZUREAI_KEY_2"]},
]

def get_client():
    """Simple round-robin across endpoints."""
    ep = random.choice(endpoints)
    return MistralAzure(server_url=ep["url"], api_key=ep["key"])

Ασφάλεια Δικτύου

Για ευαίσθητα δεδομένα, το Azure Private Link διασφαλίζει ότι η κίνηση μεταξύ της εφαρμογής σας και του τελικού σημείου Mistral δεν διασχίζει ποτέ το δημόσιο διαδίκτυο. Η διαμόρφωση γίνεται σε τέσσερα βήματα:

  1. Δημιουργήστε ένα Ιδιωτικό Τελικό Σημείο (Private Endpoint) στο VNet σας
  2. Συνδέστε το με τον πόρο Azure AI
  3. Απενεργοποιήστε τη δημόσια πρόσβαση στο τελικό σημείο
  4. Διαμορφώστε το ιδιωτικό DNS για την επίλυση ονομάτων

Το τρίτο βήμα είναι αυτό που ξεχνούν οι περισσότεροι και χωρίς αυτό η δημόσια διαδρομή παραμένει ανοιχτή παράλληλα: το Private Link υπάρχει, αλλά τίποτα δεν εμποδίζει την παράκαμψή του.

Στο ίδιο πνεύμα, μια Διαχειριζόμενη Ταυτότητα (Managed Identity) αφαιρεί το κλειδί API από την εξίσωση: η εφαρμογή λαμβάνει τα διακριτικά της από το Microsoft Entra ID, οπότε δεν υπάρχει μυστικό προς αποθήκευση ή περιστροφή. Ισχύουν όμως δύο προϋποθέσεις. Ο πελάτης MistralAzure που τεκμηριώνεται από τη Mistral πιστοποιείται μέσω κλειδιού· η πιστοποίηση χωρίς κλειδί που περιγράφει η Microsoft γίνεται μέσω ενός μοντέλου που αναπτύσσεται σε έναν πόρο Microsoft Foundry, ο οποίος ερωτάται στη διαδρομή συμβατή με OpenAI /openai/v1/, με διακριτικά που εκδίδονται για το πεδίο https://ai.azure.com/.default. Επιπλέον, η ταυτότητα πρέπει να έχει λάβει εκ των προτέρων τον ρόλο συμπερασμού (inference role) στον πόρο. Ένας πάροχος διακριτικών, αντί για ένα διακριτικό που διαβάζεται μία φορά κατά την εκκίνηση, ανανεώνει την πρόσβαση πριν από τη λήξη:

from azure.identity import ManagedIdentityCredential, get_bearer_token_provider
from openai import OpenAI

token_provider = get_bearer_token_provider(
    ManagedIdentityCredential(),
    "https://ai.azure.com/.default",
)

client = OpenAI(
    base_url="https://<resource>.openai.azure.com/openai/v1/",
    api_key=token_provider,
)

response = client.chat.completions.create(
    model="my-mistral-deployment",  # name of your deployment
    messages=[{"role": "user", "content": "Summarize the data retention policy."}],
)
print(response.choices[0].message.content)

Πηγή: Endpoints for Microsoft Foundry Models — keyless authentication.

Λίστα Ελέγχου Ετοιμότητας για Παραγωγή

Πριν δηλώσετε έτοιμη την ανάπτυξή σας, ελέγξτε την αλυσίδα με τη σειρά που κατασκευάστηκε. Οι μεταβλητές περιβάλλοντος και τα μυστικά πρέπει να έχουν μεταφερθεί στο Key Vault και ο κώδικας κλήσης σας πρέπει να προστατεύεται από εκθετική επανάληψη (exponential retry) που καλύπτει τόσο τα σφάλματα 429 όσο και τα 5xx. Η παρακολούθηση του Application Insights πρέπει να αναφέρει λανθάνοντα χρόνο, σφάλματα και token, με τις αντίστοιχες ειδοποιήσεις να έχουν πραγματικά διαμορφωθεί για κρίσιμες μετρικές—όχι απλώς να έχουν σχεδιαστεί. Τέλος, ασχοληθείτε με όσα τείνουν να αναβάλλονται: δοκιμές φορτίου που έχουν πραγματικά εκτελεστεί, πρόσβαση μέσω ιδιωτικού δικτύου εάν τα δεδομένα είναι ευαίσθητα, και προγραμματισμένη περιστροφή κλειδιών API με συγκεκριμένη ημερομηνία, όχι αφεμένη στη γενική διακριτική ευχέρεια.

Βασικά σημεία

  • Χρησιμοποιήστε το Azure Key Vault για την αποθήκευση κλειδιών API, όχι απλές μεταβλητές περιβάλλοντος
  • Παρακολουθείτε κάθε κλήση με το Application Insights (λανθάνων χρόνος, token, σφάλματα)
  • Αποσυζεύξτε με το Service Bus για φόρτους εργασίας υψηλού όγκου
  • Χρησιμοποιήστε Private Link και Managed Identity για ασφαλή περιβάλλοντα
  • Εκτελέστε δοκιμές φορτίου και διαμορφώστε ειδοποιήσεις πριν τη μετάβαση σε παραγωγή