Salt la conținutul principal
Română— Alege o limbă
Meniu

Azure AI: Model as a Service

Lecția 4 din 14 Actualizată 2 noiembrie 2026 Avansat
Pe această pagină
  1. Mistral pe Azure AI
  2. Două abordări de implementare
  3. Modele disponibile pe Azure
  4. Implementarea unui model pe Azure
  5. Primul apel API
  6. Diferențe față de API-ul direct Mistral
  7. Când să alegeți Azure
  8. Puncte cheie

Mistral pe Azure AI

Microsoft Azure este partenerul principal de cloud al Mistral AI. Integrarea Azure AI oferă modele sub formă de Model as a Service (MaaS), ceea ce înseamnă că le consumați printr-un API fără a gestiona niciun GPU. Pentru multe întreprinderi, factorul decisiv nu este tehnic, ci organizațional: bugetul de cloud există deja, accesul este guvernat de Azure AD, iar adăugarea Mistral în catalog înseamnă activarea unui serviciu suplimentar, nu negocierea unui nou contract. Această lecție acoperă cele două abordări de implementare disponibile și modelele accesibile.

Două abordări de implementare

Abordarea pay-as-you-go (plată la utilizare) este cea mai frecventă. Implementați un endpoint serverless și sunteți facturat doar pentru utilizare, per token consumat, fără a fi nevoie de o cotă de GPU. Pornirea este imediată deoarece nu există nimic de provizionat, nu există costuri fixe, scalarea urmează automat cererea, iar întreaga configurare se integrează nativ cu ecosistemul Azure. Aceasta este opțiunea implicită atâta timp cât traficul dumneavoastră este neregulat.

Abordarea endpoint-urilor în timp real răspunde cazului opus. Aici, alegeți infrastructura GPU pe care rulează modelul și sunteți facturat pentru orele de infrastructură, indiferent de volumul de cereri. Performanța devine predictibilă, iar latența este garantată, ceea ce justifică costul fix odată ce throughput-ul este continuu și susținut. O platformă care procesează câteva sute de mii de documente în fiecare noapte beneficiază de aceasta; un asistent intern consultat de treizeci de ori pe zi, nu.

Modele disponibile pe Azure

Azure oferă o gamă largă de modele Mistral, atât de uz general, cât și specializate.

ModelProfil
Mistral Large 3Modelul flagship, raționament avansat
Mistral Large 24.07 / 24.11Versiuni anterioare, încă disponibile
Mistral Medium 25.05Echilibru bun performanță/cost
Mistral Small 25.03Ușor și rapid
Mistral Document AIProcesare de documente
Mistral OCRRecunoaștere optică a caracterelor
Ministral 3BUltra-ușor pentru cazuri limită
Mistral NemoModel versatil cu greutăți deschise
CodestralSpecializat pentru generare de cod și tehnică

Implementarea unui model pe Azure

Trei prerechizite condiționează restul: un abonament Azure activ, acces la Azure AI Studio prin portal.azure.com și un grup de resurse configurat pentru a găzdui resursa. Odată ce aceste elemente sunt în place, implementarea se face integral din portal:

  1. Accesați Azure AI Studio în portalul Azure
  2. Navigați la Model catalog > Mistral AI
  3. Selectați modelul dorit
  4. Alegeți Pay-as-you-go sau Real-time endpoint
  5. Configurați numele endpoint-ului și regiunea
  6. Implementați și recuperați URL-ul + cheia API

La finalul acestui ultim pas, obțineți două informații care conduc totul ulterior: URL-ul endpoint-ului și cheia secretă asociată.

# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"

# Secret API key
export AZUREAI_API_KEY="your-secret-key"

Aceste comenzi export funcționează pentru testarea locală. În producție, aceste două valori aparțin unui manager de secrete – în acest caz Azure Key Vault – și vom vedea în Lecția 6 cum să le recuperați de acolo fără a le scrie nicăieri altundeva.

Primul apel API

Iată cum să verificați dacă endpoint-ul dumneavoastră răspunde efectiv.

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
    ]
)
print(response.choices[0].message.content)

Un detaliu merită atenția dumneavoastră deoarece îi încurcă pe aproape toți dezvoltatorii care vin de la API-ul direct: parametrul model este întotdeauna "azureai". Modelul real interogat este determinat de endpoint-ul pe care l-ați implementat, nu de acest șir. Dacă doriți să schimbați modelele, implementați un alt endpoint; scrierea model="mistral-large-latest" aici nu ar produce nimic util.

Diferențe față de API-ul direct Mistral

AspectAPI direct MistralAzure MaaS
Client PythonMistral()MistralAzure()
Parametru modelNumele modelului"azureai"
AutentificareCheie API MistralCheie API Azure
FacturareMistralAzure
RețeaInternetPoate fi privată (VNet)

Când să alegeți Azure

Azure devine alegerea naturală atunci când compania dumneavoastră trăiește deja în ecosistemul Microsoft și utilizează Azure AD, Key Vault sau Monitor: integrarea costă atunci aproape nimic. Necesitatea conectivității la rețeaua privată, prin VNet sau Private Link, împinge în aceeași direcție, la fel ca și politicile de conformitate care cer ca datele să rămână la un furnizor de cloud certificat. Adăugați la aceasta un argument prozaic, dar adesea decisiv în comitetele de investiții: consolidarea facturării cloud într-o singură linie.

Puncte cheie

  • Azure oferă Mistral ca MaaS (pay-as-you-go) sau endpoint-uri în timp real (GPU dedicat)
  • Clientul Python MistralAzure înlocuiește clientul standard Mistral
  • Parametrul model este întotdeauna "azureai" – modelul depinde de endpoint
  • Integrarea nativă cu ecosistemul Azure (Key Vault, VNet, Monitor) este un avantaj major