Azure AI: Model as a Service
Op deze pagina
Mistral op Azure AI
Microsoft Azure is de primaire cloudpartner van Mistral AI. De integratie met Azure AI biedt modellen aan als Model as a Service (MaaS). Dit betekent dat u ze via een API gebruikt zonder ook maar één GPU te beheren. Voor veel ondernemingen is de doorslaggevende factor niet technisch, maar organisatorisch: het cloudbudget bestaat al, de toegang wordt geregeld via Azure AD en het toevoegen van Mistral aan de catalogus betekent simpelweg het activeren van een extra service in plaats van het onderhandelen over een nieuw contract. Deze les behandelt de twee beschikbare implementatiemethoden en de toegankelijke modellen.
Twee implementatiemethoden
De pay-as-you-go-methode is het meest gebruikelijk. U implementeert een serverloos eindpunt en wordt alleen gefactureerd voor gebruik, per verbruikt token, zonder dat een GPU-quota nodig is. De opstart is direct omdat er niets hoeft te worden ingericht, er zijn geen vaste kosten, de schaal volgt automatisch de vraag en de hele setup integreert native met het Azure-ecosysteem. Dit is de standaardoptie zolang uw verkeer onregelmatig is.
De methode met real-time endpoints biedt een oplossing voor het tegenovergestelde scenario. Hier kiest u de GPU-infrastructuur waarop het model draait en wordt u gefactureerd voor infrastructuurren, ongeacht het aantal verzoeken. De prestaties worden voorspelbaar en de latentie gegarandeerd, wat de vaste kosten rechtvaardigt zodra de doorvoer continu en aanhoudend is. Een platform dat elke nacht enkele honderdduizenden documenten verwerkt, heeft hier baat bij; een interne assistent die dertig keer per dag wordt geraadpleegd, niet.
Beschikbare modellen op Azure
Azure biedt een breed scala aan Mistral-modellen, zowel voor algemeen gebruik als gespecialiseerde modellen.
| Model | Profiel |
|---|---|
| Mistral Large 3 | Vlaggenschipmodel, geavanceerde redenering |
| Mistral Large 24.07 / 24.11 | Eerdere versies, nog steeds beschikbaar |
| Mistral Medium 25.05 | Goede balans tussen prestaties en kosten |
| Mistral Small 25.03 | Lichtgewicht en snel |
| Mistral Document AI | Documentverwerking |
| Mistral OCR | Optische tekenherkenning |
| Ministral 3B | Ultra-lichtgewicht voor specifieke cases |
| Mistral Nemo | Veelzijdig open-weight model |
| Codestral | Gespecialiseerd in code en technische generatie |
Een model implementeren op Azure
Drie voorwaarden zijn bepalend voor het vervolg: een actief Azure-abonnement, toegang tot Azure AI Studio via portal.azure.com en een resourcegroep die is geconfigureerd om de resource te hosten. Zodra deze elementen aanwezig zijn, verloopt de implementatie volledig via de portal:
- Ga naar Azure AI Studio in de Azure-portal
- Navigeer naar Model catalog > Mistral AI
- Selecteer het gewenste model
- Kies Pay-as-you-go of Real-time endpoint
- Configureer de naam van het eindpunt en de regio
- Implementeer en haal de URL + API-sleutel op
Aan het einde van deze laatste stap houdt u twee gegevens over die alles aansturen: de URL van het eindpunt en de bijbehorende geheime sleutel.
# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Secret API key
export AZUREAI_API_KEY="your-secret-key"
Deze export-opdrachten werken voor lokale tests. In een productieomgeving horen deze twee waarden thuis in een secrets manager—in dit geval Azure Key Vault. In les 6 ziet u hoe u ze daarvandaan haalt zonder ze ergens anders te hoeven schrijven.
Eerste API-aanroep
Zo verifieert u of uw eindpunt daadwerkelijk reageert.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
]
)
print(response.choices[0].message.content)
Eén detail verdient uw aandacht omdat bijna elke ontwikkelaar die vanuit de directe API komt, hierover struikelt: de parameter model is altijd "azureai". Het daadwerkelijke model dat wordt bevraagd, wordt bepaald door het eindpunt dat u hebt geïmplementeerd, niet door deze string. Als u van model wilt wisselen, implementeert u een ander eindpunt; het schrijven van model="mistral-large-latest" hier levert niets nuttigs op.
Verschillen met de directe Mistral API
| Aspect | Directe Mistral API | Azure MaaS |
|---|---|---|
| Python-client | Mistral() | MistralAzure() |
| Model-parameter | Modelnaam | "azureai" |
| Authenticatie | Mistral API-sleutel | Azure API-sleutel |
| Facturering | Mistral | Azure |
| Netwerk | Internet | Kan privé zijn (VNet) |
Wanneer kiest u voor Azure?
Azure wordt de natuurlijke keuze wanneer uw bedrijf al in het Microsoft-ecosysteem opereert en gebruikmaakt van Azure AD, Key Vault of Monitor: de integratie kost dan bijna niets. De behoefte aan privénetwerkconnectiviteit, via VNet of Private Link, duwt in dezelfde richting, net als compliance-beleid dat vereist dat data bij een gecertificeerde cloudprovider blijft. Voeg hier een prozaïsch maar vaak doorslaggevend argument voor investeringscomités aan toe: het consolideren van cloudfacturering op één regel.
Belangrijkste punten
- Azure biedt Mistral aan als MaaS (pay-as-you-go) of real-time endpoints (toegewijde GPU)
- De Python-client
MistralAzurevervangt de standaardclientMistral - De parameter
modelis altijd"azureai"—het model hangt af van het eindpunt - Native integratie met het Azure-ecosysteem (Key Vault, VNet, Monitor) is een groot voordeel