Azure AI: Model as a Service
På denne side
Mistral på Azure AI
Microsoft Azure er Mistral AIs primære cloud-partner. Integrationen med Azure AI tilbyder modeller som Model as a Service (MaaS), hvilket betyder, at du bruger dem via en API uden selv at skulle administrere en eneste GPU. For mange virksomheder er den afgørende faktor ikke teknisk, men organisatorisk: Cloud-budgettet eksisterer allerede, adgangen styres af Azure AD, og det at tilføje Mistral til kataloget betyder blot at aktivere endnu en tjeneste frem for at forhandle en ny kontrakt. Denne lektion dækker de to tilgængelige implementeringsmetoder og de modeller, du kan få adgang til.
To implementeringsmetoder
Metoden pay-as-you-go er den mest udbredte. Du implementerer et serverless endpoint og faktureres kun for faktisk forbrug pr. token, uden behov for en GPU-kvote. Opstarten er øjeblikkelig, da der ikke er noget, der skal klargøres, der er ingen faste omkostninger, skaleringen følger automatisk efterspørgslen, og hele opsætningen integreres nativt med Azure-økosystemet. Dette er standardvalget, så længe din trafik er uregelmæssig.
Metoden med real-time endpoints adresserer det modsatte scenarie. Her vælger du den GPU-infrastruktur, som modellen kører på, og du faktureres for infrastruktur-timer uanset antallet af forespørgsler. Ydeevnen bliver forudsigelig, og ventetiden garanteres, hvilket retfærdiggør de faste omkostninger, når gennemstrømningen er kontinuerlig og vedvarende. En platform, der behandler flere hundrede tusinde dokumenter hver nat, har gavn af dette; en intern assistent, der konsulteres tredive gange om dagen, har ikke.
Modeller tilgængelige på Azure
Azure tilbyder en bred vifte af Mistral-modeller, både generelle og specialiserede.
| Model | Profil |
|---|---|
| Mistral Large 3 | Flagskibsmodel, avanceret ræsonnement |
| Mistral Large 24.07 / 24.11 | Tidligere versioner, stadig tilgængelige |
| Mistral Medium 25.05 | God balance mellem ydeevne og omkostninger |
| Mistral Small 25.03 | Letvægtsmodel og hurtig |
| Mistral Document AI | Dokumentbehandling |
| Mistral OCR | Optisk tegngenkendelse |
| Ministral 3B | Ultra-letvægtsmodel til specifikke tilfælde |
| Mistral Nemo | alsidig open-weight-model |
| Codestral | Specialiseret til kode og teknisk generering |
Implementering af en model på Azure
Tre forudsætninger er nødvendige for at komme videre: et aktivt Azure-abonnement, adgang til Azure AI Studio via portal.azure.com og en ressourcegruppe konfigureret til at være vært for ressourcen. Når disse elementer er på plads, sker implementeringen udelukkende fra portalen:
- Gå til Azure AI Studio i Azure-portalen
- Naviger til Model catalog > Mistral AI
- Vælg den ønskede model
- Vælg Pay-as-you-go eller Real-time endpoint
- Konfigurer endpoint-navn og region
- Implementer og hent URL’en + API-nøglen
Efter dette sidste step står du med to oplysninger, som driver alt andet: endpoint-URL’en og den tilhørende hemmelige nøgle.
# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Secret API key
export AZUREAI_API_KEY="your-secret-key"
Disse export-kommandoer fungerer til lokal test. I produktion skal disse to værdier opbevares i en secrets manager – i dette tilfælde Azure Key Vault – og vi vil se i lektion 6, hvordan du henter dem derfra uden nogensinde at skrive dem andre steder.
Første API-kald
Sådan verificerer du, at dit endpoint faktisk svarer.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
]
)
print(response.choices[0].message.content)
Én detalje fortjener din opmærksomhed, fordi den får næsten enhver udvikler, der kommer fra den direkte API, til at snuble: parameteren model er altid "azureai". Den faktiske model, der spørges til, bestemmes af det endpoint, du har implementeret, ikke af denne streng. Hvis du vil skifte model, skal du implementere et nyt endpoint – at skrive model="mistral-large-latest" her vil ikke give noget brugbart resultat.
Forskelle fra den direkte Mistral-API
| Aspekt | Direkte Mistral-API | Azure MaaS |
|---|---|---|
| Python-klient | Mistral() | MistralAzure() |
| Model-parameter | Modelnavn | "azureai" |
| Godkendelse | Mistral API-nøgle | Azure API-nøgle |
| Fakturering | Mistral | Azure |
| Netværk | Internet | Kan være privat (VNet) |
Hvornår skal du vælge Azure?
Azure bliver det naturlige valg, når din virksomhed allerede lever i Microsoft-økosystemet og udnytter Azure AD, Key Vault eller Monitor: integrationen koster således næsten ingenting. Behovet for privat netværksforbindelse via VNet eller Private Link trækker i samme retning, det samme gør overholdelsespolitikker, der kræver, at data forbliver hos en certificeret cloud-udbyder. Hertil kommer et prosaisk, men ofte afgørende argument i investeringskomitéer: konsolidering af cloud-fakturering på en enkelt post.
Vigtige pointer
- Azure tilbyder Mistral som MaaS (pay-as-you-go) eller real-time endpoints (dedikeret GPU)
- Python-klienten
MistralAzureerstatter standardklientenMistral - Parameteren
modeler altid"azureai"– modellen afhænger af endpointet - Nativ integration med Azure-økosystemet (Key Vault, VNet, Monitor) er en stor fordel