Mistral na Azure AI
Na tej strani
Posodobljeno 3. novembra 2026: Primer TypeScript je prej neposredno posredoval
process.env.AZUREAI_API_KEYinprocess.env.AZUREAI_ENDPOINTvMistralAzure. Ker sta obe možnosti obvezni, TypeScript 7 v strogem načinu ni dovolil prevajanja (preverjeno z@mistralai/mistralai-azure2.1.0). Spremenljivke okolja so zdaj preverjene pred ustvarjanjem odjemalca. Vir: SDK@mistralai/mistralai-azure.
Zakaj uporabljati Mistral prek Azureja?
To vprašanje se redko pojavi zaradi tehničnih razlogov: neposredni API Mistral deluje brezhibno. Pojavi se zaradi pogodbenih in organizacijskih razlogov. Podjetje, ki je že globoko v ekosistemu Microsoft, porabi dogovorjeno obveznost Azureja, ima vzpostavljene nabavne procese in nima želje odpirati nove pogodbe z dobaviteljem za nekaj tisoč evrov vredne žetone.
Uporaba Azure AI konsolidira obračunavanje v vašo obstoječo pogodbo z Azurejem, zagotavlja skladnost z GDPR prek evropskih regij, ponuja izvorno integracijo z drugimi storitvami Azure – Azure Functions, Cosmos DB, Azure ML – in nudi podjetniško podporo Microsoft z ustreznimi pogodbenimi ravnmi storitev (SLA). Skratka: isti model, znotraj okvira upravljanja, ki ga je vaš IT oddelek že odobril.
Izbira med brezstrežniškim načinom in namenskim GPU-jem
Azure ponuja dva pristopa, izbira pa je odvisna od pravilnosti vaše obremenitve. Način plačila po porabi, znan tudi kot MaaS (Model as a Service), izpostavlja brezstrežniški API: ni treba dodeljevati GPU-jev, plačate le za porabljene žetone, Azure pa sam poskrbi za skaliranje. To je priporočeni način za večino primerov uporabe, še posebej, ko je vaš promet nepravilen ali nepredvidljiv.
Končne točke v realnem času naslavljajo nasprotno potrebo. Izberete vrsto in število GPU-jev, infrastruktura je namenjena izključno vam, obračunavanje pa poteka na uro računanja – ne glede na to, ali model dela ali miruje. Notranji API, ki ga neprekinjeno uporablja več tisoč uporabnikov, ustreza temu modelu; prototip, do katerega dostopajo trikrat na dan, bo tu zapravil veliko denarja. Zapomnite si pravilo: ta način je priporočljiv za predvidljive obremenitve z visoko prepustnostjo.
Modeli, na voljo na Azureju
Dokumentacija Mistral navaja naslednje modele na Azureju (seznam pridobljen 2. novembra 2026). Katalog se redno posodablja: za trenutni seznam glejte uradno stran.
| Model | Pozicioniranje |
|---|---|
| Mistral Medium 3.5 | Dobro razmerje med zmogljivostjo in stroški |
| Mistral Large 3 (25.12) | Vodilni model za kompleksne naloge |
| Mistral Small (25.06) | Hiter in ekonomičen |
| Codestral (25.01) | Specializiran za generiranje kode |
| Ministral 3B (24.10) | Kompakten model za lahke naloge |
| Document AI (OCR 4) | Ekstrakcija besedila in strukture iz dokumentov |
Pridobivanje poverilnic
Pridobivanje poverilnic poteka prek vmesnika Azure in traja nekaj minut:
- Pojdite na Microsoft Foundry
- Ustvarite projekt ali izberite obstoječega
- Namestite model Mistral iz kataloga modelov
- S strani za namestitev pridobite svojo končno točko in ključ API
Ti dve vrednosti vnesite v spremenljivke okolja, popolnoma enako kot neposredni ključ Mistral. Razlika je v končni točki: vsaka namestitev na Azureju ima svojo; skupnega URL-ja ni.
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com"
export AZUREAI_API_KEY="your-azure-secret-key"
Klicanje modela v Pythonu
SDK Mistral ponuja namenskega odjemalca za Azure, MistralAzure, vključenega v paket mistralai: posredujete mu URL svoje namestitve in ključ, preostanek kode pa je identičen tistemu, ki ga napišete za neposredni API. Od različice SDK 2.0 (marec 2026) se uvaža iz mistralai.azure.client.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"],
)
response = client.chat.complete(
model="azureai", # Identifikator, ki ga pričakujejo končne točke Azure
messages=[
{"role": "user", "content": "Kakšne so prednosti suverenega oblaka v Evropi?"}
]
)
print(response.choices[0].message.content)
Najbolj zavajajoča točka je parameter model. Pričakujete, da boste napisali mistral-large-latest; namesto tega morate vnesti azureai. Razlog je preprost: model je že določen z namestitvijo, ki ste jo ustvarili na strani Azureja; končna točka kaže nanj in samo nanj. Sprememba modela torej pomeni spremembo končnih točk, ne pa spremembo niza v kodi.
Pretakanje (streaming) se vendarle ne razlikuje niti za malenkost od neposrednega API-ja – ista metoda, ista raven .data za dostop do vsebine kosov. V tem je bistvo enotnega SDK-ja: koda, ki ste jo napisali v prejšnjih lekcijah, deluje takšna, kot je.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Opišite arhitekturo podatkovnega jezera na Azureju."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Isti klic v TypeScriptu
Na strani TypeScripta je odjemalec za Azure objavljen v ločenem paketu, @mistralai/mistralai-azure, ki ga namestite z npm add @mistralai/mistralai-azure. Njegove možnosti sledijo poimenovanju v JavaScriptu: apiKey in endpoint, obe sta obvezni. Zato je potrebno preverjanje spremenljivk okolja, brez katerega strogi način zavrne prevajanje, saj lahko spremenljivka okolja manjka:
import { MistralAzure } from '@mistralai/mistralai-azure';
const apiKey = process.env.AZUREAI_API_KEY;
const endpoint = process.env.AZUREAI_ENDPOINT;
if (!apiKey || !endpoint) {
throw new Error('Set AZUREAI_API_KEY and AZUREAI_ENDPOINT.');
}
const client = new MistralAzure({ apiKey, endpoint });
const response = await client.chat.complete({
model: 'azureai',
messages: [
{ role: 'user', content: 'How to secure an Azure Key Vault?' },
],
});
console.log(response.choices[0]?.message?.content);
Viri: Mistral na Azureju (dokumentacija Mistral) · TypeScript SDK
@mistralai/mistralai-azure
Izkoriščanje preostanka platforme
Ko klic deluje, izkoristite storitve, za katere že plačujete. Ključe shranite v Azure Key Vault namesto v spremenljivke okolja: rotacija tako postane upravna operacija, ne pa ponovna namestitev. Omogočite dnevnike diagnostike na svoji končni točki za spremljanje zakasnitev in napak; to je edini način, da ločite počasnost modela od počasnosti kode. Izberite evropsko regijo, Zahodna Evropa ali Francija – osrednje, da ostanete skladni z GDPR – to je pogosto glavni razlog za izbiro Azureja. Nazadnje konfigurirajte opozorila Azure Monitor za porabo žetonov: slabo zaprta zanka v nočnem opravilu se na računu pokaže veliko kasneje kot pri opozorilu.
Ključne ugotovitve
- Azure AI ponuja Mistral v načinih brez strežnika (MaaS) ali namenski GPU
- Model je v klicih API-ja identificiran z
"azureai" - Odjemalec
MistralAzureprejme končno točko prekserver_url(Python,mistralai.azure.client) aliendpoint(TypeScript,@mistralai/mistralai-azure) - Integracija z ekosistemom Azure (Key Vault, Monitor, Functions) je velika prednost za podjetja
- Izberite evropsko regijo, da ostanete skladni z GDPR