Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Mistral na Azure AI

Lekcija 11 od 14 Posodobljeno 3. november 2026 Razvijalec
Na tej strani
  1. Zakaj uporabljati Mistral prek Azureja?
  2. Izbira med brezstrežniškim načinom in namenskim GPU-jem
  3. Modeli, na voljo na Azureju
  4. Pridobivanje poverilnic
  5. Klicanje modela v Pythonu
  6. Isti klic v TypeScriptu
  7. Izkoriščanje preostanka platforme
  8. Ključne ugotovitve

Posodobljeno 3. novembra 2026: Primer TypeScript je prej neposredno posredoval process.env.AZUREAI_API_KEY in process.env.AZUREAI_ENDPOINT v MistralAzure. Ker sta obe možnosti obvezni, TypeScript 7 v strogem načinu ni dovolil prevajanja (preverjeno z @mistralai/mistralai-azure 2.1.0). Spremenljivke okolja so zdaj preverjene pred ustvarjanjem odjemalca. Vir: SDK @mistralai/mistralai-azure.

Zakaj uporabljati Mistral prek Azureja?

To vprašanje se redko pojavi zaradi tehničnih razlogov: neposredni API Mistral deluje brezhibno. Pojavi se zaradi pogodbenih in organizacijskih razlogov. Podjetje, ki je že globoko v ekosistemu Microsoft, porabi dogovorjeno obveznost Azureja, ima vzpostavljene nabavne procese in nima želje odpirati nove pogodbe z dobaviteljem za nekaj tisoč evrov vredne žetone.

Uporaba Azure AI konsolidira obračunavanje v vašo obstoječo pogodbo z Azurejem, zagotavlja skladnost z GDPR prek evropskih regij, ponuja izvorno integracijo z drugimi storitvami Azure – Azure Functions, Cosmos DB, Azure ML – in nudi podjetniško podporo Microsoft z ustreznimi pogodbenimi ravnmi storitev (SLA). Skratka: isti model, znotraj okvira upravljanja, ki ga je vaš IT oddelek že odobril.

Izbira med brezstrežniškim načinom in namenskim GPU-jem

Azure ponuja dva pristopa, izbira pa je odvisna od pravilnosti vaše obremenitve. Način plačila po porabi, znan tudi kot MaaS (Model as a Service), izpostavlja brezstrežniški API: ni treba dodeljevati GPU-jev, plačate le za porabljene žetone, Azure pa sam poskrbi za skaliranje. To je priporočeni način za večino primerov uporabe, še posebej, ko je vaš promet nepravilen ali nepredvidljiv.

Končne točke v realnem času naslavljajo nasprotno potrebo. Izberete vrsto in število GPU-jev, infrastruktura je namenjena izključno vam, obračunavanje pa poteka na uro računanja – ne glede na to, ali model dela ali miruje. Notranji API, ki ga neprekinjeno uporablja več tisoč uporabnikov, ustreza temu modelu; prototip, do katerega dostopajo trikrat na dan, bo tu zapravil veliko denarja. Zapomnite si pravilo: ta način je priporočljiv za predvidljive obremenitve z visoko prepustnostjo.

Modeli, na voljo na Azureju

Dokumentacija Mistral navaja naslednje modele na Azureju (seznam pridobljen 2. novembra 2026). Katalog se redno posodablja: za trenutni seznam glejte uradno stran.

ModelPozicioniranje
Mistral Medium 3.5Dobro razmerje med zmogljivostjo in stroški
Mistral Large 3 (25.12)Vodilni model za kompleksne naloge
Mistral Small (25.06)Hiter in ekonomičen
Codestral (25.01)Specializiran za generiranje kode
Ministral 3B (24.10)Kompakten model za lahke naloge
Document AI (OCR 4)Ekstrakcija besedila in strukture iz dokumentov

Pridobivanje poverilnic

Pridobivanje poverilnic poteka prek vmesnika Azure in traja nekaj minut:

  1. Pojdite na Microsoft Foundry
  2. Ustvarite projekt ali izberite obstoječega
  3. Namestite model Mistral iz kataloga modelov
  4. S strani za namestitev pridobite svojo končno točko in ključ API

Ti dve vrednosti vnesite v spremenljivke okolja, popolnoma enako kot neposredni ključ Mistral. Razlika je v končni točki: vsaka namestitev na Azureju ima svojo; skupnega URL-ja ni.

export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com"
export AZUREAI_API_KEY="your-azure-secret-key"

Klicanje modela v Pythonu

SDK Mistral ponuja namenskega odjemalca za Azure, MistralAzure, vključenega v paket mistralai: posredujete mu URL svoje namestitve in ključ, preostanek kode pa je identičen tistemu, ki ga napišete za neposredni API. Od različice SDK 2.0 (marec 2026) se uvaža iz mistralai.azure.client.

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"],
)

response = client.chat.complete(
    model="azureai",  # Identifikator, ki ga pričakujejo končne točke Azure
    messages=[
        {"role": "user", "content": "Kakšne so prednosti suverenega oblaka v Evropi?"}
    ]
)

print(response.choices[0].message.content)

Najbolj zavajajoča točka je parameter model. Pričakujete, da boste napisali mistral-large-latest; namesto tega morate vnesti azureai. Razlog je preprost: model je že določen z namestitvijo, ki ste jo ustvarili na strani Azureja; končna točka kaže nanj in samo nanj. Sprememba modela torej pomeni spremembo končnih točk, ne pa spremembo niza v kodi.

Pretakanje (streaming) se vendarle ne razlikuje niti za malenkost od neposrednega API-ja – ista metoda, ista raven .data za dostop do vsebine kosov. V tem je bistvo enotnega SDK-ja: koda, ki ste jo napisali v prejšnjih lekcijah, deluje takšna, kot je.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Opišite arhitekturo podatkovnega jezera na Azureju."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Isti klic v TypeScriptu

Na strani TypeScripta je odjemalec za Azure objavljen v ločenem paketu, @mistralai/mistralai-azure, ki ga namestite z npm add @mistralai/mistralai-azure. Njegove možnosti sledijo poimenovanju v JavaScriptu: apiKey in endpoint, obe sta obvezni. Zato je potrebno preverjanje spremenljivk okolja, brez katerega strogi način zavrne prevajanje, saj lahko spremenljivka okolja manjka:

import { MistralAzure } from '@mistralai/mistralai-azure';

const apiKey = process.env.AZUREAI_API_KEY;
const endpoint = process.env.AZUREAI_ENDPOINT;
if (!apiKey || !endpoint) {
  throw new Error('Set AZUREAI_API_KEY and AZUREAI_ENDPOINT.');
}

const client = new MistralAzure({ apiKey, endpoint });

const response = await client.chat.complete({
  model: 'azureai',
  messages: [
    { role: 'user', content: 'How to secure an Azure Key Vault?' },
  ],
});

console.log(response.choices[0]?.message?.content);

Viri: Mistral na Azureju (dokumentacija Mistral) · TypeScript SDK @mistralai/mistralai-azure

Izkoriščanje preostanka platforme

Ko klic deluje, izkoristite storitve, za katere že plačujete. Ključe shranite v Azure Key Vault namesto v spremenljivke okolja: rotacija tako postane upravna operacija, ne pa ponovna namestitev. Omogočite dnevnike diagnostike na svoji končni točki za spremljanje zakasnitev in napak; to je edini način, da ločite počasnost modela od počasnosti kode. Izberite evropsko regijo, Zahodna Evropa ali Francija – osrednje, da ostanete skladni z GDPR – to je pogosto glavni razlog za izbiro Azureja. Nazadnje konfigurirajte opozorila Azure Monitor za porabo žetonov: slabo zaprta zanka v nočnem opravilu se na računu pokaže veliko kasneje kot pri opozorilu.

Ključne ugotovitve

  • Azure AI ponuja Mistral v načinih brez strežnika (MaaS) ali namenski GPU
  • Model je v klicih API-ja identificiran z "azureai"
  • Odjemalec MistralAzure prejme končno točko prek server_url (Python, mistralai.azure.client) ali endpoint (TypeScript, @mistralai/mistralai-azure)
  • Integracija z ekosistemom Azure (Key Vault, Monitor, Functions) je velika prednost za podjetja
  • Izberite evropsko regijo, da ostanete skladni z GDPR