Mistral na Azure AI
Na ovoj stranici
Ažurirano 3. studenoga 2026.: Prethodni TypeScript primjer prosljeđivao je
process.env.AZUREAI_API_KEYiprocess.env.AZUREAI_ENDPOINTizravno uMistralAzure. Budući da su obje opcije obavezne, TypeScript 7 u strogom načinu rada odbio je kompajliranje (provjereno s@mistralai/mistralai-azure2.1.0). Varijable okruženja sada se validiraju prije izrade klijenta. Izvor:@mistralai/mistralai-azureSDK.
Zašto koristiti Mistral putem Azurea?
Ovo se pitanje rijetko postavlja zbog tehničkih razloga: izravni Mistral API savršeno funkcionira. Postavlja se zbog ugovornih i organizacijskih razloga. Tvrtka koja je već duboko ukorijenjena u Microsoftovom ekosustavu troši pregovarane obveze unutar Azurea, ima uspostavljene procese nabave i nema želju otvarati novi ugovor s dobavljačem za nekoliko tisuća eura vrijednih tokena.
Korištenje Azure AI konsolidira naplatu na vaš postojeći Azure ugovor, osigurava usklađenost s GDPR-om kroz europske regije, pruža izvornu integraciju s drugim Azure uslugama—Azure Functions, Cosmos DB, Azure ML—i nudi Microsoftovu podršku za poduzeća s odgovarajućim ugovorima o razini usluge (SLA). Ukratko: isti model, unutar okvira upravljanja koji je vaš IT odjel već odobrio.
Odabir između serverless i namjenskog GPU-a
Azure nudi dva pristupa, a izbor ovisi o pravilnosti vašeg opterećenja. Način plaćanja prema potrošnji, poznat i kao MaaS (Model as a Service), izlaže serverless API: nema GPU-ova za pripremu, plaćate samo za utrošene tokene, a Azure samostalno upravlja skaliranjem. Ovo je preporučeni način za većinu slučajeva upotrebe, posebno dok je vaš promet nepravilan ili nepredvidiv.
Real-time endpoints rješavaju suprotnu potrebu. Odabirete vrstu i broj GPU-ova, infrastruktura je namijenjena isključivo vama, a naplata se vrši po satu računanja—bilo da model radi ili miruje. Interni API koji neprestano koristi nekoliko tisuća korisnika odgovara ovom modelu; prototip kojem se pristupa tri puta dnevno ovdje će potrošiti puno novca. Zapamtite pravilo: ovaj je način preporučen za predvidiva opterećenja velikog propusnog opsega.
Modeli dostupni na Azureu
Mistralova dokumentacija navodi sljedeće modele na Azureu (popis preuzet 2. studenoga 2026.). Katalog se redovito ažurira: konzultirajte službenu stranicu za trenutni popis.
| Model | Pozicioniranje |
|---|---|
| Mistral Medium 3.5 | Dobar omjer performansi i cijene |
| Mistral Large 3 (25.12) | Vodeći model za složene zadatke |
| Mistral Small (25.06) | Brz i ekonomičan |
| Codestral (25.01) | Specijaliziran za generiranje koda |
| Ministral 3B (24.10) | Kompaktan model za lagane zadatke |
| Document AI (OCR 4) | Ekstrakcija teksta i strukture u dokumentima |
Dohvaćanje vjerodajnica
Dohvaćanje vjerodajnica odvija se putem Azure sučelja i traje nekoliko minuta:
- Idite na Microsoft Foundry
- Stvorite projekt ili odaberite postojeći
- Implementirajte Mistral model iz kataloga modela
- Preuzmite svoju endpoint adresu i API ključ sa stranice implementacije
Postavite ove dvije vrijednosti u varijable okruženja, točno kao i izravni Mistral ključ. Razlika je u endpointu: svaka Azure implementacija ima svoj vlastiti; ne postoji zajednički URL.
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com"
export AZUREAI_API_KEY="your-azure-secret-key"
Pozivanje modela u Pythonu
Mistral SDK pruža namjenskog Azure klijenta, MistralAzure, uključenog u paket mistralai: proslijedite mu URL svoje implementacije i ključ, a ostatak koda identičan je onome što pišete za izravni API. Od verzije SDK-a 2.0 (ožujak 2026.), uvozi se iz mistralai.azure.client.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"],
)
response = client.chat.complete(
model="azureai", # Identifikator koji očekuju Azure endpointi
messages=[
{"role": "user", "content": "Koje su prednosti suverenog oblaka u Europi?"}
]
)
print(response.choices[0].message.content)
Najzbunjujuća točka leži u parametru model. Očekujete da ćete napisati mistral-large-latest; umjesto toga, morate staviti azureai. Razlog je jednostavan: model je već određen implementacijom koju ste stvorili na strani Azurea; endpoint pokazuje na njega i samo na njega. Promjena modela stoga znači promjenu endpointa, a ne promjenu niza znakova u kodu.
Strujanje (streaming), međutim, ne mijenja ni jotu u usporedbi s izravnim API-jem—ista metoda, ista razina .data za dosezanje sadržaja isječka. U tome i jest poanta jedinstvenog SDK-a: kod koji ste napisali u prethodnim lekcijama radi kakav jest.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Opišite arhitekturu jezerskog spremišta podataka na Azureu."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Isti poziv u TypeScriptu
Na strani TypeScripta, Azure klijent objavljen je u zasebnom paketu, @mistralai/mistralai-azure, koji se instalira s npm add @mistralai/mistralai-azure. Njegove opcije slijede JavaScript konvencije imenovanja: apiKey i endpoint, obje su obavezne. Otuda validacija varijabli okruženja, bez koje strogi način rada odbija kompajliranje, jer varijabla okruženja može nedostajati:
import { MistralAzure } from '@mistralai/mistralai-azure';
const apiKey = process.env.AZUREAI_API_KEY;
const endpoint = process.env.AZUREAI_ENDPOINT;
if (!apiKey || !endpoint) {
throw new Error('Set AZUREAI_API_KEY and AZUREAI_ENDPOINT.');
}
const client = new MistralAzure({ apiKey, endpoint });
const response = await client.chat.complete({
model: 'azureai',
messages: [
{ role: 'user', content: 'Kako osigurati Azure Key Vault?' },
],
});
console.log(response.choices[0]?.message?.content);
Izvori: Mistral na Azureu (Mistral dokumentacija) · TypeScript SDK
@mistralai/mistralai-azure
Iskorištavanje ostatka platforme
Kada poziv jednom proradi, iskoristite usluge za koje već plaćate. Pohranite svoje ključeve u Azure Key Vault umjesto u varijable okruženja: rotacija postaje administrativna operacija, a ne ponovna implementacija. Omogućite dijagnostičke zapisnike na svom endpointu kako biste pratili kašnjenja i pogreške, što je jedini način da razlikujete sporost modela od sporosti koda. Odaberite europsku regiju, West Europe ili France Central, kako biste ostali usklađeni s GDPR-om—to je često upravo razlog odabira Azurea. Konačno, konfigurirajte Azure Monitor alerte na potrošnju tokena: loše zatvorena petlja u noćnom zadatku pojavit će se na računu mnogo kasnije nego na alertu.
Ključne točke
- Azure AI nudi Mistral u načinima serverless (MaaS) ili namjenski GPU
- Model je identificiran s
"azureai"u API pozivima - Klijent
MistralAzureprima endpoint putemserver_url(Python,mistralai.azure.client) iliendpoint(TypeScript,@mistralai/mistralai-azure) - Integracija s Azure ekosustavom (Key Vault, Monitor, Functions) velika je prednost za poduzeća
- Odaberite europsku regiju kako biste ostali usklađeni s GDPR-om