Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Mistral na Azure AI

Lekcija 11 od 14 Ažurirano 3. studenoga 2026. Programer
Na ovoj stranici
  1. Zašto koristiti Mistral putem Azurea?
  2. Odabir između serverless i namjenskog GPU-a
  3. Modeli dostupni na Azureu
  4. Dohvaćanje vjerodajnica
  5. Pozivanje modela u Pythonu
  6. Isti poziv u TypeScriptu
  7. Iskorištavanje ostatka platforme
  8. Ključne točke

Ažurirano 3. studenoga 2026.: Prethodni TypeScript primjer prosljeđivao je process.env.AZUREAI_API_KEY i process.env.AZUREAI_ENDPOINT izravno u MistralAzure. Budući da su obje opcije obavezne, TypeScript 7 u strogom načinu rada odbio je kompajliranje (provjereno s @mistralai/mistralai-azure 2.1.0). Varijable okruženja sada se validiraju prije izrade klijenta. Izvor: @mistralai/mistralai-azure SDK.

Zašto koristiti Mistral putem Azurea?

Ovo se pitanje rijetko postavlja zbog tehničkih razloga: izravni Mistral API savršeno funkcionira. Postavlja se zbog ugovornih i organizacijskih razloga. Tvrtka koja je već duboko ukorijenjena u Microsoftovom ekosustavu troši pregovarane obveze unutar Azurea, ima uspostavljene procese nabave i nema želju otvarati novi ugovor s dobavljačem za nekoliko tisuća eura vrijednih tokena.

Korištenje Azure AI konsolidira naplatu na vaš postojeći Azure ugovor, osigurava usklađenost s GDPR-om kroz europske regije, pruža izvornu integraciju s drugim Azure uslugama—Azure Functions, Cosmos DB, Azure ML—i nudi Microsoftovu podršku za poduzeća s odgovarajućim ugovorima o razini usluge (SLA). Ukratko: isti model, unutar okvira upravljanja koji je vaš IT odjel već odobrio.

Odabir između serverless i namjenskog GPU-a

Azure nudi dva pristupa, a izbor ovisi o pravilnosti vašeg opterećenja. Način plaćanja prema potrošnji, poznat i kao MaaS (Model as a Service), izlaže serverless API: nema GPU-ova za pripremu, plaćate samo za utrošene tokene, a Azure samostalno upravlja skaliranjem. Ovo je preporučeni način za većinu slučajeva upotrebe, posebno dok je vaš promet nepravilan ili nepredvidiv.

Real-time endpoints rješavaju suprotnu potrebu. Odabirete vrstu i broj GPU-ova, infrastruktura je namijenjena isključivo vama, a naplata se vrši po satu računanja—bilo da model radi ili miruje. Interni API koji neprestano koristi nekoliko tisuća korisnika odgovara ovom modelu; prototip kojem se pristupa tri puta dnevno ovdje će potrošiti puno novca. Zapamtite pravilo: ovaj je način preporučen za predvidiva opterećenja velikog propusnog opsega.

Modeli dostupni na Azureu

Mistralova dokumentacija navodi sljedeće modele na Azureu (popis preuzet 2. studenoga 2026.). Katalog se redovito ažurira: konzultirajte službenu stranicu za trenutni popis.

ModelPozicioniranje
Mistral Medium 3.5Dobar omjer performansi i cijene
Mistral Large 3 (25.12)Vodeći model za složene zadatke
Mistral Small (25.06)Brz i ekonomičan
Codestral (25.01)Specijaliziran za generiranje koda
Ministral 3B (24.10)Kompaktan model za lagane zadatke
Document AI (OCR 4)Ekstrakcija teksta i strukture u dokumentima

Dohvaćanje vjerodajnica

Dohvaćanje vjerodajnica odvija se putem Azure sučelja i traje nekoliko minuta:

  1. Idite na Microsoft Foundry
  2. Stvorite projekt ili odaberite postojeći
  3. Implementirajte Mistral model iz kataloga modela
  4. Preuzmite svoju endpoint adresu i API ključ sa stranice implementacije

Postavite ove dvije vrijednosti u varijable okruženja, točno kao i izravni Mistral ključ. Razlika je u endpointu: svaka Azure implementacija ima svoj vlastiti; ne postoji zajednički URL.

export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com"
export AZUREAI_API_KEY="your-azure-secret-key"

Pozivanje modela u Pythonu

Mistral SDK pruža namjenskog Azure klijenta, MistralAzure, uključenog u paket mistralai: proslijedite mu URL svoje implementacije i ključ, a ostatak koda identičan je onome što pišete za izravni API. Od verzije SDK-a 2.0 (ožujak 2026.), uvozi se iz mistralai.azure.client.

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"],
)

response = client.chat.complete(
    model="azureai",  # Identifikator koji očekuju Azure endpointi
    messages=[
        {"role": "user", "content": "Koje su prednosti suverenog oblaka u Europi?"}
    ]
)

print(response.choices[0].message.content)

Najzbunjujuća točka leži u parametru model. Očekujete da ćete napisati mistral-large-latest; umjesto toga, morate staviti azureai. Razlog je jednostavan: model je već određen implementacijom koju ste stvorili na strani Azurea; endpoint pokazuje na njega i samo na njega. Promjena modela stoga znači promjenu endpointa, a ne promjenu niza znakova u kodu.

Strujanje (streaming), međutim, ne mijenja ni jotu u usporedbi s izravnim API-jem—ista metoda, ista razina .data za dosezanje sadržaja isječka. U tome i jest poanta jedinstvenog SDK-a: kod koji ste napisali u prethodnim lekcijama radi kakav jest.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Opišite arhitekturu jezerskog spremišta podataka na Azureu."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Isti poziv u TypeScriptu

Na strani TypeScripta, Azure klijent objavljen je u zasebnom paketu, @mistralai/mistralai-azure, koji se instalira s npm add @mistralai/mistralai-azure. Njegove opcije slijede JavaScript konvencije imenovanja: apiKey i endpoint, obje su obavezne. Otuda validacija varijabli okruženja, bez koje strogi način rada odbija kompajliranje, jer varijabla okruženja može nedostajati:

import { MistralAzure } from '@mistralai/mistralai-azure';

const apiKey = process.env.AZUREAI_API_KEY;
const endpoint = process.env.AZUREAI_ENDPOINT;
if (!apiKey || !endpoint) {
  throw new Error('Set AZUREAI_API_KEY and AZUREAI_ENDPOINT.');
}

const client = new MistralAzure({ apiKey, endpoint });

const response = await client.chat.complete({
  model: 'azureai',
  messages: [
    { role: 'user', content: 'Kako osigurati Azure Key Vault?' },
  ],
});

console.log(response.choices[0]?.message?.content);

Izvori: Mistral na Azureu (Mistral dokumentacija) · TypeScript SDK @mistralai/mistralai-azure

Iskorištavanje ostatka platforme

Kada poziv jednom proradi, iskoristite usluge za koje već plaćate. Pohranite svoje ključeve u Azure Key Vault umjesto u varijable okruženja: rotacija postaje administrativna operacija, a ne ponovna implementacija. Omogućite dijagnostičke zapisnike na svom endpointu kako biste pratili kašnjenja i pogreške, što je jedini način da razlikujete sporost modela od sporosti koda. Odaberite europsku regiju, West Europe ili France Central, kako biste ostali usklađeni s GDPR-om—to je često upravo razlog odabira Azurea. Konačno, konfigurirajte Azure Monitor alerte na potrošnju tokena: loše zatvorena petlja u noćnom zadatku pojavit će se na računu mnogo kasnije nego na alertu.

Ključne točke

  • Azure AI nudi Mistral u načinima serverless (MaaS) ili namjenski GPU
  • Model je identificiran s "azureai" u API pozivima
  • Klijent MistralAzure prima endpoint putem server_url (Python, mistralai.azure.client) ili endpoint (TypeScript, @mistralai/mistralai-azure)
  • Integracija s Azure ekosustavom (Key Vault, Monitor, Functions) velika je prednost za poduzeća
  • Odaberite europsku regiju kako biste ostali usklađeni s GDPR-om