Mistral per Azure AI
Šiame puslapyje
Atnaujinta 2026 m. lapkričio 3 d.: Anksčiau „TypeScript“ pavyzdyje
process.env.AZUREAI_API_KEYirprocess.env.AZUREAI_ENDPOINTbuvo tiesiogiai perduodamiMistralAzure. Kadangi abu parametrai yra privalomi, griežtuoju režimu veikiantis „TypeScript 7“ atsisakė kompiliuoti kodą (patikrinta su@mistralai/mistralai-azure2.1.0 versija). Dabar kintamieji iš aplinkos patikrinami prieš kuriant klientą. Šaltinis:@mistralai/mistralai-azureSDK.
Kodėl verta naudoti „Mistral“ per „Azure“?
Šis klausimas retai kyla dėl techninių priežasčių: tiesioginė „Mistral“ API veikia puikiai. Jis kyla dėl sutartinių ir organizacinių aplinkybių. Įmonė, jau įsiliejusi į „Microsoft“ ekosistemą, naudoja derėtą „Azure“ įsipareigojimą, turi nusistovėjusius pirkimo procesus ir nenori sudaryti naujos tiekėjo sutarties dėl kelių tūkstančių eurų vertės tokenų.
„Azure AI“ naudojimas suvienija sąskaitų faktūrų išrašymą pagal esamą „Azure“ sutartį, užtikrina BDAR (GDPR) atitiktį naudojant Europos regionus, suteikia vietinę integraciją su kitomis „Azure“ paslaugomis („Azure Functions“, „Cosmos DB“, „Azure ML“) ir siūlo „Microsoft“ įmonių lygio palaikymą su atitinkamais paslaugų lygio susitarimais. Trumpai tariant: tas pats modelis, veikiantis jūsų IT skyriaus jau patvirtintame valdymo perimetre.
Serverless ir dedikuotų GPU pasirinkimas
„Azure“ siūlo du būdus, o pasirinkimas priklauso nuo jūsų darbo krūvio reguliarumo. Mokėjimo pagal poreikį režimas, dar vadinamas MaaS (Modelis kaip paslauga), pateikia serverless API: nereikia tiekti GPU, mokate tik už sunaudotus tokenus, o „Azure“ pati valdo mastelio keitimą. Tai rekomenduojamas režimas daugeliui naudojimo atvejų, ypač kol jūsų srautas yra nereguliarus arba nenuspėjamas.
Realaus laiko galutiniai taškai (Real-time endpoints) skirti priešingiems poreikiams. Jūs pasirenkate GPU tipą ir kiekį, infrastruktūra yra skirta tik jums, o atsiskaitymas vyksta už kompiuterijos valandas – nesvarbu, ar modelis dirba, ar laisvas. Vidinė API, kurią nuolat naudoja keli tūkstančiai vartotojų, tinka šiam modeliui; prototipas, kuriuo naudojamasi tris kartus per dieną, čia švaistys daug pinigų. Atminkite taisyklę: šis režimas rekomenduojamas numatomoms didelės apimties darbo apkrovoms.
„Azure“ prieinami modeliai
„Mistral“ dokumentacijoje nurodyti šie „Azure“ modeliai (sąrašas gautas 2026 m. lapkričio 2 d.). Katalogas nuolat atnaujinamas: dabartinį sąrašą rasite oficialiame puslapyje.
| Modelis | Pozicionavimas |
|---|---|
| Mistral Medium 3.5 | Geras našumo ir kainos santykis |
| Mistral Large 3 (25.12) | Pagrindinis modelis sudėtingoms užduotims |
| Mistral Small (25.06) | Greitas ir ekonomiškas |
| Codestral (25.01) | Specializuotas kodų generavimui |
| Ministral 3B (24.10) | Kompaktiškas modelis lengvoms užduotims |
| Document AI (OCR 4) | Teksto ir struktūros ištraukimas iš dokumentų |
Prisijungimo duomenų gavimas
Prisijungimo duomenų gavimas vyksta per „Azure“ sąsają ir trunka kelias minutes:
- Eikite į Microsoft Foundry
- Sukurkite projektą arba pasirinkite esamą
- Dislokuokite „Mistral“ modelį iš modelių katalogo
- Dislokavimo puslapyje gaukite savo galutinį tašką (endpoint) ir API raktą
Šias dvi reikšmes įdėkite į aplinkos kintamuosius lygiai taip pat, kaip ir tiesioginį „Mistral“ raktą. Skirtumas slypi galutiniame taške: kiekvienas „Azure“ dislokavimas turi savo; bendro URL nėra.
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com"
export AZUREAI_API_KEY="your-azure-secret-key"
Modelio kvietimas naudojant „Python“
„Mistral“ SDK turi specialų „Azure“ klientą MistralAzure, įtrauktą į mistralai paketą: jam perduodate savo dislokavimo URL ir raktą, o likusi kodo dalis yra identiška tai, kurią rašote tiesioginei API. Nuo SDK 2.0 versijos (2026 m. kovas) jis importuojamas iš mistralai.azure.client.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"],
)
response = client.chat.complete(
model="azureai", # Identifikatorius, kurio tikisi „Azure“ galiniai taškai
messages=[
{"role": "user", "content": "Kokie yra suverenių debesų privalumai Europoje?"}
]
)
print(response.choices[0].message.content)
Sudėtingiausias momentas slypi parametre model. Tikiesi rašyti mistral-large-latest, tačiau turi įvesti azureai. Priežastis paprasta: modelis jau nustatytas „Azure“ pusėje sukurtame dislokavime; galutinis taškas nukreipia būtent į jį ir niekur kitur. Todėl norint pakeisti modelį, reikia keisti galinius taškus, o ne eilutę kode.
Tuo tarpu srautinis perdavimas (streaming) nesiskiria nė lašeliu nuo tiesioginės API – tas pats metodas, tas pats .data lygmuo fragmento turiniui pasiekti. Būtent tai yra unifikuoto SDK esmė: kodas, kurį parašei ankstesnėse pamokose, veikia taip, kaip yra.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Aprašykite duomenų ežero architektūrą „Azure“ aplinkoje."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Tas pats kvietimas naudojant „TypeScript“
„TypeScript“ pusėje „Azure“ klientas publikuojamas atskirame pakete @mistralai/mistralai-azure, įdiegiamame komanda npm add @mistralai/mistralai-azure. Jo parametrai laikosi „JavaScript“ rašybos konvencijų: apiKey ir endpoint, abu yra privalomi. Štai kodėl reikia patikrinti aplinkos kintamuosius; be to griežtas režimas atsisakys kompiliuoti, nes aplinkos kintamasis gali trūkti:
import { MistralAzure } from '@mistralai/mistralai-azure';
const apiKey = process.env.AZUREAI_API_KEY;
const endpoint = process.env.AZUREAI_ENDPOINT;
if (!apiKey || !endpoint) {
throw new Error('Nustatykite AZUREAI_API_KEY ir AZUREAI_ENDPOINT.');
}
const client = new MistralAzure({ apiKey, endpoint });
const response = await client.chat.complete({
model: 'azureai',
messages: [
{ role: 'user', content: 'Kaip apsaugoti „Azure Key Vault“?' },
],
});
console.log(response.choices[0]?.message?.content);
Šaltiniai: „Mistral“ per „Azure“ („Mistral“ dokumentacija) · „TypeScript“ SDK
@mistralai/mistralai-azure
Likusios platformos galimybių išnaudojimas
Kai kvietimas veikia, išnaudokite paslaugas, už kurias jau mokate. Saugokite savo raktus „Azure Key Vault“, o ne aplinkos kintamuosiuose: jų rotacija tampa administracine operacija, o ne nauju dislokavimu. Įgalinkite diagnostikos žurnalus savo galiniame taške, kad stebėtumėte delsą ir klaidas – tai vienintelis būdas atskirti modelio lėtumą nuo kodo lėtumo. Pasirinkite Europos regioną, pavyzdžiui, „West Europe“ arba „France Central“, kad išliktumėte BDAR (GDPR) reikalavimus atitinkantys – tai dažnai yra pagrindinė priežastis pasirinkti „Azure“. Galiausiai sukonfigūruokite „Azure Monitor“ įspėjimus apie tokenų vartojimą: prastai uždaryta kilpa naktinėje užduotyje sąskaitoje atsiras daug vėliau nei įspėjime.
Svarbiausi punktai
- „Azure AI“ siūlo „Mistral“ serverless (MaaS) arba dedikuotų GPU režimais
- API kvietimuose modelis identifikuojamas kaip
"azureai" MistralAzureklientas gauna galutinį tašką perserver_url(„Python“,mistralai.azure.client) arbaendpoint(„TypeScript“,@mistralai/mistralai-azure)- Integracija su „Azure“ ekosistema („Key Vault“, „Monitor“, „Functions“) yra didelis privalumas įmonėms
- Pasirinkite Europos regioną, kad išliktumėte BDAR (GDPR) reikalavimus atitinkantys