Mistral az Azure AI-n
Ezen az oldalon
Frissítve: 2026. november 3.: A korábbi TypeScript példa közvetlenül adta át a
process.env.AZUREAI_API_KEYésprocess.env.AZUREAI_ENDPOINTváltozókat aMistralAzurekonstruktornak. Mivel mindkét opció kötelező, a TypeScript 7 szigorú módban megtagadta a fordítást (ellenőrizve a@mistralai/mistralai-azure2.1.0 verziójával). A környezeti változókat most a kliens létrehozása előtt validáljuk. Forrás:@mistralai/mistralai-azureSDK.
Miért érdemes a Mistralt az Azure-on keresztül használni?
Ez a kérdés ritkán merül fel technikai okokból: a közvetlen Mistral API tökéletesen működik. A kérdés inkább szerződéses és szervezeti okokból vetődik fel. Egy olyan vállalat, amely már beágyazódott a Microsoft ökoszisztémájába, egy kialkudott Azure-kötelezettséget fogyaszt, rendelkezik kialakított beszerzési folyamatokkal, és nincs kedve új szállítói szerződést kötni néhány ezer euró értékű tokenért.
Az Azure AI használata konszolidálja a számlázást a meglévő Azure-szerződésedre, biztosítja a GDPR-megfelelést az európai régiókon keresztül, natív integrációt kínál más Azure-szolgáltatásokkal – Azure Functions, Cosmos DB, Azure ML –, és Microsoft vállalati támogatást nyújt a megfelelő szolgáltatásszint-megállapodásokkal (SLA). Röviden: ugyanaz a modell, azon a governancia-perimeteren belül, amelyet az IT-osztályod már jóváhagyott.
Szervermentes vagy dedikált GPU választása
Az Azure két megközelítést kínál, és a választás a munkaterhelésed regularitásától függ. A fizess-használd alapon működő mód, más néven MaaS (Model as a Service), egy szervermentes API-t tesz elérhetővé: nincs szükség GPU-k lefoglalására, csak a felhasznált tokenekért fizetsz, és az Azure egyedül kezeli a méretezést. Ez a javasolt mód a legtöbb használathoz, különösen akkor, ha a forgalmad szabálytalan vagy kiszámíthatatlan.
A valós idejű végpontok (real-time endpoints) az ellenkező igényt elégítik ki. Kiválasztod a GPU típusát és mennyiségét, az infrastruktúra kizárólag a tiéd, és a számlázás számítási óránként történik – függetlenül attól, hogy a modell dolgozik vagy tétlen. Egy belső API, amelyet naponta több ezer felhasználó hív meg, illik ehhez a modellhez; egy prototípus, amelyet naponta háromszor érnek el, itt rengeteg pénzt pazarolna. Ne feledd a szabályt: ez a mód kiszámítható, nagy átviteli sebességű munkaterhelések esetén javasolt.
Az Azure-on elérhető modellek
A Mistral dokumentációja a következő modelleket sorolja fel az Azure-on (lista lekérve: 2026. november 2.). A katalógus rendszeresen frissül: a jelenlegi listáért lásd a hivatalos oldalt.
| Modell | Pozicionálás |
|---|---|
| Mistral Medium 3.5 | Jó teljesítmény/költség arány |
| Mistral Large 3 (25.12) | Zászlóshajó modell komplex feladatokhoz |
| Mistral Small (25.06) | Gyors és gazdaságos |
| Codestral (25.01) | Kódgenerálásra specializálódva |
| Ministral 3B (24.10) | Kompakt modell könnyű feladatokhoz |
| Document AI (OCR 4) | Szöveg és struktúra kinyerése dokumentumokból |
Hitelesítő adatok beszerzése
A hitelesítő adatok lekérése az Azure felületén keresztül történik, és néhány percet vesz igénybe:
- Navigálj a Microsoft Foundry oldalra
- Hozz létre egy projektet, vagy válassz ki egy meglévőt
- Telepíts egy Mistral modellt a modellkatalógusból
- Szerezd be a végpontot (endpoint) és az API-kulcsot a telepítési oldalról
Helyezd ezt a két értéket környezeti változókba, pontosan úgy, mint a közvetlen Mistral-kulcsot. A különbség a végpontban rejlik: minden Azure-telepítésnek saját végpontja van; nincs közös URL.
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com"
export AZUREAI_API_KEY="your-azure-secret-key"
A modell meghívása Pythonban
A Mistral SDK egy dedikált Azure-klienst biztosít, a MistralAzure-t, amely a mistralai csomag része: átadod neki a telepítési URL-t és a kulcsot, a kód többi része pedig azonos azzal, amit a közvetlen API-hoz írsz. Az SDK 2.0-s verziója (2026. március) óta ez a mistralai.azure.client modulból importálható.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"],
)
response = client.chat.complete(
model="azureai", # Az Azure-végpontok által várt azonosító
messages=[
{"role": "user", "content": "Mik az előnyei a szuverén felhőnek Európában?"}
]
)
print(response.choices[0].message.content)
A legzavaróbb pont a model paraméterben rejlik. Azt várnád, hogy a mistral-large-latest értéket írod be; ehelyett az azureai értéket kell megadnod. Az ok egyszerű: a modellt már a Azure-oldalon létrehozott telepítésed határozza meg; a végpont erre és csak erre mutat. A modell váltása tehát a végpont megváltoztatását jelenti, nem pedig egy karakterlánc módosítását a kódban.
A streamelés azonban egy betűnyit sem változik a közvetlen API-hoz képest – ugyanaz a metódus, ugyanaz a .data szint a chunk tartalmának eléréséhez. Ez egy egységes SDK lényege: a korábbi leckékben írt kódod változatlanul működik.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Írd le egy adat-tó architektúráját az Azure-on."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Ugyanez a hívás TypeScript-ben
TypeScript oldalon az Azure-kliens egy külön csomagban érhető el, a @mistralai/mistralai-azure-ben, amelyet az npm add @mistralai/mistralai-azure paranccsal telepíthetsz. Az opciók követik a JavaScript konvencióit: apiKey és endpoint, mindkettő kötelező. Innen ered a környezeti változók validálása, amely nélkül a szigorú mód megtagadja a fordítást, mivel egy környezeti változó hiányozhat:
import { MistralAzure } from '@mistralai/mistralai-azure';
const apiKey = process.env.AZUREAI_API_KEY;
const endpoint = process.env.AZUREAI_ENDPOINT;
if (!apiKey || !endpoint) {
throw new Error('Set AZUREAI_API_KEY and AZUREAI_ENDPOINT.');
}
const client = new MistralAzure({ apiKey, endpoint });
const response = await client.chat.complete({
model: 'azureai',
messages: [
{ role: 'user', content: 'Hogyan védjünk meg egy Azure Key Vaultot?' },
],
});
console.log(response.choices[0]?.message?.content);
Források: Mistral az Azure-on (Mistral dokumentáció) · TypeScript SDK
@mistralai/mistralai-azure
A platform többi részének kihasználása
Ha a hívás működik, használd ki azokat a szolgáltatásokat, amelyekért már fizetsz. Tárold a kulcsaidat az Azure Key Vaultban a környezeti változók helyett: a kulcscsere így adminisztratív műveletté válik, nem pedig újratelepítéssé. Engedélyezd a diagnosztikai naplókat a végpontodon a késleltetés és a hibák monitorozásához; ez az egyetlen módja annak, hogy megkülönböztesd a modell lassúságát a kód lassúságától. Válassz európai régiót, például West Europe vagy France Central központot, hogy GDPR-kompatibilis maradj – ez gyakran maga az oka az Azure választásának. Végül konfigurálj Azure Monitor riasztásokat a tokenfogyasztásra: egy éjszakai munkafolyamatban rosszul lezárt ciklus sokkal később jelenik meg a számlán, mint egy riasztásban.
Főbb megállapítások
- Az Azure AI a Mistralt szervermentes (MaaS) vagy dedikált GPU módban kínálja
- A modellt az API-hívásokban az
"azureai"azonosító jelöli - A
MistralAzurekliens a végpontot aserver_url(Python,mistralai.azure.client) vagy azendpoint(TypeScript,@mistralai/mistralai-azure) paraméteren keresztül kapja meg - Az Azure ökoszisztémával (Key Vault, Monitor, Functions) való integráció jelentős előny a vállalatok számára
- Válassz európai régiót a GDPR-megfelelés biztosításához