Mistral в Azure AI
На тази страница
Обновено на 3 ноември 2026 г.: Предишният пример с TypeScript предаваше
process.env.AZUREAI_API_KEYиprocess.env.AZUREAI_ENDPOINTдиректно наMistralAzure. Тъй като и двете опции са задължителни, TypeScript 7 в стриктен режим отказваше компилация (потвърдено с@mistralai/mistralai-azure2.1.0). Променливите на средата вече се валидират преди създаването на клиента. Източник:@mistralai/mistralai-azureSDK.
Защо да използвате Mistral чрез Azure?
Този въпрос рядко възниква поради технически причини: директният API на Mistral работи безупречно. Той се появява поради договорни и организационни съображения. Компания, вече интегрирана в екосистемата на Microsoft, използва договорен ангажимент за Azure, има установени процеси за доставки и няма желание да сключва нов договор с доставчик за няколко хиляди евро токени.
Използването на Azure AI консолидира фактурирането във вашия съществуващ договор за Azure, осигурява съответствие с GDPR чрез европейски региони, предлага нативна интеграция с други услуги на Azure – Azure Functions, Cosmos DB, Azure ML – и предоставя корпоративна поддръжка от Microsoft със съответните споразумения за ниво на обслужване (SLA). Накратко: същият модел, но в рамките на периметъра за управление, който вашият ИТ отдел вече е одобрил.
Избор между serverless и dedicate GPU
Azure предлага два подхода и изборът зависи от регулярността на вашето натоварване. Режимът „плащане според използването“ (pay-as-you-go), известен още като MaaS (Model as a Service), излага serverless API: няма GPU за предоставяне, плащате само за консумираните токени, а Azure се грижи единствено за мащабирането. Това е препоръчителният режим за повечето случаи на употреба, особено докато трафикът ви е неравномерен или непредсказуем.
Крайните точки в реално време (Real-time endpoints) отговарят на противоположната нужда. Вие избирате типа и броя на GPU, инфраструктурата е предназначена само за вас, а фактурирането се извършва на компютърен час – независимо дали моделът работи, или е в режим на готовност. Вътрешен API, постоянно използван от няколко хиляди потребители, отговаря на този модел; прототип, достъпван три пъти на ден, ще разпилее много пари тук. Запомнете правилото: този режим се препоръчва за предсказуеми натоварвания с висока пропускателна способност.
Модели, налични в Azure
Документацията на Mistral изброява следните модели в Azure (списъкът е извлечен на 2 ноември 2026 г.). Каталогът се развива редовно: консултирайте се с официалната страница за актуалния списък.
| Модел | Позициониране |
|---|---|
| Mistral Medium 3.5 | Добро съотношение производителност/цена |
| Mistral Large 3 (25.12) | Флагмански модел за сложни задачи |
| Mistral Small (25.06) | Бърз и икономичен |
| Codestral (25.01) | Специализиран в генерирането на код |
| Ministral 3B (24.10) | Компактен модел за леки задачи |
| Document AI (OCR 4) | Извличане на текст и структура в документи |
Получаване на вашите удостоверителни данни
Извличането на удостоверителни данни става чрез интерфейса на Azure и отнема няколко минути:
- Отидете на Microsoft Foundry
- Създайте проект или изберете съществуващ такъв
- Разположете (deploy) модел на Mistral от каталога с модели
- Вземете вашата крайна точка (endpoint) и API ключ от страницата за разполагане
Поставете тези две стойности в променливи на средата, точно както бихте направили с директния ключ на Mistral. Разликата е в крайната точка: всяко разполагане в Azure има своя собствена; няма общ URL адрес.
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com"
export AZUREAI_API_KEY="your-azure-secret-key"
Извикване на модела в Python
SDK на Mistral предоставя специализиран клиент за Azure, MistralAzure, включен в пакета mistralai: предавате му вашия URL адрес за разполагане и ключ, а останалата част от кода е идентична с тази, която пишете за директния API. От версия 2.0 на SDK (март 2026 г.) той се импортира от mistralai.azure.client.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"],
)
response = client.chat.complete(
model="azureai", # Идентификатор, очакван от крайните точки на Azure
messages=[
{"role": "user", "content": "What are the benefits of sovereign cloud in Europe?"}
]
)
print(response.choices[0].message.content)
Най-объркващият момент се крие в параметъра model. Очаквате да напишете mistral-large-latest; вместо това трябва да поставите azureai. Причината е проста: моделът вече е определен от разполагането, което сте създали от страната на Azure; крайната точка сочи към него и само към него. Следователно смяната на модел означава смяна на крайни точки, а не смяна на низ в кода.
Стриймингът обаче не се променя нито на йота в сравнение с директния API – същият метод, същото ниво .data за достигане до съдържанието на чанка. В това се състои цялата смисъл на унифициран SDK: кодът, който сте написали в предишните уроци, работи така, както си е.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Describe the architecture of a data lake on Azure."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
Същото извикване в TypeScript
От страна на TypeScript, клиентът за Azure е публикуван в отделен пакет, @mistralai/mistralai-azure, инсталиран с npm add @mistralai/mistralai-azure. Неговите опции следват JavaScript конвенциите за именуване: apiKey и endpoint, като и двете са задължителни. Оттук идва и необходимостта от валидиране на променливите на средата, без което стриктният режим отказва компилация, тъй като една променлива на средата може да липсва:
import { MistralAzure } from '@mistralai/mistralai-azure';
const apiKey = process.env.AZUREAI_API_KEY;
const endpoint = process.env.AZUREAI_ENDPOINT;
if (!apiKey || !endpoint) {
throw new Error('Set AZUREAI_API_KEY and AZUREAI_ENDPOINT.');
}
const client = new MistralAzure({ apiKey, endpoint });
const response = await client.chat.complete({
model: 'azureai',
messages: [
{ role: 'user', content: 'How to secure an Azure Key Vault?' },
],
});
console.log(response.choices[0]?.message?.content);
Източници: Mistral в Azure (документация на Mistral) · TypeScript SDK
@mistralai/mistralai-azure
Използване на останалата част от платформата
След като извикването работи, използвайте услугите, за които вече плащате. Съхранявайте ключовете си в Azure Key Vault, вместо в променливи на средата: ротацията става административна операция, а не повторно разполагане. Активирайте диагностичните дневници на вашата крайна точка, за да следите латентността и грешките – единственият начин да разграничите бавността на модела от бавността на кода. Изберете европейски регион, West Europe или France Central, за да останете в съответствие с GDPR – това често е самата причина за избора на Azure. Накрая, конфигурирайте известия в Azure Monitor за консумацията на токени: лошо затворен цикъл в нощна задача се появява във фактурата много по-късно, отколкото в известие.
Ключови изводи
- Azure AI предлага Mistral в режими serverless (MaaS) или dedicated GPU
- Моделът се идентифицира чрез
"azureai"в API извикванията - Клиентът
MistralAzureприема крайната точка чрезserver_url(Python,mistralai.azure.client) илиendpoint(TypeScript,@mistralai/mistralai-azure) - Интеграцията с екосистемата на Azure (Key Vault, Monitor, Functions) е основно предимство за предприятията
- Изберете европейски регион, за да останете в съответствие с GDPR