Премини към основното съдържание
Български— Изберете език
Меню

Mistral в Azure AI

Урок 11 от 14 Обновен 3 ноември 2026 г. Програмист
На тази страница
  1. Защо да използвате Mistral чрез Azure?
  2. Избор между serverless и dedicate GPU
  3. Модели, налични в Azure
  4. Получаване на вашите удостоверителни данни
  5. Извикване на модела в Python
  6. Същото извикване в TypeScript
  7. Използване на останалата част от платформата
  8. Ключови изводи

Обновено на 3 ноември 2026 г.: Предишният пример с TypeScript предаваше process.env.AZUREAI_API_KEY и process.env.AZUREAI_ENDPOINT директно на MistralAzure. Тъй като и двете опции са задължителни, TypeScript 7 в стриктен режим отказваше компилация (потвърдено с @mistralai/mistralai-azure 2.1.0). Променливите на средата вече се валидират преди създаването на клиента. Източник: @mistralai/mistralai-azure SDK.

Защо да използвате Mistral чрез Azure?

Този въпрос рядко възниква поради технически причини: директният API на Mistral работи безупречно. Той се появява поради договорни и организационни съображения. Компания, вече интегрирана в екосистемата на Microsoft, използва договорен ангажимент за Azure, има установени процеси за доставки и няма желание да сключва нов договор с доставчик за няколко хиляди евро токени.

Използването на Azure AI консолидира фактурирането във вашия съществуващ договор за Azure, осигурява съответствие с GDPR чрез европейски региони, предлага нативна интеграция с други услуги на Azure – Azure Functions, Cosmos DB, Azure ML – и предоставя корпоративна поддръжка от Microsoft със съответните споразумения за ниво на обслужване (SLA). Накратко: същият модел, но в рамките на периметъра за управление, който вашият ИТ отдел вече е одобрил.

Избор между serverless и dedicate GPU

Azure предлага два подхода и изборът зависи от регулярността на вашето натоварване. Режимът „плащане според използването“ (pay-as-you-go), известен още като MaaS (Model as a Service), излага serverless API: няма GPU за предоставяне, плащате само за консумираните токени, а Azure се грижи единствено за мащабирането. Това е препоръчителният режим за повечето случаи на употреба, особено докато трафикът ви е неравномерен или непредсказуем.

Крайните точки в реално време (Real-time endpoints) отговарят на противоположната нужда. Вие избирате типа и броя на GPU, инфраструктурата е предназначена само за вас, а фактурирането се извършва на компютърен час – независимо дали моделът работи, или е в режим на готовност. Вътрешен API, постоянно използван от няколко хиляди потребители, отговаря на този модел; прототип, достъпван три пъти на ден, ще разпилее много пари тук. Запомнете правилото: този режим се препоръчва за предсказуеми натоварвания с висока пропускателна способност.

Модели, налични в Azure

Документацията на Mistral изброява следните модели в Azure (списъкът е извлечен на 2 ноември 2026 г.). Каталогът се развива редовно: консултирайте се с официалната страница за актуалния списък.

МоделПозициониране
Mistral Medium 3.5Добро съотношение производителност/цена
Mistral Large 3 (25.12)Флагмански модел за сложни задачи
Mistral Small (25.06)Бърз и икономичен
Codestral (25.01)Специализиран в генерирането на код
Ministral 3B (24.10)Компактен модел за леки задачи
Document AI (OCR 4)Извличане на текст и структура в документи

Получаване на вашите удостоверителни данни

Извличането на удостоверителни данни става чрез интерфейса на Azure и отнема няколко минути:

  1. Отидете на Microsoft Foundry
  2. Създайте проект или изберете съществуващ такъв
  3. Разположете (deploy) модел на Mistral от каталога с модели
  4. Вземете вашата крайна точка (endpoint) и API ключ от страницата за разполагане

Поставете тези две стойности в променливи на средата, точно както бихте направили с директния ключ на Mistral. Разликата е в крайната точка: всяко разполагане в Azure има своя собствена; няма общ URL адрес.

export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com"
export AZUREAI_API_KEY="your-azure-secret-key"

Извикване на модела в Python

SDK на Mistral предоставя специализиран клиент за Azure, MistralAzure, включен в пакета mistralai: предавате му вашия URL адрес за разполагане и ключ, а останалата част от кода е идентична с тази, която пишете за директния API. От версия 2.0 на SDK (март 2026 г.) той се импортира от mistralai.azure.client.

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"],
)

response = client.chat.complete(
    model="azureai",  # Идентификатор, очакван от крайните точки на Azure
    messages=[
        {"role": "user", "content": "What are the benefits of sovereign cloud in Europe?"}
    ]
)

print(response.choices[0].message.content)

Най-объркващият момент се крие в параметъра model. Очаквате да напишете mistral-large-latest; вместо това трябва да поставите azureai. Причината е проста: моделът вече е определен от разполагането, което сте създали от страната на Azure; крайната точка сочи към него и само към него. Следователно смяната на модел означава смяна на крайни точки, а не смяна на низ в кода.

Стриймингът обаче не се променя нито на йота в сравнение с директния API – същият метод, същото ниво .data за достигане до съдържанието на чанка. В това се състои цялата смисъл на унифициран SDK: кодът, който сте написали в предишните уроци, работи така, както си е.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Describe the architecture of a data lake on Azure."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Същото извикване в TypeScript

От страна на TypeScript, клиентът за Azure е публикуван в отделен пакет, @mistralai/mistralai-azure, инсталиран с npm add @mistralai/mistralai-azure. Неговите опции следват JavaScript конвенциите за именуване: apiKey и endpoint, като и двете са задължителни. Оттук идва и необходимостта от валидиране на променливите на средата, без което стриктният режим отказва компилация, тъй като една променлива на средата може да липсва:

import { MistralAzure } from '@mistralai/mistralai-azure';

const apiKey = process.env.AZUREAI_API_KEY;
const endpoint = process.env.AZUREAI_ENDPOINT;
if (!apiKey || !endpoint) {
  throw new Error('Set AZUREAI_API_KEY and AZUREAI_ENDPOINT.');
}

const client = new MistralAzure({ apiKey, endpoint });

const response = await client.chat.complete({
  model: 'azureai',
  messages: [
    { role: 'user', content: 'How to secure an Azure Key Vault?' },
  ],
});

console.log(response.choices[0]?.message?.content);

Източници: Mistral в Azure (документация на Mistral) · TypeScript SDK @mistralai/mistralai-azure

Използване на останалата част от платформата

След като извикването работи, използвайте услугите, за които вече плащате. Съхранявайте ключовете си в Azure Key Vault, вместо в променливи на средата: ротацията става административна операция, а не повторно разполагане. Активирайте диагностичните дневници на вашата крайна точка, за да следите латентността и грешките – единственият начин да разграничите бавността на модела от бавността на кода. Изберете европейски регион, West Europe или France Central, за да останете в съответствие с GDPR – това често е самата причина за избора на Azure. Накрая, конфигурирайте известия в Azure Monitor за консумацията на токени: лошо затворен цикъл в нощна задача се появява във фактурата много по-късно, отколкото в известие.

Ключови изводи

  • Azure AI предлага Mistral в режими serverless (MaaS) или dedicated GPU
  • Моделът се идентифицира чрез "azureai" в API извикванията
  • Клиентът MistralAzure приема крайната точка чрез server_url (Python, mistralai.azure.client) или endpoint (TypeScript, @mistralai/mistralai-azure)
  • Интеграцията с екосистемата на Azure (Key Vault, Monitor, Functions) е основно предимство за предприятията
  • Изберете европейски регион, за да останете в съответствие с GDPR