Azure AI: Model jako usługa
Na tej stronie
Mistral w Azure AI
Microsoft Azure jest głównym partnerem chmurowym Mistral AI. Integracja z Azure AI udostępnia modele w ramach modelu Model jako usługa (MaaS), co oznacza, że korzystasz z nich przez API bez konieczności zarządzania choćby jednym procesorem GPU. Dla wielu przedsiębiorstw czynnik decydujący nie ma charakteru technicznego, lecz organizacyjny: budżet chmurowy już istnieje, dostęp reguluje Azure AD, a dodanie Mistral do katalogu oznacza po prostu włączenie kolejnej usługi, zamiast negocjowania nowej umowy. W tej lekcji omówimy dwa dostępne podejścia do wdrażania oraz dostępne modele.
Dwa podejścia do wdrażania
Podejście płatne zgodnie z użyciem (pay-as-you-go) jest najczęstsze. Wdrażasz punkt końcowy typu serverless i płacisz tylko za rzeczywiste użycie, naliczane za każdy zużyty token, bez potrzeby przydzielania kwoty na GPU. Uruchomienie jest natychmiastowe, ponieważ nie ma nic do aprowizowania, nie ma kosztów stałych, skalowanie podąża automatycznie za popytem, a cała konfiguracja integruje się natywnie z ekosystemem Azure. Jest to opcja domyślna, dopóki Twój ruch jest nieregularny.
Podejście punktów końcowych czasu rzeczywistego (real-time endpoints) rozwiązuje przeciwny przypadek. Tutaj wybierasz infrastrukturę GPU, na której działa model, i płacisz za godziny pracy infrastruktury, niezależnie od liczby żądań. Wydajność staje się przewidywalna, a opóźnienie gwarantowane, co uzasadnia koszt stały, gdy przepustowość jest ciągła i utrzymana na wysokim poziomie. Platforma przetwarzająca co noc setki tysięcy dokumentów skorzysta na tym rozwiązaniu; wewnętrzny asystent używany trzydziestokrotnie dziennie – już nie.
Modele dostępne w Azure
Azure oferuje szeroki zakres modeli Mistral, zarówno ogólnego przeznaczenia, jak i wyspecjalizowanych.
| Model | Profil |
|---|---|
| Mistral Large 3 | Model flagowy, zaawansowane wnioskowanie |
| Mistral Large 24.07 / 24.11 | Poprzednie wersje, nadal dostępne |
| Mistral Medium 25.05 | Dobry balans między wydajnością a kosztem |
| Mistral Small 25.03 | Lekki i szybki |
| Mistral Document AI | Przetwarzanie dokumentów |
| Mistral OCR | Optyczne rozpoznawanie znaków |
| Ministral 3B | Ultralekki do przypadków brzegowych |
| Mistral Nemo | Wszechstronny model z otwartymi wagami |
| Codestral | Wyspecjalizowany w generowaniu kodu i treści technicznych |
Wdrażanie modelu w Azure
Trzy warunki wstępne determinują dalsze kroki: aktywne subskrypcja Azure, dostęp do Azure AI Studio poprzez portal.azure.com oraz grupa zasobów skonfigurowana do hostowania zasobu. Gdy te elementy są gotowe, wdrożenie odbywa się całkowicie z poziomu portalu:
- Przejdź do Azure AI Studio w portalu Azure
- Nawiguj do Katalog modeli > Mistral AI
- Wybierz pożądany model
- Wybierz opcję Płatne zgodnie z użyciem lub Punkt końcowy czasu rzeczywistego
- Skonfiguruj nazwę punktu końcowego i region
- Wdróż i pobierz adres URL oraz klucz API
Na koniec tego ostatniego kroku otrzymujesz dwie informacje, które napędzają wszystko inne: adres URL punktu końcowego i powiązany klucz tajny.
# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Secret API key
export AZUREAI_API_KEY="your-secret-key"
Te polecenia export działają do testów lokalnych. W środowisku produkcyjnym te dwie wartości powinny trafić do menedżera sekretów – w tym przypadku Azure Key Vault – a w Lekcji 6 zobaczysz, jak je stamtąd pobierać, nigdy nigdzie indziej ich nie zapisując.
Pierwsze wywołanie API
Oto sposób na sprawdzenie, czy Twój punkt końcowy faktycznie odpowiada.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
]
)
print(response.choices[0].message.content)
Jeden szczegół zasługuje na Twoją uwagę, ponieważ myli prawie każdego dewelopera przechodzącego z bezpośredniego API: parametr model musi zawsze mieć wartość "azureai". Rzeczywisty model, do którego się odwołujesz, jest określony przez wdrożony punkt końcowy, a nie przez ten ciąg znaków. Jeśli chcesz zmienić model, wdrażasz inny punkt końcowy – wpisanie tutaj model="mistral-large-latest" nie przyniesie żadnego użytecznego rezultatu.
Różnice względem bezpośredniego API Mistral
| Aspekt | Bezpośrednie API Mistral | Azure MaaS |
|---|---|---|
| Klient Python | Mistral() | MistralAzure() |
| Parametr modelu | Nazwa modelu | "azureai" |
| Uwierzytelnianie | Klucz API Mistral | Klucz API Azure |
| Rozliczenia | Mistral | Azure |
| Sieć | Internet | Może być prywatna (VNet) |
Kiedy wybrać Azure
Azure staje się naturalnym wyborem, gdy Twoja firma funkcjonuje już w ekosystemie Microsoft i wykorzystuje Azure AD, Key Vault lub Monitor: integracja kosztuje wtedy niemal nic. Potrzeba prywatnego połączenia sieciowego, przez VNet lub Private Link, również przemawia za tym rozwiązaniem, podobnie jak polityki zgodności wymagające, aby dane pozostały u certyfikowanego dostawcy chmury. Dołóż do tego prozaiczny, ale często decydujący argument w komitetach inwestycyjnych: konsolidację rozliczeń chmurowych w jednej pozycji księgowej.
Kluczowe wnioski
- Azure oferuje Mistral jako MaaS (płatne zgodnie z użyciem) lub punkty końcowe czasu rzeczywistego (dedykowane GPU)
- Klient Python
MistralAzurezastępuje standardowego klientaMistral - Parametr
modelzawsze ma wartość"azureai"– model zależy od punktu końcowego - Natywna integracja z ekosystemem Azure (Key Vault, VNet, Monitor) to ogromna zaleta