Azure AI: Model jako služba
Na této stránce
Mistral na Azure AI
Microsoft Azure je hlavním cloudovým partnerem společnosti Mistral AI. Integrace s Azure AI nabízí modely jako Model jako služba (MaaS), což znamená, že je využíváš prostřednictvím API, aniž bys musel spravovat jedinou GPU. Pro mnoho podniků není rozhodujícím faktorem technická stránka, ale organizační: rozpočet na cloud již existuje, přístup je řízen prostřednictvím Azure AD a přidání Mistralu do katalogu znamená pouze povolení další služby, nikoliv vyjednávání nové smlouvy. Tato lekce pokrývá dva dostupné přístupy k nasazení a dostupné modely.
Dva přístupy k nasazení
Nejběžnější je přístup pay-as-you-go (plať podle využití). Nasadíš serverless endpoint a platíš pouze za skutečné využití, tedy za každý spotřebovaný token, bez nutnosti mít přidělenou kvótu GPU. Spuštění je okamžité, protože není co nasazovat, nevznikají žádné fixní náklady, škálování automaticky následuje poptávku a celé nastavení se nativně integruje s ekosystémem Azure. Toto je výchozí volba, dokud je tvůj provoz nepravidelný.
Přístup s real-time endpointy řeší opačný případ. Zde si vybíráš GPU infrastrukturu, na které model běží, a platíš za hodiny infrastruktury bez ohledu na objem požadavků. Výkon se stává předvídatelným a latence zaručenou, což ospravedlňuje fixní náklady, jakmile je propustnost kontinuální a trvalá. Platforma zpracovávající každou noc stovky tisíc dokumentů z toho těží; interní asistent dotazovaný třicetkrát denně nikoliv.
Modely dostupné na Azure
Azure nabízí širokou škálu modelů Mistral, jak obecných, tak specializovaných.
| Model | Profil |
|---|---|
| Mistral Large 3 | Vlajková loď, pokročilé usuzování |
| Mistral Large 24.07 / 24.11 | Předchozí verze, stále dostupné |
| Mistral Medium 25.05 | Dobrý poměr výkon/cena |
| Mistral Small 25.03 | Lehký a rychlý |
| Mistral Document AI | Zpracování dokumentů |
| Mistral OCR | Optické rozpoznávání znaků |
| Ministral 3B | Ultra-lehký pro specifické případy |
| Mistral Nemo | Všestranný model s otevřenými váhami |
| Codestral | Specializovaný na kód a technickou generaci |
Nasazení modelu na Azure
Tři předpoklady podmíní vše ostatní: aktivní předplatné Azure, přístup k Azure AI Studio přes portal.azure.com a skupina prostředků nakonfigurovaná pro hostování zdroje. Jakmile jsou tyto prvky připraveny, probíhá nasazení zcela z portálu:
- Přejdi do Azure AI Studio na portálu Azure
- Naviguj do Katalog modelů > Mistral AI
- Vyber požadovaný model
- Zvol Pay-as-you-go nebo Real-time endpoint
- Nakonfiguruj název endpointu a region
- Nasaď a získej URL + API klíč
Na konci tohoto posledního kroku získáš dvě informace, které řídí vše ostatní: URL endpointu a přidružený tajný klíč.
# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Secret API key
export AZUREAI_API_KEY="your-secret-key"
Tyto příkazy export fungují pro lokální testování. V produkčním prostředí patří tyto dvě hodnoty do správce tajných údajů – v tomto případě Azure Key Vault – a v lekci 6 uvidíme, jak je odtud získat, aniž bys je musel někde zapisovat.
První volání API
Zde je návod, jak ověřit, že tvůj endpoint skutečně odpovídá.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
]
)
print(response.choices[0].message.content)
Jeden detail si zaslouží tvou pozornost, protože mate téměř každého vývojáře přicházejícího z přímého API: parametr model je vždy "azureai". Skutečný model, který je dotazován, je určen endpointem, který jsi nasadil, nikoliv tímto řetězcem. Pokud chceš změnit modely, nasadíš jiný endpoint – zápis model="mistral-large-latest" by zde nepřinesl žádný užitečný výsledek.
Rozdíly oproti přímému API Mistral
| Aspekt | Přímé API Mistral | Azure MaaS |
|---|---|---|
| Python klient | Mistral() | MistralAzure() |
| Parametr modelu | Název modelu | "azureai" |
| Autentizace | API klíč Mistral | API klíč Azure |
| Fakturace | Mistral | Azure |
| Síť | Internet | Může být privátní (VNet) |
Kdy zvolit Azure
Azure se stává přirozenou volbou, když vaše firma již žije v ekosystému Microsoftu a využívá Azure AD, Key Vault nebo Monitor: integrace pak stojí téměř nic. Potřeba připojení k privátní síti prostřednictvím VNet nebo Private Link tlačí stejným směrem, stejně jako politiky shody vyžadující, aby data zůstala u certifikovaného cloudového poskytovatele. Přidej k tomu prozaický, ale často rozhodující argument pro investiční výbory: konsolidaci cloudové fakturace do jediné položky.
Klíčové poznatky
- Azure nabízí Mistral jako MaaS (pay-as-you-go) nebo real-time endpointy (vyhrazená GPU)
- Python klient
MistralAzurenahrazuje standardního klientaMistral - Parametr
modelje vždy"azureai"– model závisí na endpointu - Natívní integrace s ekosystémem Azure (Key Vault, VNet, Monitor) je hlavní výhodou