Azure AI: Model as a Service
Tällä sivulla
Mistral Azure AI:ssa
Microsoft Azure on Mistral AI:n ensisijainen kumppani pilvipalveluissa. Azure AI -integraatio tarjoaa malleja Model as a Service (MaaS) -mallilla, mikä tarkoittaa, että käytät niitä API:n kautta ilman, että sinun tarvitsee hallita yhtäkään GPU:ta. Monille yrityksille ratkaiseva tekijä ei ole tekninen vaan organisaatioon liittyvä: pilvibudjetti on jo olemassa, käyttöä hallitaan Azure AD:n kautta ja Mistralin lisääminen luetteloon tarkoittaa yhden palvelun käyttöönottoa uuden sopimuksen neuvottelemisen sijaan. Tämä oppitunti käsittelee kahta saatavilla olevaa käyttöönottostrategiaa ja käytettävissä olevia malleja.
Kaksi käyttöönottostrategiaa
Pay-as-you-go (maksa käytön mukaan) on yleisin lähestymistapa. Otat käyttöön palvelimettoman päätepisteen, ja sinulta veloitetaan vain käytöstä kulutettujen tokenien perusteella ilman GPU-kiintiön tarvetta. Käynnistys on välitön, koska mitään ei tarvitse varata, kiinteitä kustannuksia ei ole, skaalautuminen seuraa kysyntää automaattisesti ja koko asennus integroituu natiivisti Azure-ekosysteemiin. Tämä on oletusvaihtoehto niin kauan kuin liikenteesi on epäsäännöllistä.
Reaaliaikaiset päätepisteet (real-time endpoints) vastaavat päinvastaista tilannetta. Tässä valitset GPU-infrastruktuurin, jolla malli suoritetaan, ja sinulta veloitetaan infrastruktuuritunneista riippumatta pyyntöjen määrästä. Suorituskyky muuttuu ennustettavaksi ja viive taatuksi, mikä oikeuttaa kiinteät kustannukset, kun läpivirtaus on jatkuvaa ja kestävää. Alusta, joka käsittelee useita satoja tuhansia dokumentteja joka yö, hyötyy tästä; sisäinen avustaja, jota kuullaan kolmekymmentä kertaa päivässä, ei hyödy.
Azuressa saatavilla olevat mallit
Azure tarjoaa laajan valikoiman Mistral-malleja, sekä yleiskäyttöisiä että erikoistuneita.
| Malli | Profiili |
|---|---|
| Mistral Large 3 | Lippulaivamalli, edistynyt päättelykyky |
| Mistral Large 24.07 / 24.11 | Edelliset versiot, edelleen saatavilla |
| Mistral Medium 25.05 | Hyvä suorituskyvyn ja hinnan suhde |
| Mistral Small 25.03 | Kevyt ja nopea |
| Mistral Document AI | Dokumenttien käsittely |
| Mistral OCR | Optinen merkkien tunnistus |
| Ministral 3B | Erittäin kevyt reunatilanteisiin |
| Mistral Nemo | Monipuolinen avoimen painoarvon malli |
| Codestral | Erikoistunut koodiin ja tekniseen generointiin |
Mallin käyttöönotto Azuressa
Kolme edellytystä määrittävät jatkotoimet: aktiivinen Azure-tilaus, pääsy Azure AI Studioon osoitteessa portal.azure.com ja resurssiryhmä, joka on määritetty isännöimään resurssia. Kun nämä elementit ovat paikallaan, käyttöönotto tapahtuu kokonaan portaalin kautta:
- Siirry Azure-portaalissa kohtaan Azure AI Studio
- Navigoi kohtaan Model catalog > Mistral AI
- Valitse haluamasi malli
- Valitse Pay-as-you-go tai Real-time endpoint
- Määritä päätepisteen nimi ja alue
- Ota käyttöön ja hae URL-osoite sekä API-avain
Tämän viimeisen vaiheen jälkeen sinulla on kaksi tietoa, jotka ohjaavat kaikkea muuta: päätepisteen URL-osoite ja siihen liittyvä salainen avain.
# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Secret API key
export AZUREAI_API_KEY="your-secret-key"
Nämä export-komennot toimivat paikallisessa testauksessa. Tuotannossa nämä kaksi arvoa kuuluvat salaisuuksien hallintaan – tässä tapauksessa Azure Key Vaultiin – ja näemme oppitunnilla 6, miten ne haetaan sieltä kirjoittamatta niitä koskaan muualle.
Ensimmäinen API-kutsu
Näin varmistat, että päätepisteesi todella vastaa.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
]
)
print(response.choices[0].message.content)
Yksi yksityiskohta ansaitsee huomiosi, koska se kompastuttaa lähes jokaisen suoraan API:sta tulevan kehittäjän: parametri model on aina "azureai". Itse asiassa kysytty malli määräytyy käyttöönotetun päätepisteen perusteella, ei tämän merkkijonon perusteella. Jos haluat vaihtaa mallia, otat käyttöön toisen päätepisteen – kirjoittamalla tähän model="mistral-large-latest" et saa aikaan mitään hyödyllistä.
Erot suoraan Mistral API:hin verrattuna
| Näkökohta | Suora Mistral API | Azure MaaS |
|---|---|---|
| Python-asiakasohjelma | Mistral() | MistralAzure() |
| Malliparametri | Mallin nimi | "azureai" |
| Todennus | Mistral API -avain | Azure API -avain |
| Laskutus | Mistral | Azure |
| Verkko | Internet | Voi olla yksityinen (VNet) |
Milloin valita Azure
Azure on luonnollinen valinta, kun yrityksesi elää jo Microsoft-ekosysteemissä ja hyödyntää Azure AD:tä, Key Vaultia tai Monitoria: integraatio maksaa tällöin lähes nothing. Tarve yksityiseen verkkoyhteyteen VNetin tai Private Linkin kautta työntää samaan suuntaan, samoin kuin vaatimustenmukaisuuskäytännöt, jotka edellyttävät datan pysymistä sertifioidun pilvipalveluntarjoajan luona. Lisää tähän proosallinen mutta usein ratkaiseva argumentti investointikomiteoissa: pilvilaskutuksen konsolidointi yhteen laskuriviin.
Keskeiset asiat
- Azure tarjoaa Mistralin MaaS-mallina (pay-as-you-go) tai reaaliaikaisina päätepisteinä (omistettu GPU)
- Python-asiakasohjelma
MistralAzurekorvaa vakioasiakasohjelmanMistral - Parametri
modelon aina"azureai"– malli riippuu päätepisteestä - Natiivi integraatio Azure-ekosysteemiin (Key Vault, VNet, Monitor) on merkittävä etu