Azure AI: Múnla mar Sheirbhís
Ar an leathanach seo
Mistral ar Azure AI
Is é Microsoft Azure an príomhpháirtí scamaill de chuid Mistral AI. Tairgeann an comhtháthú Azure AI múnlaí mar Múnla mar Sheirbhís (MaaS), rud a chiallaíonn go n-úsáideann tú iad trí API gan aon GPU amháin a bhainistiú. Do go leor fiontar, ní teicniúil an fachtóir cinntitheach ach eagraíochtúil: tá an buiséad scamaill ann cheana, rialaítear rochtain trí Azure AD, agus ciallaíonn Mistral a chur leis an gcatagóir seirbhís amháin eile a chumasú seachas conradh nua a idirbheartú. Clúdaíonn an ceacht seo an dá chur chuige imlonnaithe atá ar fáil agus na múnlaí inrochtana.
Dhá chur chuige imlonnaithe
Is é an cur chuige íoc de réir úsáide an ceann is coitianta. Imlonnaíonn tú críochphointe gan freastalaí (serverless) agus gearrtar táille ort ach amháin as an úsáid, in aghaidh gach token a ídítear, gan gá le cuóta GPU. Tá an tosú láithreach toisc nach bhfuil aon rud le soláthar, níl aon chostais sheasta ann, leanann scálú an t-éileamh go huathoibríoch, agus comhtháthaíonn an socrú iomlán go dúchasach le héiceachóras Azure. Seo an rogha réamhshocraithe fad is atá do thrácht neamhrialta.
Díríonn an cur chuige críochphointí fíor-ama ar an gcás contrártha. Anseo, roghnaíonn tú an bonneagar GPU ar a ritheann an múnla agus gearrtar táille ort as uaireanta an bhonneagair, beag beann ar líon na n-iarratas. Éiríonn an fheidhmíocht intuartha agus ráthaítear an moill, rud a fhíoraíonn an costas seasta nuair a bhíonn an tréchur leanúnach agus inbhuanaithe. Baineann ardán a phróiseálann na céadta mílte doiciméad gach oíche tairbhe as seo; ní bhaineann cúntóir inmheánach a ndéantar comhairle a lorg air tríocha uair sa lá.
Múnlaí atá ar fáil ar Azure
Tairgeann Azure raon leathan de mhúnlaí Mistral, idir ghinearálta agus speisialaithe.
| Múnla | Próifíl |
|---|---|
| Mistral Large 3 | Príomhmhúnla, réasúnaíocht chun cinn |
| Mistral Large 24.07 / 24.11 | Leaganacha roimhe seo, fós ar fáil |
| Mistral Medium 25.05 | Cothromaíocht mhaith idir feidhmíocht agus costas |
| Mistral Small 25.03 | Éadrom agus tapa |
| Mistral Document AI | Próiseáil doiciméad |
| Mistral OCR | Aitheantas optúil carachtair |
| Ministral 3B | An-éadrom do chásanna imeallacha |
| Mistral Nemo | Múnla ilúsáideach le meáchain oscailte |
| Codestral | Speisialaithe i gcód agus giniúint theicniúil |
Múnla a imlonnú ar Azure
Tá trí réamhriachtanas ag brath ar an gcuid eile: síntiús Azure gníomhach, rochtain ar Azure AI Studio trí portal.azure.com, agus grúpa acmhainní cumraithe chun an acmhainn a óstáil. Nuair a bheidh na heilimintí seo ina n-áit, tarlaíonn an t-imlonnú go hiomlán ón bportál:
- Téigh go Azure AI Studio sa phortál Azure
- Navigáil go Model catalog > Mistral AI
- Roghnaigh an múnla atá uait
- Roghnaigh Pay-as-you-go nó Real-time endpoint
- Cumraigh ainm an chríochphointe agus an réigiún
- Imlonnaigh agus faigh an URL + eochair API
Ag deireadh na céime seo, beidh dhá thosa agat a stiúrann gach rud eile: URL an chríochphointe agus an eochair rúnda gaolmhar.
# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Secret API key
export AZUREAI_API_KEY="your-secret-key"
Oibríonn na horduithe export seo le haghaidh tástála áitiúla. Sa táirgeadh, ba chóir an dá luach seo a bheith i mbainisteoir rúnda—Azure Key Vault sa chás seo—agus feicfidh tú i gCeacht 6 conas iad a fháil ón áit sin gan iad a scríobh in áit ar bith eile riamh.
An chéad ghlaoch API
Seo conas a fhíoraíonn tú go bhfuil do chríochphointe ag freagairt i ndáiríre.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
]
)
print(response.choices[0].message.content)
Tá mionsonra amháin a thuilleann do aire toisc go gcuireann sé isteach ar bheagnach gach forbróir a thagann ón API díreach: tá an paraiméadar model i gcónaí "azureai". Is é an críochphointe a d’imlonnaigh tú a chinneann an múnla iarbhír atá á cheistiú, ní an teaghrán seo. Más mian leat múnlaí a athrú, imlonnaíonn tú críochphointe eile—dá scríobhfá model="mistral-large-latest" anseo, ní chruthódh sé aon rud úsáideach.
Difríochtaí ón API Mistral díreach
| Gné | API Mistral Díreach | Azure MaaS |
|---|---|---|
| Cliant Python | Mistral() | MistralAzure() |
| Paraiméadar múnla | Ainm an mhúnla | "azureai" |
| Fíordheimhniú | Eochair API Mistral | Eochair API Azure |
| Billeáil | Mistral | Azure |
| Líonra | Idirlíon | Is féidir a bheith príobháideach (VNet) |
Cathain Azure a roghnú
Éiríonn Azure an rogha nádúrtha nuair a mhaireann do chuideachta cheana féin in éiceachóras Microsoft agus a úsáideann sí Azure AD, Key Vault, nó Monitor: ansin, is beag costas a bhaineann leis an gcomhtháthú. Brúnn an ghá le nascacht líonra príobháideach, trí VNet nó Private Link, sa treo céanna, mar a dhéanann polasaithe comhlíonta a éilíonn go bhfanfaidh na sonraí le soláthraí scamaill deimhnithe. Cuir leis seo argóint phróiseach ach go minic cinntitheach i gcoistí infheistíochta: billeáil scamaill a chomhdhlúthú ar mhír líne amháin.
Príomhphointí
- Tairgeann Azure Mistral mar MaaS (íoc de réir úsáide) nó mar chríochphointí fíor-ama (GPU tiomnaithe)
- Cuireann an cliant Python
MistralAzurein ionad an chliaint chaighdeánaighMistral - Tá an paraiméadar
modeli gcónaí"azureai"—braitheann an múnla ar an gcríochphointe - Is buntáiste mór é an comhtháthú dúchasach le héiceachóras Azure (Key Vault, VNet, Monitor)