Azure AI: Il-Mudell bħala Servizz
F'din il-paġna
Mistral fuq Azure AI
Microsoft Azure huwa s-sieħeb primarju tas-sħaba ta’ Mistral AI. L-integrazzjoni ma’ Azure AI toffri mudelli bħala Model as a Service (MaaS), jiġifieri tikkonsmahom permezz ta’ API mingħajr ma timmaniġġja GPU waħda. Għal ħafna intrapriżi, il-fattur deċiżiv mhuwiex tekniku iżda organizzattiv: il-baġit tas-sħaba diġà jeżisti, l-aċċess huwa rregolat minn Azure AD, u ż-żieda ta’ Mistral fil-katalgu tfisser li tħaddem servizz ieħor minflok ma tinnegozja kuntratt ġdid. Din il-lezzjoni tkopri ż-żewġ approċċi ta’ dispjegament disponibbli u l-mudelli aċċessibbli.
Żewġ approċċi ta’ dispjegament
L-approċċ pay-as-you-go huwa l-aktar komuni. Tiddispjega endpoint mingħajr server (serverless) u tiġi fatturat biss għall-użu, għal kull token ikkunsmat, mingħajr bżonn ta’ kwota ta’ GPU. Il-bidu huwa immedjat peress li m’hemm xejn x’tipprovdi, m’hemm l-ebda kost fiss, l-iskalar isegwi d-domanda awtomatikament, u l-installazzjoni kollha tintegra nativament mal-ekosistema Azure. Din hija l-għażla predefinita sakemm it-traffiku tiegħek ikun irregolari.
L-approċċ tal-endpoints f’ħin reali (real-time endpoints) jindirizza l-każ oppost. Hawnhekk, tagħżel l-infrastruttura tal-GPU li fuqha jopera l-mudell u tiġi fatturat għas-sigħat tal-infrastruttura, irrispettivament mill-volum tat-talbiet. Il-prestazzjoni ssir prevedibbli u l-latenza garantita, li tiġġustifika l-kost fiss darba li t-throughput ikun kontinwu u sostnut. Pjattaforma li tipproċessa diversi mijiet ta’ eluf ta’ dokumenti kull lejl tibbenefika minn dan; assistent intern ikkonsultat tletin darba kuljum le.
Mudelli disponibbli fuq Azure
Azure joffri firxa wiesgħa ta’ mudelli ta’ Mistral, kemm għal skopijiet ġenerali kif ukoll speċjalizzati.
| Mudell | Profil |
|---|---|
| Mistral Large 3 | Mudell ewlieni (flagship), raġunament avvanzat |
| Mistral Large 24.07 / 24.11 | Verżjonijiet preċedenti, għadhom disponibbli |
| Mistral Medium 25.05 | Bilanċ tajjeb bejn prestazzjoni u kost |
| Mistral Small 25.03 | Ħafif u veloċi |
| Mistral Document AI | Ipproċessar tad-dokumenti |
| Mistral OCR | Rikonoxximent ottiku tal-karattri |
| Ministral 3B | Ultra-ħafif għal każijiet limitati (edge cases) |
| Mistral Nemo | Mudell versatili b’piżijiet miftuħa |
| Codestral | Speċjalizzat għall-kodiċi u l-ġenerazzjoni teknika |
Kif tiddispjega mudell fuq Azure
Tliet prerekwiżiti jikkundizzjonaw il-bqija: sottoskrizzjoni Azure attiva, aċċess għal Azure AI Studio permezz ta’ portal.azure.com, u grupp ta’ riżorsi kkonfigurat biex jospita r-riżorsa. Ladarba dawn l-elementi jkunu fil-post, id-dispjegament iseħħ kompletament mill-portal:
- Mur f’Azure AI Studio fil-portal ta’ Azure
- Ibbowżja lejn Model catalog > Mistral AI
- Agħżel il-mudell mixtieq
- Agħżel Pay-as-you-go jew Real-time endpoint
- Ikkonfigura l-isem tal-endpoint u r-reġjun
- Iddispjega u rkupra l-URL + iċ-ċavetta tal-API
Fit-tmiem ta’ dan l-aħħar pass, titlesta b’żewġ biċċiet ta’ informazzjoni li jmexxu kollox ieħor: l-URL tal-endpoint u ċ-ċavetta sigrieta assoċjata.
# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Secret API key
export AZUREAI_API_KEY="your-secret-key"
Dawn il-kmandi export jaħdmu għall-ittestjar lokali. Fil-produzzjoni, dawn iż-żewġ valuri għandhom ikunu f’maniġer tas-sigrieti—f’dan il-każ Azure Key Vault—u naraw fil-Lezzjoni 6 kif nirkuprawhom minn hemm mingħajr qatt ma niktbuhom xi mkien ieħor.
L-ewwel sejħa tal-API
Hekk tista’ tivverifika li l-endpoint tiegħek qed jirrispondi tassew.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
]
)
print(response.choices[0].message.content)
Dettall wieħed jistħoqqilhom attenzjoni għax iqarraq kważi kull żviluppatur li ġej mill-API diretta: il-parametru model huwa dejjem "azureai". Il-mudell attwali li qed tiġi mistoqsi huwa ddeterminat mill-endpoint li ddispjegajt, mhux minn din l-istringa. Jekk trid tbiddel il-mudelli, tiddispjega endpoint ieħor—li tikteb model="mistral-large-latest" hawnhekk ma jipproduċi xejn utli.
Differenzi mill-API diretta ta’ Mistral
| Aspett | API Diretta ta’ Mistral | Azure MaaS |
|---|---|---|
| Klijent Python | Mistral() | MistralAzure() |
| Parametru tal-mudell | Isem il-mudell | "azureai" |
| Awtentikazzjoni | Ċavetta tal-API ta’ Mistral | Ċavetta tal-API ta’ Azure |
| Fatturazzjoni | Mistral | Azure |
| Netwerk | Internet | Jista’ jkun privat (VNet) |
Meta tagħżel Azure
Azure isir l-għażla naturali meta l-kumpanija tiegħek diġà tgħix fl-ekosistema ta’ Microsoft u tisfrutta Azure AD, Key Vault, jew Monitor: l-integrazzjoni mbagħad tkollok kważi l-ebda kost. Il-ħtieġa għal konnettività tan-netwerk privat, permezz ta’ VNet jew Private Link, timbotta fl-istess direzzjoni, kif ukoll il-politiki ta’ konformità li jeħtieġu li d-data tibqa’ ma’ fornitur tas-sħaba ċċertifikat. Żid ma’ dan argument prosajku iżda spiss deċiżiv fil-kumitati tal-investiment: il-konsolidazzjoni tal-fatturazzjoni tas-sħaba f’entrata waħda.
Punti Ewlenin
- Azure joffri lil Mistral bħala MaaS (pay-as-you-go) jew endpoints f’ħin reali (GPU ddedikat)
- Il-klijent Python
MistralAzurejieħu post il-klijent standardMistral - Il-parametru
modelhuwa dejjem"azureai"—il-mudell jiddependi mill-endpoint - L-integrazzjoni nativa mal-ekosistema Azure (Key Vault, VNet, Monitor) hija vantaġġ kbir