Azure AI: Model as a Service
In questa pagina
Mistral su Azure AI
Microsoft Azure è il partner cloud principale di Mistral AI. L’integrazione con Azure AI offre modelli come Model as a Service (MaaS): li consumi tramite API senza dover gestire nemmeno una GPU. Per molte aziende, il fattore decisivo non è tecnico ma organizzativo: il budget cloud esiste già, l’accesso è governato da Azure AD e aggiungere Mistral al catalogo significa abilitare un servizio in più, invece di negoziare un nuovo contratto. Questa lezione copre i due approcci di deployment disponibili e i modelli accessibili.
Due approcci di deployment
L’approccio pay-as-you-go è il più comune. Distribuisci un endpoint serverless e vieni fatturato solo per l’utilizzo, a token consumato, senza bisogno di una quota GPU. L’avvio è immediato perché non c’è nulla da provisionare, non ci sono costi fissi, lo scaling segue automaticamente la domanda e l’intera configurazione si integra nativamente con l’ecosistema Azure. Questa è l’opzione predefinita finché il tuo traffico è irregolare.
L’approccio endpoint in tempo reale risponde al caso opposto. Qui scegli l’infrastruttura GPU su cui gira il modello e vieni fatturato per le ore di infrastruttura, indipendentemente dal volume delle richieste. Le prestazioni diventano prevedibili e la latenza garantita, il che giustifica il costo fisso una volta che il throughput è continuo e sostenuto. Una piattaforma che elabora diverse centinaia di migliaia di documenti ogni notte ne beneficia; un assistente interno consultato trenta volte al giorno no.
Modelli disponibili su Azure
Azure offre un’ampia gamma di modelli Mistral, sia generici che specializzati.
| Modello | Profilo |
|---|---|
| Mistral Large 3 | Modello di punta, ragionamento avanzato |
| Mistral Large 24.07 / 24.11 | Versioni precedenti, ancora disponibili |
| Mistral Medium 25.05 | Buon equilibrio prestazioni/costo |
| Mistral Small 25.03 | Leggero e veloce |
| Mistral Document AI | Elaborazione documenti |
| Mistral OCR | Riconoscimento ottico dei caratteri |
| Ministral 3B | Ultra-leggero per casi d’uso edge |
| Mistral Nemo | Modello open-weight versatile |
| Codestral | Specializzato in codice e generazione tecnica |
Distribuire un modello su Azure
Tre prerequisiti condizionano tutto il resto: una sottoscrizione Azure attiva, l’accesso ad Azure AI Studio tramite portal.azure.com e un gruppo di risorse configurato per ospitare la risorsa. Una volta pronti questi elementi, il deployment avviene interamente dal portale:
- Vai su Azure AI Studio nel portale Azure
- Naviga su Catalogo modelli > Mistral AI
- Seleziona il modello desiderato
- Scegli Pay-as-you-go o Endpoint in tempo reale
- Configura il nome dell’endpoint e la regione
- Distribuisci e recupera l’URL + la chiave API
Alla fine di quest’ultimo passo, ti ritrovi con due informazioni che guidano tutto il resto: l’URL dell’endpoint e la chiave segreta associata.
# Your Azure endpoint URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Secret API key
export AZUREAI_API_KEY="your-secret-key"
Questi comandi export funzionano per i test locali. In produzione, questi due valori vanno inseriti in un secrets manager, in questo caso Azure Key Vault, e vedremo nella Lezione 6 come recuperarli da lì senza scriverli mai altrove.
Prima chiamata API
Ecco come verificare che il tuo endpoint risponda effettivamente.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Explain Bayes' theorem in 3 sentences."}
]
)
print(response.choices[0].message.content)
Un dettaglio merita la tua attenzione perché manda in tilt quasi tutti gli sviluppatori che arrivano dall’API diretta: il parametro model è sempre "azureai". Il modello effettivo interrogato è determinato dall’endpoint che hai distribuito, non da questa stringa. Se vuoi cambiare modello, distribuisci un altro endpoint: scrivere qui model="mistral-large-latest" non produrrebbe nulla di utile.
Differenze rispetto all’API Mistral diretta
| Aspetto | API Mistral diretta | Azure MaaS |
|---|---|---|
| Client Python | Mistral() | MistralAzure() |
| Parametro modello | Nome del modello | "azureai" |
| Autenticazione | Chiave API Mistral | Chiave API Azure |
| Fatturazione | Mistral | Azure |
| Rete | Internet | Può essere privata (VNet) |
Quando scegliere Azure
Azure diventa la scelta naturale quando la tua azienda vive già nell’ecosistema Microsoft e sfrutta Azure AD, Key Vault o Monitor: l’integrazione costa allora quasi nulla. La necessità di connettività di rete privata, tramite VNet o Private Link, spinge nella stessa direzione, così come le policy di compliance che richiedono che i dati restino presso un cloud provider certificato. Aggiungi a questo un argomento prosaico ma spesso decisivo nei comitati di investimento: consolidare la fatturazione cloud su un’unica voce.
Punti chiave
- Azure offre Mistral come MaaS (pay-as-you-go) o endpoint in tempo reale (GPU dedicata)
- Il client Python
MistralAzuresostituisce il client standardMistral - Il parametro
modelè sempre"azureai": il modello dipende dall’endpoint - L’integrazione nativa con l’ecosistema Azure (Key Vault, VNet, Monitor) è un vantaggio decisivo