Azure AI: Model as a Service
Auf dieser Seite
Mistral auf Azure AI
Microsoft Azure ist der primäre Cloud-Partner von Mistral AI. Die Integration in Azure AI bietet Modelle als Model as a Service (MaaS) an, was bedeutet, dass Sie diese über eine API verbrauchen, ohne eine einzige GPU verwalten zu müssen. Für viele Unternehmen ist der entscheidende Faktor nicht technisch, sondern organisatorisch: Das Cloud-Budget existiert bereits, der Zugriff wird durch Azure AD geregelt, und die Hinzunahme von Mistral zum Katalog bedeutet lediglich die Aktivierung eines weiteren Dienstes statt die Verhandlung eines neuen Vertrags. Diese Lektion behandelt die beiden verfügbaren Bereitstellungsansätze und die zugänglichen Modelle.
Zwei Bereitstellungsansätze
Der Ansatz Pay-as-you-go ist der häufigste. Sie stellen einen serverlosen Endpunkt bereit und werden nur für die tatsächliche Nutzung, pro verbrauchtem Token, berechnet. Es ist keine GPU-Quota erforderlich. Der Start erfolgt sofort, da nichts bereitgestellt werden muss, es gibt keine Fixkosten, die Skalierung erfolgt automatisch nach der Nachfrage, und die gesamte Einrichtung integriert sich nativ mit dem Azure-Ökosystem. Dies ist die Standardoption, solange Ihr Datenverkehr unregelmäßig ist.
Der Ansatz Real-time Endpoints adressiert den gegenteiligen Fall. Hier wählen Sie die GPU-Infrastruktur, auf der das Modell läuft, und werden für Infrastrukturstunden berechnet, unabhängig vom Anfragevolumen. Die Leistung wird vorhersehbar und die Latenz garantiert, was die Fixkosten rechtfertigt, sobald der Durchsatz kontinuierlich und nachhaltig ist. Eine Plattform, die jede Nacht mehrere hunderttausend Dokumente verarbeitet, profitiert davon; ein interner Assistent, der dreißigmal am Tag konsultiert wird, nicht.
Auf Azure verfügbare Modelle
Azure bietet eine breite Palette von Mistral-Modellen, sowohl allgemeine als auch spezialisierte.
| Modell | Profil |
|---|---|
| Mistral Large 3 | Flaggschiff-Modell, fortgeschrittene Reasoning-Fähigkeiten |
| Mistral Large 24.07 / 24.11 | Vorherige Versionen, immer noch verfügbar |
| Mistral Medium 25.05 | Gutes Verhältnis von Leistung zu Kosten |
| Mistral Small 25.03 | Leichtgewichtig und schnell |
| Mistral Document AI | Verarbeitung von Dokumenten |
| Mistral OCR | Optische Zeichenerkennung |
| Ministral 3B | Ultra-leichtgewichtig für Randfälle |
| Mistral Nemo | Vielseitiges Modell mit offenen Gewichten |
| Codestral | Spezialisiert für Code und technische Generierung |
Bereitstellen eines Modells auf Azure
Drei Voraussetzungen bestimmen den weiteren Ablauf: ein aktives Azure-Abonnement, Zugriff auf Azure AI Studio über portal.azure.com und eine Ressourcengruppe, die konfiguriert ist, um die Ressource zu hosten. Sobald diese Elemente vorhanden sind, erfolgt die Bereitstellung vollständig über das Portal:
- Gehen Sie im Azure-Portal zu Azure AI Studio
- Navigieren Sie zu Modellkatalog > Mistral AI
- Wählen Sie das gewünschte Modell aus
- Wählen Sie Pay-as-you-go oder Real-time Endpoint
- Konfigurieren Sie den Endpunktnamen und die Region
- Bereitstellen und die URL sowie den API-Schlüssel abrufen
Am Ende dieses letzten Schrittes verfügen Sie über zwei Informationen, die alles Weitere steuern: die Endpunkt-URL und den zugehörigen geheimen Schlüssel.
# Ihre Azure-Endpunkt-URL
export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com/v1/chat/completions"
# Geheimer API-Schlüssel
export AZUREAI_API_KEY="your-secret-key"
Diese export-Befehle funktionieren für lokale Tests. In der Produktion gehören diese beiden Werte in einen Secrets Manager – in diesem Fall Azure Key Vault – und wir werden in Lektion 6 sehen, wie Sie diese dort abrufen, ohne sie jemals an anderer Stelle zu schreiben.
Erster API-Aufruf
Hier ist, wie Sie überprüfen können, ob Ihr Endpunkt tatsächlich antwortet.
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Erklären Sie den Satz von Bayes in drei Sätzen."}
]
)
print(response.choices[0].message.content)
Ein Detail verdient Ihre Aufmerksamkeit, da es fast jeden Entwickler, der von der direkten API kommt, in die Irre führt: Der Parameter model ist immer "azureai"". Das tatsächlich abgefragte Modell wird durch den bereitgestellten Endpunkt bestimmt, nicht durch diesen String. Wenn Sie Modelle ändern möchten, stellen Sie einen weiteren Endpunkt bereit – die Eingabe von model=“mistral-large-latest”` hier würde nichts Nützliches produzieren.
Unterschiede zur direkten Mistral-API
| Aspekt | Direkte Mistral-API | Azure MaaS |
|---|---|---|
| Python-Client | Mistral() | MistralAzure() |
| Modell-Parameter | Modellname | "azureai" |
| Authentifizierung | Mistral API-Schlüssel | Azure API-Schlüssel |
| Abrechnung | Mistral | Azure |
| Netzwerk | Internet | Kann privat sein (VNet) |
Wann Azure die richtige Wahl ist
Azure wird zur natürlichen Wahl, wenn Ihr Unternehmen bereits im Microsoft-Ökosystem lebt und Azure AD, Key Vault oder Monitor nutzt: Die Integration kostet dann fast nichts. Die Notwendigkeit einer privaten Netzwerkverbindung über VNet oder Private Link treibt in dieselbe Richtung, wie auch Compliance-Richtlinien, die verlangen, dass Daten bei einem zertifizierten Cloud-Anbieter verbleiben. Fügen Sie dazu einen prosaischen, aber oft entscheidenden Argument in Investitionskomitees hinzu: Die Konsolidierung der Cloud-Abrechnung auf einen einzigen Posten.
Kernaussagen
- Azure bietet Mistral als MaaS (Pay-as-you-go) oder als Real-time Endpoints (dedizierte GPU) an
- Der Python-Client
MistralAzureersetzt den Standard-ClientMistral - Der Parameter
modelist immer"azureai"– das Modell hängt vom Endpunkt ab - Die native Integration mit dem Azure-Ökosystem (Key Vault, VNet, Monitor) ist ein großer Vorteil