Mistral auf Azure AI

Aktualisiert am 3. November 2026: Das TypeScript-Beispiel übermittelte zuvor process.env.AZUREAI_API_KEY und process.env.AZUREAI_ENDPOINT direkt an MistralAzure. Da beide Optionen erforderlich sind, verweigerte TypeScript 7 im strengen Modus die Kompilierung (verifiziert mit @mistralai/mistralai-azure 2.1.0). Umgebungsvariablen werden nun vor der Konstruktion des Clients validiert. Quelle: @mistralai/mistralai-azure SDK.

Warum Mistral über Azure nutzen?

Diese Frage stellt sich selten aus technischen Gründen: Die direkte Mistral-API funktioniert einwandfrei. Sie ergibt sich vielmehr aus vertraglichen und organisatorischen Gründen. Ein Unternehmen, das bereits im Microsoft-Ökosystem verankert ist, verbraucht einen ausgehandelten Azure-Vertrag, verfügt über etablierte Beschaffungsprozesse und hat kein Interesse daran, einen neuen Lieferantenvertrag für einige tausend Euro an Token abzuschließen.

Die Nutzung von Azure AI konsolidiert die Abrechnung auf Ihren bestehenden Azure-Vertrag, gewährleistet die DSGVO-Konformität durch europäische Regionen, bietet eine native Integration mit anderen Azure-Diensten – Azure Functions, Cosmos DB, Azure ML – und stellt Microsoft-Enterprise-Support mit entsprechenden Service Level Agreements (SLA) bereit. Kurz gesagt: dasselbe Modell, innerhalb des Governance-Rahmens, den Ihre IT-Abteilung bereits genehmigt hat.

Wahl zwischen serverloser und dedizierter GPU

Azure bietet zwei Ansätze, und die Wahl hängt von der Regelmäßigkeit Ihrer Arbeitslast ab. Der Pay-as-you-go-Modus, auch bekannt als MaaS (Model as a Service), stellt eine serverlose API bereit: Es werden keine GPUs bereitgestellt, Sie zahlen nur für verbrauchte Token, und Azure übernimmt die Skalierung allein. Dies ist der empfohlene Modus für die meisten Anwendungsfälle, insbesondere während Ihr Verkehr unregelmäßig oder unvorhersehbar ist.

Real-Time-Endpunkte adressieren das gegenteilige Bedürfnis. Sie wählen die GPU-Typen und -Anzahl, die Infrastruktur ist Ihnen gewidmet, und die Abrechnung erfolgt pro Rechenstunde – ob das Modell arbeitet oder inaktiv ist. Eine interne API, die von mehreren tausend Nutzern kontinuierlich aufgerufen wird, passt zu diesem Modell; ein Prototyp, der dreimal am Tag aufgerufen wird, wird hier viel Geld verschwenden. Denken Sie an die Regel: Dieser Modus wird für vorhersehbare, hochvolumige Arbeitslasten empfohlen.

Auf Azure verfügbare Modelle

Die Mistral-Dokumentation listet folgende Modelle auf Azure auf (Liste abgerufen am 2. November 2026). Der Katalog entwickelt sich regelmäßig weiter: Konsultieren Sie die offizielle Seite für die aktuelle Liste.

Abrufen Ihrer Anmeldeinformationen

Das Abrufen der Anmeldeinformationen erfolgt über die Azure-Oberfläche und dauert einige Minuten:

1. Gehen Sie zu Microsoft Foundry
2. Erstellen Sie ein Projekt oder wählen Sie ein bestehendes aus
3. Deployen Sie ein Mistral-Modell aus dem Modellkatalog
4. Rufen Sie Ihren Endpunkt und Ihre API-Schlüssel auf der Bereitstellungsseite ab

Platzieren Sie diese beiden Werte in Umgebungsvariablen, genau wie beim direkten Mistral-Schlüssel. Der Unterschied liegt im Endpunkt: Jeder Azure-Bereitstellung ist ein eigener zugeordnet; es gibt keine gemeinsame URL.

export AZUREAI_ENDPOINT="https://your-endpoint.inference.ai.azure.com"
export AZUREAI_API_KEY="your-azure-secret-key"

Aufruf des Modells in Python

Das Mistral-SDK bietet einen dedizierten Azure-Client, MistralAzure, der im mistralai-Paket enthalten ist: Sie übermitteln ihm Ihre Bereitstellungs-URL und Ihren Schlüssel, und der Rest des Codes ist identisch mit dem, was Sie für die direkte API schreiben. Seit SDK-Version 2.0 (März 2026) wird es aus mistralai.azure.client importiert.

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"],
)

response = client.chat.complete(
    model="azureai",  # Vom Azure-Endpunkt erwarteter Identifier
    messages=[
        {"role": "user", "content": "Was sind die Vorteile einer souveränen Cloud in Europa?"}
    ]
)

print(response.choices[0].message.content)

Der verwirrendste Punkt liegt im model-Parameter. Sie erwarten, mistral-large-latest einzutragen; stattdessen müssen Sie azureai verwenden. Der Grund ist einfach: Das Modell wird bereits durch die Bereitstellung bestimmt, die Sie auf der Azure-Seite erstellt haben; der Endpunkt verweist darauf und auf nichts anderem. Das Ändern von Modellen bedeutet daher das Ändern von Endpunkten, nicht das Ändern eines Strings im Code.

Streaming ändert sich hingegen nicht im Geringsten im Vergleich zur direkten API – dieselbe Methode, dieselbe .data-Ebene, um den Chunk-Inhalt zu erreichen. Das ist der ganze Sinn eines einheitlichen SDKs: Der Code, den Sie in vorherigen Lektionen geschrieben haben, funktioniert so, wie er ist.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Beschreiben Sie die Architektur eines Data Lakes auf Azure."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Der gleiche Aufruf in TypeScript

Auf der TypeScript-Seite ist der Azure-Client in einem separaten Paket veröffentlicht, @mistralai/mistralai-azure, das mit npm add @mistralai/mistralai-azure installiert wird. Seine Optionen folgen der JavaScript-Schreibweise: apiKey und endpoint, beide erforderlich. Daher die Validierung der Umgebungsvariablen, ohne die der strenge Modus die Kompilierung verweigert, da eine Umgebungsvariable fehlen könnte:

import { MistralAzure } from '@mistralai/mistralai-azure';

const apiKey = process.env.AZUREAI_API_KEY;
const endpoint = process.env.AZUREAI_ENDPOINT;
if (!apiKey || !endpoint) {
  throw new Error('Set AZUREAI_API_KEY and AZUREAI_ENDPOINT.');
}

const client = new MistralAzure({ apiKey, endpoint });

const response = await client.chat.complete({
  model: 'azureai',
  messages: [
    { role: 'user', content: 'Wie sichert man einen Azure Key Vault?' },
  ],
});

console.log(response.choices[0]?.message?.content);

Quellen: Mistral on Azure (Mistral-Dokumentation) · TypeScript SDK @mistralai/mistralai-azure

Ausnutzung des Rests der Plattform

Sobald der Aufruf funktioniert, nutzen Sie die Dienste, für die Sie bereits zahlen. Speichern Sie Ihre Schlüssel im Azure Key Vault statt in Umgebungsvariablen: Rotation wird zu einer administrativen Operation, nicht zu einer Neudeployment. Aktivieren Sie Diagnoseprotokolle auf Ihrem Endpunkt, um Latenz und Fehler zu überwachen, der einzige Weg, Modell-Slowdowns von Code-Slowdowns zu unterscheiden. Wählen Sie eine europäische Region, West Europe oder France Central, um DSGVO-konform zu bleiben – dies ist oft der eigentliche Grund für die Wahl von Azure. Schließlich konfigurieren Sie Azure Monitor-Alarme für den Token-Verbrauch: Ein schlecht geschlossener Loop in einer nächtlichen Aufgabe zeigt sich auf der Rechnung viel später als auf einem Alarm.

Kernaussagen

• Azure AI bietet Mistral in serverlosen (MaaS) oder dedizierter GPU-Modi
• Das Modell wird in API-Aufrufen durch "azureai" identifiziert
• Der MistralAzure-Client nimmt den Endpunkt über server_url (Python, mistralai.azure.client) oder endpoint (TypeScript, @mistralai/mistralai-azure) entgegen
• Die Integration mit dem Azure-Ökosystem (Key Vault, Monitor, Functions) ist ein wesentlicher Vorteil für Unternehmen
• Wählen Sie eine europäische Region, um DSGVO-konform zu bleiben