Klient MistralAzure v Pythonu
Na této stránce
Programování s MistralAzure
Tvůj koncový bod Azure je nasazen a odpovídá; teď potřebuješ napsat kód, který ho bude spolehlivě využívat. Tato lekce podrobně popisuje Python klienta MistralAzure: inicializaci, vzory, které budeš denně používat – jednoduchá volání, streamování, asynchronní provádění a volání funkcí – a několik specifik, která odlišují Azure od přímého API.
Instalace a konfigurace
Aktualizováno 2. listopadu 2026 — Mistral SDK 2 a novější. Od verze 2.0 Python SDK (březen 2026) se Azure klient importuje z
mistralai.azure.clienta jeho parametry verze 1azure_endpointaazure_api_keybyly změněny naserver_urlaapi_key. Kód v této lekci odpovídá aktuální verzi (3.7.0, 1. listopadu 2026). Zdroje: v2.0.0 release notes · Mistral on Azure.
Klient Azure je součástí balíčku mistralai; nejsou vyžadovány žádné další závislosti.
pip install mistralai
Inicializace vyžaduje dva parametry:
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
server_url— URL tvého koncového bodu Azureapi_key— Autentizační klíč koncového bodu
Třetí, volitelný parametr api_version má výchozí hodnotu 2024-05-01-preview. SDK tento parametr automaticky přidává ke každému požadavku jako URL parametr.
Dokončení chatu
Od tohoto okamžiku je zkušenost totožná se standardním klientem. Použij systémovou zprávu pro definování role modelu, uživatelskou zprávu pro otázku a odpověď přečti z choices[0].message.content.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "system", "content": "You are a technical assistant specializing in Python."},
{"role": "user", "content": "How do I implement a cache decorator?"}
]
)
print(response.choices[0].message.content)
Parametry generování se chovají přesně stejně jako u přímého Mistral API. Pokud je odpověď příliš nepředvídatelná nebo upovídaná, oprav to zde, nikoliv v promptu.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Generate a haiku about cloud computing."}
],
temperature=0.7,
max_tokens=150,
top_p=0.95
)
temperature— Řídí kreativitu (0,0 = deterministické, 1,0 = kreativní)max_tokens— Omezuje délku odpověditop_p— Vzorkování jádra (nucleus sampling)
Streamování
U odpovědí čítajících několik set slov nechá standardní volání uživatele zírat na zamrzlou obrazovku několik sekund. Streamování eliminuje toto vnímané čekání zobrazováním textu během jeho generování. Toto je výchozí režim vždy, když je zapojeno lidské rozhraní.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Explain how a load balancer works."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
print() # Nový řádek na konci
Všimni si kontroly if content: některé části přicházejí prázdné a bez této ochrany by na obrazovku vytiskly None.
Asynchronní volání
Ve webovém serveru – FastAPI, Django async – blokuje volání pracovníka po celou dobu generování, což často znamená několik sekund na požadavek. Asynchronní klient během čekání uvolní řízení, což umožňuje jednomu procesu obsluhovat desítky souběžných požadavků.
import asyncio
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
async def generate_response(prompt: str) -> str:
response = await client.chat.complete_async(
model="azureai",
messages=[{"role": "user", "content": prompt}]
)
return response.choices[0].message.content
# Provedení
result = asyncio.run(generate_response("What is Kubernetes?"))
print(result)
Volání funkcí
Volání funkcí se chová identicky jako u přímého API. Popíšeš dostupné nástroje, model se rozhodne, zda některý zavolat, a tvůj kód funkci skutečně provede – model pouze formuluje záměr a argumenty.
import json
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "Name of the city"}
},
"required": ["city"]
}
}
}
]
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "What is the weather in Paris?"}],
tools=tools,
tool_choice="auto"
)
# Zkontroluj, zda model chce zavolat funkci
if response.choices[0].message.tool_calls:
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
print(f"Function called: {tool_call.function.name}")
print(f"Arguments: {args}")
Zpracování chyb
V produkčním prostředí se opakují tři rodiny chyb a každá vyžaduje jinou reakci. Kód 429 signalizuje omezení rychlosti (rate limit) a vyžaduje opakování s exponenciálním backoffem. Kód 401 indikuje neplatný nebo vypršelý klíč: opakování je zbytečné, proto okamžitě selži s jasnou zprávou. Kód 404 téměř vždy ukazuje na špatně nakonfigurovanou proměnnou AZUREAI_ENDPOINT. Rozlišení těchto případů ti ušetří hodinu ladění překlepu v URL.
import time
from mistralai.azure.client import MistralAzure
def robust_call(client, messages, max_retries=3):
"""Volání s exponenciálním opakováním a zpracováním chyb."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="azureai",
messages=messages
)
except Exception as e:
error_str = str(e)
if "429" in error_str:
wait = 2 ** attempt
print(f"Rate limit — retrying in {wait}s")
time.sleep(wait)
elif "401" in error_str:
raise ValueError("Invalid or expired API key") from e
elif "404" in error_str:
raise ValueError("Endpoint not found — check AZUREAI_ENDPOINT") from e
else:
if attempt == max_retries - 1:
raise
time.sleep(1)
raise RuntimeError("Failed after all retries")
Měření spotřeby
Každá odpověď obsahuje objekt usage s podrobnostmi o spotřebovaných tokenech. Čti to systematicky: je to jediné spolehlivé měřítko pro odhad nákladů a odhalení systémového promptu, který se opakovanými úpravami nafoukl.
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Hello"}]
)
usage = response.usage
print(f"Prompt tokens : {usage.prompt_tokens}")
print(f"Response tokens: {usage.completion_tokens}")
print(f"Total tokens : {usage.total_tokens}")
Klíčové poznatky
- Klient
MistralAzurefunguje jako standardní klient s použitímmodel="azureai" - Streamování (
chat.stream) se doporučuje pro uživatelská rozhraní - Asynchronní volání (
complete_async) jsou pro webové servery nezbytná - Volání funkcí a režim JSON fungují identicky jako u přímého API
- Vždy implementuj exponenciální opakování pro zpracování chyb
429