Klient MistralAzure v Pythone
Na tejto strane
Programovanie s MistralAzure
Tvoj koncový bod Azure je nasadený a odpovedá; teraz potrebuješ napísať kód, ktorý ho bude spoľahlivo využívať. Táto lekcia podrobne opisuje Python klienta MistralAzure: inicializáciu, vzory, ktoré budeš používať denne – jednoduché volania, streamovanie, asynchrónne vykonávanie a volanie funkcií – a niekoľko špecifík, ktoré odlišujú Azure od priameho API.
Inštalácia a konfigurácia
Aktualizované 2. novembra 2026 — Mistral SDK 2 a novšie. Od verzie 2.0 Python SDK (marec 2026) sa Azure klient importuje z
mistralai.azure.clienta jeho parametre verzie 1azure_endpointaazure_api_keysa zmenili naserver_urlaapi_key. Kód v tejto lekcii nasleduje aktuálnu verziu (3.7.0, 1. november 2026). Zdroje: v2.0.0 release notes · Mistral on Azure.
Azure klient je súčasťou balíka mistralai; nie sú potrebné žiadne ďalšie závislosti.
pip install mistralai
Inicializácia vyžaduje dva parametre:
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
server_url— URL adresa tvojho koncového bodu Azureapi_key— Autentifikačný kľúč koncového bodu
Tretí, voliteľný parameter api_version má predvolenú hodnotu 2024-05-01-preview. SDK tento parameter automaticky pridáva ku každej požiadavke ako URL parameter.
Dopĺňanie chatu (Chat Completions)
Od tohto momentu je skúsenosť totožná so štandardným klientom. Použi systémovú správu na definovanie roly modelu, používateľskú správu na otázku a odpoveď si prečítaj z choices[0].message.content.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "system", "content": "You are a technical assistant specializing in Python."},
{"role": "user", "content": "How do I implement a cache decorator?"}
]
)
print(response.choices[0].message.content)
Parametre generovania sa správajú presne tak ako pri priamom Mistral API. Ak je odpoveď príliš nepredvídateľná alebo rozvláčna, oprav to tu, nie v promte.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Generate a haiku about cloud computing."}
],
temperature=0.7,
max_tokens=150,
top_p=0.95
)
temperature— Riadi kreativitu (0,0 = deterministické, 1,0 = kreatívne)max_tokens— Obmedzuje dĺžku odpovedetop_p— Vzorkovanie jadra (nucleus sampling)
Streamovanie
Pri odpovediach, ktoré majú niekoľko stoviek slov, nechá štandardné volanie používateľa hľadieť na zamrznutú obrazovku niekoľko sekúnd. Streamovanie eliminuje toto vnímané čakanie tým, že zobrazuje text počas jeho generovania. Toto je predvolený režim vždy, keď je zapojené ľudské rozhranie.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Explain how a load balancer works."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
print() # Nový riadok na konci
Všimni si kontrolu if content: niektoré časti prichádzajú prázdne a bez tejto opatrnosti by sa na obrazovku vytlačilo None.
Asynchrónne volania
Vo webovom serveri – FastAPI, Django async – blokové volanie zviaže worker na celú dobu generovania, čo často predstavuje niekoľko sekúnd na požiadavku. Asynchrónny klient počas čakania uvoľní kontrolu, čo umožňuje jednému procesu vybavovať desiatky súbežných požiadaviek.
import asyncio
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
async def generate_response(prompt: str) -> str:
response = await client.chat.complete_async(
model="azureai",
messages=[{"role": "user", "content": prompt}]
)
return response.choices[0].message.content
# Vykonanie
result = asyncio.run(generate_response("What is Kubernetes?"))
print(result)
Volanie funkcií
Volanie funkcií sa správa identicky ako pri priamom API. Popíšeš dostupné nástroje, model sa rozhodne, či niektorý zavolať, a tvoj kód funkciu skutočne vykoná – model iba formuluje zámer a argumenty.
import json
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "Name of the city"}
},
"required": ["city"]
}
}
}
]
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "What is the weather in Paris?"}],
tools=tools,
tool_choice="auto"
)
# Skontroluj, či model chce zavolať funkciu
if response.choices[0].message.tool_calls:
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
print(f"Function called: {tool_call.function.name}")
print(f"Arguments: {args}")
Ošetrenie chýb
V produkcii sa opakovane vyskytujú tri rodiny chýb a každá vyžaduje inú reakciu. Kód 429 signalizuje obmedzenie rýchlosti (rate limit) a vyžaduje opakovanie s exponenciálnym oneskorením. Kód 401 indikuje neplatný alebo expirovaný kľúč: opakovanie je zbytočné, takže okamžite zlyhaj s jasnou správou. Kód 404 takmer vždy poukazuje na nesprávne nakonfigurovanú premennú AZUREAI_ENDPOINT. Rozlíšenie týchto prípadov ti ušetrí hodinu ladenia preklepu v URL adrese.
import time
from mistralai.azure.client import MistralAzure
def robust_call(client, messages, max_retries=3):
"""Volanie s exponenciálnym opakovaním a ošetrením chýb."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="azureai",
messages=messages
)
except Exception as e:
error_str = str(e)
if "429" in error_str:
wait = 2 ** attempt
print(f"Rate limit — retrying in {wait}s")
time.sleep(wait)
elif "401" in error_str:
raise ValueError("Invalid or expired API key") from e
elif "404" in error_str:
raise ValueError("Endpoint not found — check AZUREAI_ENDPOINT") from e
else:
if attempt == max_retries - 1:
raise
time.sleep(1)
raise RuntimeError("Failed after all retries")
Meranie spotreby
Každá odpoveď obsahuje objekt usage s podrobnosťami o spotrebovaných tokenoch. Čítaj ho systematicky: je to jediné spoľahlivé meradlo na odhad nákladov a odhalenie systémového promptu, ktorý sa opakovanými úpravami nafúkol.
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Hello"}]
)
usage = response.usage
print(f"Prompt tokens : {usage.prompt_tokens}")
print(f"Response tokens: {usage.completion_tokens}")
print(f"Total tokens : {usage.total_tokens}")
Kľúčové poznatky
- Klient
MistralAzurefunguje ako štandardný klient, pričom používamodel="azureai" - Streamovanie (
chat.stream) sa odporúča pre používateľské rozhrania - Asynchrónne volania (
complete_async) sú nevyhnutné pre webové servery - Volanie funkcií a režim JSON fungujú identicky ako pri priamom API
- Vždy implementuj exponenciálne opakovanie na ošetrenie chýb
429