Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Klient MistralAzure v Pythonu

Lekce 5 z 14 Aktualizováno 2. listopadu 2026 Pokročilý
Na této stránce
  1. Programování s MistralAzure
  2. Instalace a konfigurace
  3. Dokončení chatu
  4. Streamování
  5. Asynchronní volání
  6. Volání funkcí
  7. Zpracování chyb
  8. Měření spotřeby
  9. Klíčové poznatky

Programování s MistralAzure

Tvůj koncový bod Azure je nasazen a odpovídá; teď potřebuješ napsat kód, který ho bude spolehlivě využívat. Tato lekce podrobně popisuje Python klienta MistralAzure: inicializaci, vzory, které budeš denně používat – jednoduchá volání, streamování, asynchronní provádění a volání funkcí – a několik specifik, která odlišují Azure od přímého API.

Instalace a konfigurace

Aktualizováno 2. listopadu 2026 — Mistral SDK 2 a novější. Od verze 2.0 Python SDK (březen 2026) se Azure klient importuje z mistralai.azure.client a jeho parametry verze 1 azure_endpoint a azure_api_key byly změněny na server_url a api_key. Kód v této lekci odpovídá aktuální verzi (3.7.0, 1. listopadu 2026). Zdroje: v2.0.0 release notes · Mistral on Azure.

Klient Azure je součástí balíčku mistralai; nejsou vyžadovány žádné další závislosti.

pip install mistralai

Inicializace vyžaduje dva parametry:

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)
  • server_url — URL tvého koncového bodu Azure
  • api_key — Autentizační klíč koncového bodu

Třetí, volitelný parametr api_version má výchozí hodnotu 2024-05-01-preview. SDK tento parametr automaticky přidává ke každému požadavku jako URL parametr.

Dokončení chatu

Od tohoto okamžiku je zkušenost totožná se standardním klientem. Použij systémovou zprávu pro definování role modelu, uživatelskou zprávu pro otázku a odpověď přečti z choices[0].message.content.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "system", "content": "You are a technical assistant specializing in Python."},
        {"role": "user", "content": "How do I implement a cache decorator?"}
    ]
)

print(response.choices[0].message.content)

Parametry generování se chovají přesně stejně jako u přímého Mistral API. Pokud je odpověď příliš nepředvídatelná nebo upovídaná, oprav to zde, nikoliv v promptu.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Generate a haiku about cloud computing."}
    ],
    temperature=0.7,
    max_tokens=150,
    top_p=0.95
)
  • temperature — Řídí kreativitu (0,0 = deterministické, 1,0 = kreativní)
  • max_tokens — Omezuje délku odpovědi
  • top_p — Vzorkování jádra (nucleus sampling)

Streamování

U odpovědí čítajících několik set slov nechá standardní volání uživatele zírat na zamrzlou obrazovku několik sekund. Streamování eliminuje toto vnímané čekání zobrazováním textu během jeho generování. Toto je výchozí režim vždy, když je zapojeno lidské rozhraní.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Explain how a load balancer works."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)
print()  # Nový řádek na konci

Všimni si kontroly if content: některé části přicházejí prázdné a bez této ochrany by na obrazovku vytiskly None.

Asynchronní volání

Ve webovém serveru – FastAPI, Django async – blokuje volání pracovníka po celou dobu generování, což často znamená několik sekund na požadavek. Asynchronní klient během čekání uvolní řízení, což umožňuje jednomu procesu obsluhovat desítky souběžných požadavků.

import asyncio
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

async def generate_response(prompt: str) -> str:
    response = await client.chat.complete_async(
        model="azureai",
        messages=[{"role": "user", "content": prompt}]
    )
    return response.choices[0].message.content

# Provedení
result = asyncio.run(generate_response("What is Kubernetes?"))
print(result)

Volání funkcí

Volání funkcí se chová identicky jako u přímého API. Popíšeš dostupné nástroje, model se rozhodne, zda některý zavolat, a tvůj kód funkci skutečně provede – model pouze formuluje záměr a argumenty.

import json

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get the weather for a city",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "Name of the city"}
                },
                "required": ["city"]
            }
        }
    }
]

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "What is the weather in Paris?"}],
    tools=tools,
    tool_choice="auto"
)

# Zkontroluj, zda model chce zavolat funkci
if response.choices[0].message.tool_calls:
    tool_call = response.choices[0].message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(f"Function called: {tool_call.function.name}")
    print(f"Arguments: {args}")

Zpracování chyb

V produkčním prostředí se opakují tři rodiny chyb a každá vyžaduje jinou reakci. Kód 429 signalizuje omezení rychlosti (rate limit) a vyžaduje opakování s exponenciálním backoffem. Kód 401 indikuje neplatný nebo vypršelý klíč: opakování je zbytečné, proto okamžitě selži s jasnou zprávou. Kód 404 téměř vždy ukazuje na špatně nakonfigurovanou proměnnou AZUREAI_ENDPOINT. Rozlišení těchto případů ti ušetří hodinu ladění překlepu v URL.

import time
from mistralai.azure.client import MistralAzure

def robust_call(client, messages, max_retries=3):
    """Volání s exponenciálním opakováním a zpracováním chyb."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="azureai",
                messages=messages
            )
        except Exception as e:
            error_str = str(e)
            if "429" in error_str:
                wait = 2 ** attempt
                print(f"Rate limit — retrying in {wait}s")
                time.sleep(wait)
            elif "401" in error_str:
                raise ValueError("Invalid or expired API key") from e
            elif "404" in error_str:
                raise ValueError("Endpoint not found — check AZUREAI_ENDPOINT") from e
            else:
                if attempt == max_retries - 1:
                    raise
                time.sleep(1)
    raise RuntimeError("Failed after all retries")

Měření spotřeby

Každá odpověď obsahuje objekt usage s podrobnostmi o spotřebovaných tokenech. Čti to systematicky: je to jediné spolehlivé měřítko pro odhad nákladů a odhalení systémového promptu, který se opakovanými úpravami nafoukl.

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Hello"}]
)

usage = response.usage
print(f"Prompt tokens  : {usage.prompt_tokens}")
print(f"Response tokens: {usage.completion_tokens}")
print(f"Total tokens   : {usage.total_tokens}")

Klíčové poznatky

  • Klient MistralAzure funguje jako standardní klient s použitím model="azureai"
  • Streamování (chat.stream) se doporučuje pro uživatelská rozhraní
  • Asynchronní volání (complete_async) jsou pro webové servery nezbytná
  • Volání funkcí a režim JSON fungují identicky jako u přímého API
  • Vždy implementuj exponenciální opakování pro zpracování chyb 429