Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Klient MistralAzure v Pythone

Lekcia 5 z 14 Aktualizované 2. novembra 2026 Pokročilý
Na tejto strane
  1. Programovanie s MistralAzure
  2. Inštalácia a konfigurácia
  3. Dopĺňanie chatu (Chat Completions)
  4. Streamovanie
  5. Asynchrónne volania
  6. Volanie funkcií
  7. Ošetrenie chýb
  8. Meranie spotreby
  9. Kľúčové poznatky

Programovanie s MistralAzure

Tvoj koncový bod Azure je nasadený a odpovedá; teraz potrebuješ napísať kód, ktorý ho bude spoľahlivo využívať. Táto lekcia podrobne opisuje Python klienta MistralAzure: inicializáciu, vzory, ktoré budeš používať denne – jednoduché volania, streamovanie, asynchrónne vykonávanie a volanie funkcií – a niekoľko špecifík, ktoré odlišujú Azure od priameho API.

Inštalácia a konfigurácia

Aktualizované 2. novembra 2026 — Mistral SDK 2 a novšie. Od verzie 2.0 Python SDK (marec 2026) sa Azure klient importuje z mistralai.azure.client a jeho parametre verzie 1 azure_endpoint a azure_api_key sa zmenili na server_url a api_key. Kód v tejto lekcii nasleduje aktuálnu verziu (3.7.0, 1. november 2026). Zdroje: v2.0.0 release notes · Mistral on Azure.

Azure klient je súčasťou balíka mistralai; nie sú potrebné žiadne ďalšie závislosti.

pip install mistralai

Inicializácia vyžaduje dva parametre:

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)
  • server_url — URL adresa tvojho koncového bodu Azure
  • api_key — Autentifikačný kľúč koncového bodu

Tretí, voliteľný parameter api_version má predvolenú hodnotu 2024-05-01-preview. SDK tento parameter automaticky pridáva ku každej požiadavke ako URL parameter.

Dopĺňanie chatu (Chat Completions)

Od tohto momentu je skúsenosť totožná so štandardným klientom. Použi systémovú správu na definovanie roly modelu, používateľskú správu na otázku a odpoveď si prečítaj z choices[0].message.content.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "system", "content": "You are a technical assistant specializing in Python."},
        {"role": "user", "content": "How do I implement a cache decorator?"}
    ]
)

print(response.choices[0].message.content)

Parametre generovania sa správajú presne tak ako pri priamom Mistral API. Ak je odpoveď príliš nepredvídateľná alebo rozvláčna, oprav to tu, nie v promte.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Generate a haiku about cloud computing."}
    ],
    temperature=0.7,
    max_tokens=150,
    top_p=0.95
)
  • temperature — Riadi kreativitu (0,0 = deterministické, 1,0 = kreatívne)
  • max_tokens — Obmedzuje dĺžku odpovede
  • top_p — Vzorkovanie jadra (nucleus sampling)

Streamovanie

Pri odpovediach, ktoré majú niekoľko stoviek slov, nechá štandardné volanie používateľa hľadieť na zamrznutú obrazovku niekoľko sekúnd. Streamovanie eliminuje toto vnímané čakanie tým, že zobrazuje text počas jeho generovania. Toto je predvolený režim vždy, keď je zapojené ľudské rozhranie.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Explain how a load balancer works."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)
print()  # Nový riadok na konci

Všimni si kontrolu if content: niektoré časti prichádzajú prázdne a bez tejto opatrnosti by sa na obrazovku vytlačilo None.

Asynchrónne volania

Vo webovom serveri – FastAPI, Django async – blokové volanie zviaže worker na celú dobu generovania, čo často predstavuje niekoľko sekúnd na požiadavku. Asynchrónny klient počas čakania uvoľní kontrolu, čo umožňuje jednému procesu vybavovať desiatky súbežných požiadaviek.

import asyncio
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

async def generate_response(prompt: str) -> str:
    response = await client.chat.complete_async(
        model="azureai",
        messages=[{"role": "user", "content": prompt}]
    )
    return response.choices[0].message.content

# Vykonanie
result = asyncio.run(generate_response("What is Kubernetes?"))
print(result)

Volanie funkcií

Volanie funkcií sa správa identicky ako pri priamom API. Popíšeš dostupné nástroje, model sa rozhodne, či niektorý zavolať, a tvoj kód funkciu skutočne vykoná – model iba formuluje zámer a argumenty.

import json

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get the weather for a city",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "Name of the city"}
                },
                "required": ["city"]
            }
        }
    }
]

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "What is the weather in Paris?"}],
    tools=tools,
    tool_choice="auto"
)

# Skontroluj, či model chce zavolať funkciu
if response.choices[0].message.tool_calls:
    tool_call = response.choices[0].message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(f"Function called: {tool_call.function.name}")
    print(f"Arguments: {args}")

Ošetrenie chýb

V produkcii sa opakovane vyskytujú tri rodiny chýb a každá vyžaduje inú reakciu. Kód 429 signalizuje obmedzenie rýchlosti (rate limit) a vyžaduje opakovanie s exponenciálnym oneskorením. Kód 401 indikuje neplatný alebo expirovaný kľúč: opakovanie je zbytočné, takže okamžite zlyhaj s jasnou správou. Kód 404 takmer vždy poukazuje na nesprávne nakonfigurovanú premennú AZUREAI_ENDPOINT. Rozlíšenie týchto prípadov ti ušetrí hodinu ladenia preklepu v URL adrese.

import time
from mistralai.azure.client import MistralAzure

def robust_call(client, messages, max_retries=3):
    """Volanie s exponenciálnym opakovaním a ošetrením chýb."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="azureai",
                messages=messages
            )
        except Exception as e:
            error_str = str(e)
            if "429" in error_str:
                wait = 2 ** attempt
                print(f"Rate limit — retrying in {wait}s")
                time.sleep(wait)
            elif "401" in error_str:
                raise ValueError("Invalid or expired API key") from e
            elif "404" in error_str:
                raise ValueError("Endpoint not found — check AZUREAI_ENDPOINT") from e
            else:
                if attempt == max_retries - 1:
                    raise
                time.sleep(1)
    raise RuntimeError("Failed after all retries")

Meranie spotreby

Každá odpoveď obsahuje objekt usage s podrobnosťami o spotrebovaných tokenoch. Čítaj ho systematicky: je to jediné spoľahlivé meradlo na odhad nákladov a odhalenie systémového promptu, ktorý sa opakovanými úpravami nafúkol.

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Hello"}]
)

usage = response.usage
print(f"Prompt tokens  : {usage.prompt_tokens}")
print(f"Response tokens: {usage.completion_tokens}")
print(f"Total tokens   : {usage.total_tokens}")

Kľúčové poznatky

  • Klient MistralAzure funguje ako štandardný klient, pričom používa model="azureai"
  • Streamovanie (chat.stream) sa odporúča pre používateľské rozhrania
  • Asynchrónne volania (complete_async) sú nevyhnutné pre webové servery
  • Volanie funkcií a režim JSON fungujú identicky ako pri priamom API
  • Vždy implementuj exponenciálne opakovanie na ošetrenie chýb 429