Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Klient MistralAzure Pythonis

Õppetund 5 / 14 Värskendatud 2. november 2026 Edasijõudnutele
Sellel lehel
  1. Kodeerimine MistralAzure’iga
  2. Paigaldamine ja konfiguratsioon
  3. Vestluse lõpuleviimine (Chat Completions)
  4. Voogedastus (Streaming)
  5. Asünkroonsed väljakutsed
  6. Funktsioonide kutsumine
  7. Veakäsitlus
  8. Tarbimise mõõtmine
  9. Peamised punktid

Kodeerimine MistralAzure’iga

Sinu Azure’i lõpp-punkt on kasutusele võetud ja vastab päringutele; nüüd pead kirjutama koodi, mis seda usaldusväärselt kasutab. See õppetund tutvustab Pythoni klienti MistralAzure: initsialiseerimist, mustreid, mida kasutad igapäevaselt – lihtsad väljakutsed, voogedastus, asünkroonne täitmine ja funktsioonide kutsumine – ning mõningaid eripärasid, mis eristavad Azure’i otsesest API-st.

Paigaldamine ja konfiguratsioon

Uuendatud 2. novembril 2026 – Mistral SDK 2 ja uuem. Alates Pythoni SDK versioonist 2.0 (märts 2026) imporditakse Azure’i klient moodulist mistralai.azure.client ja selle versiooni 1 parameetrid azure_endpoint ning azure_api_key on asendunud parameetritega server_url ja api_key. Selles õppetunnis olev kood järgib praegust versiooni (3.7.0, 1. november 2026). Allikad: v2.0.0 väljalaskemärkmed · Mistral Azure’is.

Azure’i klient kuulub paketti mistralai; täiendavaid sõltuvusi pole vaja.

pip install mistralai

Initsialiseerimine nõuab kahte parameetrit:

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)
  • server_url – Sinu Azure’i lõpp-punkti URL
  • api_key – Lõpp-punkti autentimisvõti

Kolmas, valikuline parameeter api_version on vaikimisi 2024-05-01-preview. SDK lisab selle igale päringule automaatselt URL-i parameetrina.

Vestluse lõpuleviimine (Chat Completions)

Alates siit on kogemus sama mis standardklientidel. Kasuta süsteemsõnumit mudeli rolli määratlemiseks, kasutajasõnumit küsimuse esitamiseks ja loe vastus välja choices[0].message.content kaudu.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "system", "content": "Oled tehniline assistent, kes on spetsialiseerunud Pythonile."},
        {"role": "user", "content": "Kuidas rakendada vahemälu dekoraatorit?"}
    ]
)

print(response.choices[0].message.content)

Generatsiooni parameetrid käituvad täpselt nagu otsese Mistral API puhul. Kui vastus on liiga ettearvamatu või sõnaohver, paranda see siin, mitte vihjes (prompt).

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Genereeri haiku pilvandmetöötlusest."}
    ],
    temperature=0.7,
    max_tokens=150,
    top_p=0.95
)
  • temperature – Juhib loovust (0,0 = deterministlik, 1,0 = loov)
  • max_tokens – Piirab vastuse pikkust
  • top_p – Tuumaproovivõtt (nucleus sampling)

Voogedastus (Streaming)

Vastuste puhul, mis hõlmavad mitusada sõna, jätab tavaline väljakutse kasutaja mõneks sekundiks vaatama külmutatud ekraani. Voogedastus kõrvaldab selle tajutava ooteaja, kuvades teksti selle genereerimise käigus. See on vaikimisi režiim iga kord, kui tegemist on inimesele suunatud liidesega.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Selgita, kuidas koormusjaotur töötab."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)
print()  # Reavahetus lõpus

Pane tähele kontrolli if content: mõned tükid saabuvad tühjana ja ilma selle ettevaatusabinõuta prindiks ekraanile None.

Asünkroonsed väljakutsed

Veebiserveris – FastAPI, Django async – blokeeriv väljakutse hõivab töötaja kogu genereerimise ajaks, mis on sageli mitu sekundit päringu kohta. Asünkroonne klient loovutab ooteajal juhtimise, võimaldades ühel protsessil hallata kümneid samaaegseid päringuid.

import asyncio
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

async def generate_response(prompt: str) -> str:
    response = await client.chat.complete_async(
        model="azureai",
        messages=[{"role": "user", "content": prompt}]
    )
    return response.choices[0].message.content

# Täitmine
result = asyncio.run(generate_response("Mis on Kubernetes?"))
print(result)

Funktsioonide kutsumine

Funktsioonide kutsumine käitub täpselt nagu otsese API puhul. Kirjeldad saadaolevaid tööriistu, mudel otsustab, kas mõnda neist kutsuda, ja sinu kood tegelikult täidab funktsiooni – mudel formuleerib ainult kavatsuse ja argumendid.

import json

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Hankige linna ilmateade",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "Linna nimi"}
                },
                "required": ["city"]
            }
        }
    }
]

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Milline on ilm Pariisis?"}],
    tools=tools,
    tool_choice="auto"
)

# Kontrolli, kas mudel soovib funktsiooni kutsuda
if response.choices[0].message.tool_calls:
    tool_call = response.choices[0].message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(f"Funktsioon kutsutud: {tool_call.function.name}")
    print(f"Argumendid: {args}")

Veakäsitlus

Tootmiskeskkonnas korduvad kolm vealiiki ja need nõuavad erinevat reaktsiooni. 429 annab märku kiiruse piirangust ja nõuab kordamist eksponentsiaalse taganemisega. 401 viitab vigasele või aegunud võtmele: kordamine on kasutu, seega lõpeta kohe selge sõnumiga. 404 viitab peaaegu alati valesti konfigureeritud muutujale AZUREAI_ENDPOINT. Nende juhtumite eristamine hoiab sind tundidepikkusest silmist URL-i trükivea otsimisest.

import time
from mistralai.azure.client import MistralAzure

def robust_call(client, messages, max_retries=3):
    """Väljakutse eksponentsiaalse kordamise ja veakäsitlusega."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="azureai",
                messages=messages
            )
        except Exception as e:
            error_str = str(e)
            if "429" in error_str:
                wait = 2 ** attempt
                print(f"Kiiruse piirang — kordan {wait}s pärast")
                time.sleep(wait)
            elif "401" in error_str:
                raise ValueError("Vigane või aegunud API-võti") from e
            elif "404" in error_str:
                raise ValueError("Lõpp-punkti ei leitud — kontrolli AZUREAI_ENDPOINT") from e
            else:
                if attempt == max_retries - 1:
                    raise
                time.sleep(1)
    raise RuntimeError("Ebaõnnestus pärast kõiki kordamisi")

Tarbimise mõõtmine

Iga vastus sisaldab objekti usage, mis kirjeldab tarbitud tokeneid. Loegi seda süstemaatiliselt: see on ainus usaldusväärne mõõt kulude hindamiseks ja süsteemivihje tuvastamiseks, mis on korduvate muudatuste tõttu liialt paisunud.

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Tere"}]
)

usage = response.usage
print(f"Vihje tokenid     : {usage.prompt_tokens}")
print(f"Vastuse tokenid   : {usage.completion_tokens}")
print(f"Tokenite koguarv  : {usage.total_tokens}")

Peamised punktid

  • Klient MistralAzure töötab nagu standardklient, kasutades model="azureai"
  • Voogedastus (chat.stream) on soovitatav kasutajaliideste jaoks
  • Asünkroonsed väljakutsed (complete_async) on veebiserverite jaoks hädavajalikud
  • Funktsioonide kutsumine ja JSON-režiim töötavad täpselt nagu otsese API puhul
  • Rakenda alati eksponentsiaalne kordamine, et käsitleda vigu 429