Klient MistralAzure Pythonis
Sellel lehel
Kodeerimine MistralAzure’iga
Sinu Azure’i lõpp-punkt on kasutusele võetud ja vastab päringutele; nüüd pead kirjutama koodi, mis seda usaldusväärselt kasutab. See õppetund tutvustab Pythoni klienti MistralAzure: initsialiseerimist, mustreid, mida kasutad igapäevaselt – lihtsad väljakutsed, voogedastus, asünkroonne täitmine ja funktsioonide kutsumine – ning mõningaid eripärasid, mis eristavad Azure’i otsesest API-st.
Paigaldamine ja konfiguratsioon
Uuendatud 2. novembril 2026 – Mistral SDK 2 ja uuem. Alates Pythoni SDK versioonist 2.0 (märts 2026) imporditakse Azure’i klient moodulist
mistralai.azure.clientja selle versiooni 1 parameetridazure_endpointningazure_api_keyon asendunud parameetritegaserver_urljaapi_key. Selles õppetunnis olev kood järgib praegust versiooni (3.7.0, 1. november 2026). Allikad: v2.0.0 väljalaskemärkmed · Mistral Azure’is.
Azure’i klient kuulub paketti mistralai; täiendavaid sõltuvusi pole vaja.
pip install mistralai
Initsialiseerimine nõuab kahte parameetrit:
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
server_url– Sinu Azure’i lõpp-punkti URLapi_key– Lõpp-punkti autentimisvõti
Kolmas, valikuline parameeter api_version on vaikimisi 2024-05-01-preview. SDK lisab selle igale päringule automaatselt URL-i parameetrina.
Vestluse lõpuleviimine (Chat Completions)
Alates siit on kogemus sama mis standardklientidel. Kasuta süsteemsõnumit mudeli rolli määratlemiseks, kasutajasõnumit küsimuse esitamiseks ja loe vastus välja choices[0].message.content kaudu.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "system", "content": "Oled tehniline assistent, kes on spetsialiseerunud Pythonile."},
{"role": "user", "content": "Kuidas rakendada vahemälu dekoraatorit?"}
]
)
print(response.choices[0].message.content)
Generatsiooni parameetrid käituvad täpselt nagu otsese Mistral API puhul. Kui vastus on liiga ettearvamatu või sõnaohver, paranda see siin, mitte vihjes (prompt).
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Genereeri haiku pilvandmetöötlusest."}
],
temperature=0.7,
max_tokens=150,
top_p=0.95
)
temperature– Juhib loovust (0,0 = deterministlik, 1,0 = loov)max_tokens– Piirab vastuse pikkusttop_p– Tuumaproovivõtt (nucleus sampling)
Voogedastus (Streaming)
Vastuste puhul, mis hõlmavad mitusada sõna, jätab tavaline väljakutse kasutaja mõneks sekundiks vaatama külmutatud ekraani. Voogedastus kõrvaldab selle tajutava ooteaja, kuvades teksti selle genereerimise käigus. See on vaikimisi režiim iga kord, kui tegemist on inimesele suunatud liidesega.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Selgita, kuidas koormusjaotur töötab."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
print() # Reavahetus lõpus
Pane tähele kontrolli if content: mõned tükid saabuvad tühjana ja ilma selle ettevaatusabinõuta prindiks ekraanile None.
Asünkroonsed väljakutsed
Veebiserveris – FastAPI, Django async – blokeeriv väljakutse hõivab töötaja kogu genereerimise ajaks, mis on sageli mitu sekundit päringu kohta. Asünkroonne klient loovutab ooteajal juhtimise, võimaldades ühel protsessil hallata kümneid samaaegseid päringuid.
import asyncio
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
async def generate_response(prompt: str) -> str:
response = await client.chat.complete_async(
model="azureai",
messages=[{"role": "user", "content": prompt}]
)
return response.choices[0].message.content
# Täitmine
result = asyncio.run(generate_response("Mis on Kubernetes?"))
print(result)
Funktsioonide kutsumine
Funktsioonide kutsumine käitub täpselt nagu otsese API puhul. Kirjeldad saadaolevaid tööriistu, mudel otsustab, kas mõnda neist kutsuda, ja sinu kood tegelikult täidab funktsiooni – mudel formuleerib ainult kavatsuse ja argumendid.
import json
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Hankige linna ilmateade",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "Linna nimi"}
},
"required": ["city"]
}
}
}
]
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Milline on ilm Pariisis?"}],
tools=tools,
tool_choice="auto"
)
# Kontrolli, kas mudel soovib funktsiooni kutsuda
if response.choices[0].message.tool_calls:
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
print(f"Funktsioon kutsutud: {tool_call.function.name}")
print(f"Argumendid: {args}")
Veakäsitlus
Tootmiskeskkonnas korduvad kolm vealiiki ja need nõuavad erinevat reaktsiooni. 429 annab märku kiiruse piirangust ja nõuab kordamist eksponentsiaalse taganemisega. 401 viitab vigasele või aegunud võtmele: kordamine on kasutu, seega lõpeta kohe selge sõnumiga. 404 viitab peaaegu alati valesti konfigureeritud muutujale AZUREAI_ENDPOINT. Nende juhtumite eristamine hoiab sind tundidepikkusest silmist URL-i trükivea otsimisest.
import time
from mistralai.azure.client import MistralAzure
def robust_call(client, messages, max_retries=3):
"""Väljakutse eksponentsiaalse kordamise ja veakäsitlusega."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="azureai",
messages=messages
)
except Exception as e:
error_str = str(e)
if "429" in error_str:
wait = 2 ** attempt
print(f"Kiiruse piirang — kordan {wait}s pärast")
time.sleep(wait)
elif "401" in error_str:
raise ValueError("Vigane või aegunud API-võti") from e
elif "404" in error_str:
raise ValueError("Lõpp-punkti ei leitud — kontrolli AZUREAI_ENDPOINT") from e
else:
if attempt == max_retries - 1:
raise
time.sleep(1)
raise RuntimeError("Ebaõnnestus pärast kõiki kordamisi")
Tarbimise mõõtmine
Iga vastus sisaldab objekti usage, mis kirjeldab tarbitud tokeneid. Loegi seda süstemaatiliselt: see on ainus usaldusväärne mõõt kulude hindamiseks ja süsteemivihje tuvastamiseks, mis on korduvate muudatuste tõttu liialt paisunud.
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Tere"}]
)
usage = response.usage
print(f"Vihje tokenid : {usage.prompt_tokens}")
print(f"Vastuse tokenid : {usage.completion_tokens}")
print(f"Tokenite koguarv : {usage.total_tokens}")
Peamised punktid
- Klient
MistralAzuretöötab nagu standardklient, kasutadesmodel="azureai" - Voogedastus (
chat.stream) on soovitatav kasutajaliideste jaoks - Asünkroonsed väljakutsed (
complete_async) on veebiserverite jaoks hädavajalikud - Funktsioonide kutsumine ja JSON-režiim töötavad täpselt nagu otsese API puhul
- Rakenda alati eksponentsiaalne kordamine, et käsitleda vigu
429