Klients MistralAzure Python valodā
Šajā lapā
Kodēšana ar MistralAzure
Tavs Azure galapunkts ir izvietots un atbild; tagad tev jāuzraksta kods, kas to izmantos uzticami. Šī nodarbība detalizēti aplūko Python klientu MistralAzure: inicializāciju, ikdienā izmantojamos modeļus — vienkāršus izsaukumus, straumēšanu, asinhronu izpildi un funkciju izsaukumus — kā arī dažas specifiskas nianses, kas atšķir Azure no tiešās API.
Instalēšana un konfigurēšana
Atjaunināts 2026. gada 2. novembrī — Mistral SDK 2 un jaunākas versijas. Kopš Python SDK 2.0. versijas (2026. gada marts) Azure klients tiek importēts no
mistralai.azure.client, un tā 1. versijas parametriazure_endpointunazure_api_keyir pārdēvēti parserver_urlunapi_key. Šīs nodarbības kods atbilst aktuālajai versijai (3.7.0, 2026. gada 1. novembris). Avoti: v2.0.0 laidiena piezīmes · Mistral uz Azure.
Azure klients ir iekļauts paketē mistralai; papildu atkarības nav nepieciešamas.
pip install mistralai
Inicializācijai nepieciešami divi parametri:
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
server_url— Tavs Azure galapunkta URLapi_key— Galapunkta autentifikācijas atslēga
Trešais, neobligātais parametrs api_version pēc noklusējuma ir 2024-05-01-preview. SDK šo vērtību automātiski pievieno katram pieprasījumam kā URL parametru.
Tērzēšanas pabeigšana (Chat Completions)
No šī brīža pieredze ir identiska standarta klientam. Izmanto sistēmas ziņojumu, lai definētu modeļa lomu, lietotāja ziņojumu jautājumam un nolasīti atbildi no choices[0].message.content.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "system", "content": "Tu esi tehniskais asistents, kas specializējas Python valodā."},
{"role": "user", "content": "Kā implementēt kešatmiņas dekoratoru?"}
]
)
print(response.choices[0].message.content)
Ģenerēšanas parametri uzvedas tieši tāpat kā tiešajā Mistral API. Ja atbilde ir pārāk neparedzama vai daudzrunīga, koriģē to šeit, nevis promptā.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Uzģenerē haiku par mākoņskaitļošanu."}
],
temperature=0.7,
max_tokens=150,
top_p=0.95
)
temperature— Kontrolē radošumu (0,0 = determinēts, 1,0 = radošs)max_tokens— Ierobežo atbildes garumutop_p— Kodola paraugu ņemšana (nucleus sampling)
Straumēšana
Atbildēm, kas sastāv no vairākiem simtiem vārdu, standarta izsaukums liek lietotājam vairākas sekundes skatīties uz iesalušu ekrānu. Straumēšana novērš šo šķietamo gaidīšanu, parādot tekstu tā ģenerēšanas brīdī. Tas ir noklusējuma režīms, kad iesaistīta cilvēka saskarne.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Paskaidro, kā darbojas slodzes līdzsvarotājs."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
print() # Jauna rinda beigās
Ņem vērā pārbaudi if content: daži fragmenti ierodas tukši un bez šīs piesardzības ekrānā tiktu izdrukāts None.
Asinhroni izsaukumi
Tīmekļa serverī (FastAPI, Django async) bloķējošs izsaukums sasien strādnieku uz visu ģenerēšanas laiku, kas bieži vien ir vairākas sekundes uz pieprasījumu. Asinhronais klients atdod kontroli gaidīšanas laikā, ļaujot vienam procesam apstrādāt desmitiem vienlaicīgu pieprasījumu.
import asyncio
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
async def generate_response(prompt: str) -> str:
response = await client.chat.complete_async(
model="azureai",
messages=[{"role": "user", "content": prompt}]
)
return response.choices[0].message.content
# Izpilde
result = asyncio.run(generate_response("Kas ir Kubernetes?"))
print(result)
Funkciju izsaukumi
Funkciju izsaukumi uzvedas identiski tiešajai API. Tu apraksti pieejamos rīkus, models izlemj, vai kādu no tiem izsaukt, un tavs kods faktiski izpilda funkciju — models tikai formulē nodomu un argumentus.
import json
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Iegūst laika apstākļus pilsētai",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "Pilsētas nosaukums"}
},
"required": ["city"]
}
}
}
]
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Kāds ir laiks Parīzē?"}],
tools=tools,
tool_choice="auto"
)
# Pārbaudi, vai models vēlas izsaukt funkciju
if response.choices[0].message.tool_calls:
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
print(f"Izsaukta funkcija: {tool_call.function.name}")
print(f"Argumenti: {args}")
Kļūdu apstrāde
Produkcijas vidē atkārtojas trīs kļūdu veidi, un tiem ir nepieciešama atšķirīga reakcija. Kods 429 signalizē ātruma ierobežojumu un prasa atkārtotu mēģinājumu ar eksponenciālu pauzi. Kods 401 norāda uz nederīgu vai beigušos atslēgu: atkārtot mēģinājumu ir bezjēdzīgi, tāpēc nekavējoties pārtrauc darbību ar skaidru ziņojumu. Kods 404 gandrīz vienmēr norāda uz nepareizi konfigurētu mainīgo AZUREAI_ENDPOINT. Šo gadījumu nošķiršana ietaupīs tev stundu, meklējot kļūdu URL rakstībā.
import time
from mistralai.azure.client import MistralAzure
def robust_call(client, messages, max_retries=3):
"""Izsaukums ar eksponenciālu atkārtošanu un kļūdu apstrādi."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="azureai",
messages=messages
)
except Exception as e:
error_str = str(e)
if "429" in error_str:
wait = 2 ** attempt
print(f"Ātruma ierobežojums — atkārtoju pēc {wait}s")
time.sleep(wait)
elif "401" in error_str:
raise ValueError("Nederīga vai beigusies API atslēga") from e
elif "404" in error_str:
raise ValueError("Galapunkts nav atrasts — pārbaudi AZUREAI_ENDPOINT") from e
else:
if attempt == max_retries - 1:
raise
time.sleep(1)
raise RuntimeError("Neizdevās pēc visiem atkārtojumiem")
Patēriņa mērīšana
Katra atbilde ietver objektu usage, kas detalizēti norāda patērētos tokenus. Lasī to sistemātiski: tas ir vienīgais uzticamais rādītājs izmaksu aprēķināšanai un sistēmas prompta uzpūšanās noteikšanai atkārtotu rediģēšanu rezultātā.
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Sveiki"}]
)
usage = response.usage
print(f"Prompta tokeni : {usage.prompt_tokens}")
print(f"Atbildes tokeni : {usage.completion_tokens}")
print(f"Kopā tokeni : {usage.total_tokens}")
Galvenās atziņas
- Klients
MistralAzuredarbojas tāpat kā standarta klients, izmantojotmodel="azureai" - Straumēšana (
chat.stream) ir ieteicama lietotāja saskarnēm - Asinhroni izsaukumi (
complete_async) ir būtiski tīmekļa serveriem - Funkciju izsaukumi un JSON režīms darbojas identiski tiešajai API
- Vienmēr implementē eksponenciālu atkārtošanu, lai apstrādātu kļūdas
429