A MistralAzure kliens Pythonban
Ezen az oldalon
Kódolás a MistralAzure-rel
Az Azure végpontod üzemel és válaszol; most meg kell írnod a kódot, amely megbízhatóan használja azt. Ez a lecke részletezi a Python MistralAzure klienst: az inicializálást, a napi szinten használt mintákat – egyszerű hívások, streamelés, aszinkron végrehajtás és függvényhívás –, valamint azokat a sajátosságokat, amelyek megkülönböztetik az Azure-t a közvetlen API-tól.
Telepítés és konfiguráció
Frissítve: 2026. november 2. — Mistral SDK 2 és újabb. A Python SDK 2.0-s verziójától (2026. március) kezdve az Azure kliens a
mistralai.azure.clientmodulból importálható, és az 1-es verzióazure_endpoint, illetveazure_api_keyparamétereiserver_urlésapi_keynévre változtak. Ebben a leckében a jelenlegi verziót (3.7.0, 2026. november 1.) követő kód szerepel. Források: v2.0.0 kiadási jegyzetek · Mistral az Azure-on.
Az Azure kliens része a mistralai csomagnak; nincs szükség további függőségekre.
pip install mistralai
Az inicializáláshoz két paraméter szükséges:
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
server_url— Az Azure végpontod URL-jeapi_key— A végpont hitelesítési kulcsa
Egy harmadik, opcionális paraméter, az api_version, alapértelmezés szerint 2024-05-01-preview. Az SDK ezt automatikusan hozzáadja minden kéréshez URL-paraméterként.
Chat kiegészítések (Chat Completions)
Innentől kezdve az élmény megegyezik a szabványos klienssel. Használj egy rendszerüzenetet a modell szerepének meghatározásához, egy felhasználói üzenetet a kérdéshez, és olvasd ki a választ a choices[0].message.content mezőből.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "system", "content": "Te egy Pythonra specializálódott technikai asszisztens vagy."},
{"role": "user", "content": "Hogyan valósítsak meg egy gyorsítótár dekorátort?"}
]
)
print(response.choices[0].message.content)
A generálási paraméterek pontosan úgy viselkednek, mint a közvetlen Mistral API esetén. Ha egy válasz túl kiszámíthatatlan vagy bőbeszédű, javítsd ezt itt, ne a promptban.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Írj egy haikut a felhőalapú számítástechnikáról."}
],
temperature=0.7,
max_tokens=150,
top_p=0.95
)
temperature— A kreativitást szabályozza (0,0 = determinisztikus, 1,0 = kreatív)max_tokens— Korlátozza a válasz hosszáttop_p— Magmintavételezés (nucleus sampling)
Streamelés
Több száz szavas válaszok esetén a szabványos hívás miatt a felhasználónak több másodpercig kell egy befagyott képernyőt bámulnia. A streamelés megszünteti ezt a várakozási érzetet azáltal, hogy a szöveget generálás közben jeleníti meg. Ez az alapértelmezett mód, amikor emberi felülettel van dolgunk.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Magyarázd el, hogyan működik egy terheléselosztó."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
print() # Új sor a végén
Figyeld meg az if content ellenőrzést: egyes blokkok üresen érkeznek, és e nélkül az óvintézkedés nélkül a None értéket írnák ki a képernyőre.
Aszinkron hívások
Egy webszerverben – FastAPI, Django async – egy blokkoló hívás leköt egy munkafolyamatot a teljes generálási időre, ami gyakran több másodperc kérésenként. Az aszinkron kliens átengedi az irányítást várakozás közben, lehetővé téve, hogy egyetlen folyamat tucatnyi egyidejű kérést kezeljen.
import asyncio
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
async def generate_response(prompt: str) -> str:
response = await client.chat.complete_async(
model="azureai",
messages=[{"role": "user", "content": prompt}]
)
return response.choices[0].message.content
# Végrehajtás
result = asyncio.run(generate_response("Mi az a Kubernetes?"))
print(result)
Függvényhívás
A függvényhívás viselkedése megegyezik a közvetlen API-éval. Leírod az elérhető eszközöket, a modell eldönti, hívjon-e egyet, és a te kódod hajtja végre ténylegesen a függvényt – a modell csak a szándékot és az argumentumokat fogalmazza meg.
import json
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Lekéri az időjárást egy városra",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "A város neve"}
},
"required": ["city"]
}
}
}
]
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Milyen az időjárás Párizsban?"}],
tools=tools,
tool_choice="auto"
)
# Ellenőrizd, hogy a modell függvényt akar-e hívni
if response.choices[0].message.tool_calls:
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
print(f"Függvény hívva: {tool_call.function.name}")
print(f"Argumentumok: {args}")
Hibakezelés
Éles környezetben három hibatípus ismétlődik gyakran, és ezek eltérő reakciót igényelnek. A 429 sebességkorlátozást jelez, és exponenciális visszalépéssel (exponential backoff) történő újrapróbálkozást tesz szükségessé. A 401 érvénytelen vagy lejárt kulcsra utal: az újrapróbálkozás haszontalan, ezért azonnal állj le egy egyértelmű üzenettel. A 404 szinte mindig helytelenül konfigurált AZUREAI_ENDPOINT változóra utal. Ezen esetek megkülönböztetése megkímél attól, hogy egy órát tölts el egy elírás debuggolásával az URL-ben.
import time
from mistralai.azure.client import MistralAzure
def robust_call(client, messages, max_retries=3):
"""Hívás exponenciális újrapróbálkozással és hibakezeléssel."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="azureai",
messages=messages
)
except Exception as e:
error_str = str(e)
if "429" in error_str:
wait = 2 ** attempt
print(f"Sebességkorlát — újrapróbálkozás {wait}s múlva")
time.sleep(wait)
elif "401" in error_str:
raise ValueError("Érvénytelen vagy lejárt API kulcs") from e
elif "404" in error_str:
raise ValueError("Végpont nem található — ellenőrizd az AZUREAI_ENDPOINT változót") from e
else:
if attempt == max_retries - 1:
raise
time.sleep(1)
raise RuntimeError("Minden újrapróbálkozás után sikertelen")
Fogyasztás mérése
Minden válasz tartalmaz egy usage objektumot, amely részletezi az elfogyasztott tokeneket. Olvasd ezt rendszeresen: ez az egyetlen megbízható mérőszám a költségek becsléséhez és annak felismeréséhez, ha egy rendszerprompt túlságosan elhízott az ismételt szerkesztések miatt.
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Szia"}]
)
usage = response.usage
print(f"Prompt tokenek : {usage.prompt_tokens}")
print(f"Válasz tokenek : {usage.completion_tokens}")
print(f"Összes token : {usage.total_tokens}")
Főbb megállapítások
- A
MistralAzurekliens úgy működik, mint a szabványos kliens, amodel="azureai"paraméterrel - A streamelés (
chat.stream) ajánlott felhasználói felületekhez - Az aszinkron hívások (
complete_async) elengedhetetlenek webszerverekhez - A függvényhívás és a JSON mód megegyezik a közvetlen API-val
- Mindig valósíts meg exponenciális újrapróbálkozást a
429hibák kezelésére