Il-Klijent MistralAzure f'Python
F'din il-paġna
Il-Programmazzjoni ma’ MistralAzure
L-endpoint ta’ Azure tiegħek huwa dispjegat u jirrispondi; issa trid tikteb il-kodiċi li se jużah b’mod affidabbli. Din il-lezzjoni tiddettalja l-klijent Python MistralAzure: l-inizjalizzazzjoni, il-mudelli li se tuża kuljum—sejħiet sempliċi, streaming, eżekuzzjoni asinkrona, u sejħa ta’ funzjonijiet—u ftit speċifiċitajiet li jiddistingwu lil Azure mill-API diretta.
Installazzjoni u Konfigurazzjoni
Aġġornat fit-2 ta’ Novembru, 2026 — Mistral SDK 2 u aktar tard. Mill-verżjoni 2.0 tal-SDK ta’ Python (Marzu 2026), il-klijent ta’ Azure jiġi importat minn
mistralai.azure.client, u l-parametri tal-verżjoni 1 tiegħuazure_endpointuazure_api_keysaruserver_urluapi_key. Il-kodiċi f’din il-lezzjoni jsegwi l-verżjoni kurrenti (3.7.0, 1 ta’ Novembru, 2026). Sorsi: v2.0.0 release notes · Mistral on Azure.
Il-klijent ta’ Azure huwa inkluż fil-pakkett mistralai; m’hemmx bżonn ta’ dipendenzi addizzjonali.
pip install mistralai
L-inizjalizzazzjoni teħtieġ żewġ parametri:
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
server_url— L-URL tal-endpoint ta’ Azure tiegħekapi_key— Iċ-ċavetta ta’ awtentikazzjoni tal-endpoint
It-tielet parametru, opzjonali, api_version, huwa definit b’mod predefinit bħala 2024-05-01-preview. L-SDK iżid dan awtomatikament ma’ kull talba bħala parametru tal-URL.
Tlestija taċ-Chat (Chat Completions)
Minn hawn ‘il quddiem, l-esperjenza tirrifletti dik tal-klijent standard. Uża messaġġ tas-sistema biex tifforma r-rwol tal-mudell, messaġġ tal-utent għall-mistoqsija, u aqra t-tweġiba minn choices[0].message.content.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "system", "content": "Int assistent tekniku speċjalizzat f'Python."},
{"role": "user", "content": "Kif nimplimenta dekoratur tal-cache?"}
]
)
print(response.choices[0].message.content)
Il-parametri tal-ġenerazzjoni jaġixxu eżattament kif jagħmlu mal-API diretta ta’ Mistral. Jekk tweġiba tkun wisq imprevedibbli jew verbaliża, ikkoreġiha hawn, mhux fil-prompt.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Iġġenera haiku dwar il-cloud computing."}
],
temperature=0.7,
max_tokens=150,
top_p=0.95
)
temperature— Tikkontrolla l-kreattività (0.0 = deterministiku, 1.0 = kreattiv)max_tokens— Tillimita t-tul tat-tweġibatop_p— Kampjunar tan-nukleu (Nucleus sampling)
Streaming
Għal tweġibiet li jestendu fuq mijiet ta’ kliem, sejħa standard iħalli lill-utent iħares lejn skrin iffriżat għal diversi sekondi. L-istreaming jelimina dan l-istennija perċepita billi juri t-test hekk kif jiġi ġġenerat. Dan huwa l-modalità predefinita kull meta jkun involut interfaċċja umana.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Spjega kif jaħdem load balancer."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
print() # Linja ġdida fl-aħħar
Innota l-verifika if content: xi biċċiet jaslu vojta u kienu jistampaw None fuq l-iskrin mingħajr din il-prekawzjoni.
Sejħiet Asinkroni
F’server web—FastAPI, Django async—sejħa li timblokka torbot ħaddiem għad-durata kollha tal-ġenerazzjoni, spiss diversi sekondi għal kull talba. Il-klijent asinkronu jirrilaxxa l-kontroll waqt l-istennija, u jippermetti li proċess wieħed jimmaniġġja għexieren ta’ talbiet konkorrenti.
import asyncio
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
async def generate_response(prompt: str) -> str:
response = await client.chat.complete_async(
model="azureai",
messages=[{"role": "user", "content": prompt}]
)
return response.choices[0].message.content
# Eżekuzzjoni
result = asyncio.run(generate_response("X'inhu Kubernetes?"))
print(result)
Sejħa ta’ Funzjonijiet (Function Calling)
Is-sejħa ta’ funzjonijiet taġixxi bl-istess mod bħall-API diretta. Int tiddeskrivi l-għodod disponibbli, il-mudell jiddeċiedi jekk isejjaħx wieħed, u l-kodiċi tiegħek jeżegwixxi l-funzjoni attwalment—il-mudell jifformula biss l-intenzjoni u l-argumenti.
import json
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Ikseb it-temp għal belt",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "Isem il-belt"}
},
"required": ["city"]
}
}
}
]
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "X'inhu t-temp f'Pariġi?"}],
tools=tools,
tool_choice="auto"
)
# Iċċekkja jekk il-mudell iridx isejjaħ funzjoni
if response.choices[0].message.tool_calls:
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
print(f"Funkzjoni msejħa: {tool_call.function.name}")
print(f"Argumenti: {args}")
Ġestjoni tal-Iżbalji
Fil-produzzjoni, tliet familji ta’ żbalji jerġgħu jidhru, u jeħtieġu risposti differenti. 429 jissinjala limitu ta’ rata u jeħtieġ riprovazzjoni b’backoff esponenzjali. 401 jindika ċavetta invalida jew skaduta: ir-riprovazzjoni hija inutili, allura falla immedjatament b’messaġġ ċar. 404 kważi dejjem jindika varjabbli AZUREAI_ENDPOINT ikkonfigurata ħażin. Id-distinzjoni ta’ dawn il-każijiet tiffrankalek siegħa tiddibuggja żball fit-tipa f’URL.
import time
from mistralai.azure.client import MistralAzure
def robust_call(client, messages, max_retries=3):
"""Sejħa b'riprovazzjoni esponenzjali u ġestjoni tal-iżbalji."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="azureai",
messages=messages
)
except Exception as e:
error_str = str(e)
if "429" in error_str:
wait = 2 ** attempt
print(f"Limitu ta' rata — nipprova mill-ġdid f'{wait}s")
time.sleep(wait)
elif "401" in error_str:
raise ValueError("Ċavetta tal-API invalida jew skaduta") from e
elif "404" in error_str:
raise ValueError("Endpoint ma nstabx — iċċekkja AZUREAI_ENDPOINT") from e
else:
if attempt == max_retries - 1:
raise
time.sleep(1)
raise RuntimeError("Falliment wara r-riprovazzjonijiet kollha")
Kejl tal-Konsum
Kull tweġiba tinkludi oġġett usage li jiddettalja t-tokens konsumati. Aqra dan b’mod sistematiku: hija l-unika kejl affidabbli biex tistma l-ispejjeż u tindividwa prompt tas-sistema li sar mimli biżżejjed minħabba edits ripetuti.
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Hello"}]
)
usage = response.usage
print(f"Tokens tal-prompt : {usage.prompt_tokens}")
print(f"Tokens tat-tweġiba: {usage.completion_tokens}")
print(f"Tokens totali : {usage.total_tokens}")
Punti Ewlenin
- Il-klijent
MistralAzurejaħdem bħall-klijent standard, billi jużamodel="azureai" - L-istreaming (
chat.stream) huwa rrakkomandat għall-interfaċċji tal-utent - Is-sejħiet asinkroni (
complete_async) huma essenzjali għas-servers web - Is-sejħa ta’ funzjonijiet u l-modalità JSON jaħdmu bl-istess mod bħall-API diretta
- Implimenta dejjem riprovazzjoni esponenzjali biex tittratta żbalji
429