Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Il-Klijent MistralAzure f'Python

Lezzjoni 5 / 14 Aġġornat 2 ta’ Novembru 2026 Avvanzat
F'din il-paġna
  1. Il-Programmazzjoni ma’ MistralAzure
  2. Installazzjoni u Konfigurazzjoni
  3. Tlestija taċ-Chat (Chat Completions)
  4. Streaming
  5. Sejħiet Asinkroni
  6. Sejħa ta’ Funzjonijiet (Function Calling)
  7. Ġestjoni tal-Iżbalji
  8. Kejl tal-Konsum
  9. Punti Ewlenin

Il-Programmazzjoni ma’ MistralAzure

L-endpoint ta’ Azure tiegħek huwa dispjegat u jirrispondi; issa trid tikteb il-kodiċi li se jużah b’mod affidabbli. Din il-lezzjoni tiddettalja l-klijent Python MistralAzure: l-inizjalizzazzjoni, il-mudelli li se tuża kuljum—sejħiet sempliċi, streaming, eżekuzzjoni asinkrona, u sejħa ta’ funzjonijiet—u ftit speċifiċitajiet li jiddistingwu lil Azure mill-API diretta.

Installazzjoni u Konfigurazzjoni

Aġġornat fit-2 ta’ Novembru, 2026 — Mistral SDK 2 u aktar tard. Mill-verżjoni 2.0 tal-SDK ta’ Python (Marzu 2026), il-klijent ta’ Azure jiġi importat minn mistralai.azure.client, u l-parametri tal-verżjoni 1 tiegħu azure_endpoint u azure_api_key saru server_url u api_key. Il-kodiċi f’din il-lezzjoni jsegwi l-verżjoni kurrenti (3.7.0, 1 ta’ Novembru, 2026). Sorsi: v2.0.0 release notes · Mistral on Azure.

Il-klijent ta’ Azure huwa inkluż fil-pakkett mistralai; m’hemmx bżonn ta’ dipendenzi addizzjonali.

pip install mistralai

L-inizjalizzazzjoni teħtieġ żewġ parametri:

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)
  • server_url — L-URL tal-endpoint ta’ Azure tiegħek
  • api_key — Iċ-ċavetta ta’ awtentikazzjoni tal-endpoint

It-tielet parametru, opzjonali, api_version, huwa definit b’mod predefinit bħala 2024-05-01-preview. L-SDK iżid dan awtomatikament ma’ kull talba bħala parametru tal-URL.

Tlestija taċ-Chat (Chat Completions)

Minn hawn ‘il quddiem, l-esperjenza tirrifletti dik tal-klijent standard. Uża messaġġ tas-sistema biex tifforma r-rwol tal-mudell, messaġġ tal-utent għall-mistoqsija, u aqra t-tweġiba minn choices[0].message.content.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "system", "content": "Int assistent tekniku speċjalizzat f'Python."},
        {"role": "user", "content": "Kif nimplimenta dekoratur tal-cache?"}
    ]
)

print(response.choices[0].message.content)

Il-parametri tal-ġenerazzjoni jaġixxu eżattament kif jagħmlu mal-API diretta ta’ Mistral. Jekk tweġiba tkun wisq imprevedibbli jew verbaliża, ikkoreġiha hawn, mhux fil-prompt.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Iġġenera haiku dwar il-cloud computing."}
    ],
    temperature=0.7,
    max_tokens=150,
    top_p=0.95
)
  • temperature — Tikkontrolla l-kreattività (0.0 = deterministiku, 1.0 = kreattiv)
  • max_tokens — Tillimita t-tul tat-tweġiba
  • top_p — Kampjunar tan-nukleu (Nucleus sampling)

Streaming

Għal tweġibiet li jestendu fuq mijiet ta’ kliem, sejħa standard iħalli lill-utent iħares lejn skrin iffriżat għal diversi sekondi. L-istreaming jelimina dan l-istennija perċepita billi juri t-test hekk kif jiġi ġġenerat. Dan huwa l-modalità predefinita kull meta jkun involut interfaċċja umana.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Spjega kif jaħdem load balancer."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)
print()  # Linja ġdida fl-aħħar

Innota l-verifika if content: xi biċċiet jaslu vojta u kienu jistampaw None fuq l-iskrin mingħajr din il-prekawzjoni.

Sejħiet Asinkroni

F’server web—FastAPI, Django async—sejħa li timblokka torbot ħaddiem għad-durata kollha tal-ġenerazzjoni, spiss diversi sekondi għal kull talba. Il-klijent asinkronu jirrilaxxa l-kontroll waqt l-istennija, u jippermetti li proċess wieħed jimmaniġġja għexieren ta’ talbiet konkorrenti.

import asyncio
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

async def generate_response(prompt: str) -> str:
    response = await client.chat.complete_async(
        model="azureai",
        messages=[{"role": "user", "content": prompt}]
    )
    return response.choices[0].message.content

# Eżekuzzjoni
result = asyncio.run(generate_response("X'inhu Kubernetes?"))
print(result)

Sejħa ta’ Funzjonijiet (Function Calling)

Is-sejħa ta’ funzjonijiet taġixxi bl-istess mod bħall-API diretta. Int tiddeskrivi l-għodod disponibbli, il-mudell jiddeċiedi jekk isejjaħx wieħed, u l-kodiċi tiegħek jeżegwixxi l-funzjoni attwalment—il-mudell jifformula biss l-intenzjoni u l-argumenti.

import json

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Ikseb it-temp għal belt",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "Isem il-belt"}
                },
                "required": ["city"]
            }
        }
    }
]

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "X'inhu t-temp f'Pariġi?"}],
    tools=tools,
    tool_choice="auto"
)

# Iċċekkja jekk il-mudell iridx isejjaħ funzjoni
if response.choices[0].message.tool_calls:
    tool_call = response.choices[0].message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(f"Funkzjoni msejħa: {tool_call.function.name}")
    print(f"Argumenti: {args}")

Ġestjoni tal-Iżbalji

Fil-produzzjoni, tliet familji ta’ żbalji jerġgħu jidhru, u jeħtieġu risposti differenti. 429 jissinjala limitu ta’ rata u jeħtieġ riprovazzjoni b’backoff esponenzjali. 401 jindika ċavetta invalida jew skaduta: ir-riprovazzjoni hija inutili, allura falla immedjatament b’messaġġ ċar. 404 kważi dejjem jindika varjabbli AZUREAI_ENDPOINT ikkonfigurata ħażin. Id-distinzjoni ta’ dawn il-każijiet tiffrankalek siegħa tiddibuggja żball fit-tipa f’URL.

import time
from mistralai.azure.client import MistralAzure

def robust_call(client, messages, max_retries=3):
    """Sejħa b'riprovazzjoni esponenzjali u ġestjoni tal-iżbalji."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="azureai",
                messages=messages
            )
        except Exception as e:
            error_str = str(e)
            if "429" in error_str:
                wait = 2 ** attempt
                print(f"Limitu ta' rata — nipprova mill-ġdid f'{wait}s")
                time.sleep(wait)
            elif "401" in error_str:
                raise ValueError("Ċavetta tal-API invalida jew skaduta") from e
            elif "404" in error_str:
                raise ValueError("Endpoint ma nstabx — iċċekkja AZUREAI_ENDPOINT") from e
            else:
                if attempt == max_retries - 1:
                    raise
                time.sleep(1)
    raise RuntimeError("Falliment wara r-riprovazzjonijiet kollha")

Kejl tal-Konsum

Kull tweġiba tinkludi oġġett usage li jiddettalja t-tokens konsumati. Aqra dan b’mod sistematiku: hija l-unika kejl affidabbli biex tistma l-ispejjeż u tindividwa prompt tas-sistema li sar mimli biżżejjed minħabba edits ripetuti.

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Hello"}]
)

usage = response.usage
print(f"Tokens tal-prompt  : {usage.prompt_tokens}")
print(f"Tokens tat-tweġiba: {usage.completion_tokens}")
print(f"Tokens totali      : {usage.total_tokens}")

Punti Ewlenin

  • Il-klijent MistralAzure jaħdem bħall-klijent standard, billi juża model="azureai"
  • L-istreaming (chat.stream) huwa rrakkomandat għall-interfaċċji tal-utent
  • Is-sejħiet asinkroni (complete_async) huma essenzjali għas-servers web
  • Is-sejħa ta’ funzjonijiet u l-modalità JSON jaħdmu bl-istess mod bħall-API diretta
  • Implimenta dejjem riprovazzjoni esponenzjali biex tittratta żbalji 429