Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Klients MistralAzure Python valodā

Nodarbība 5 no 14 Atjaunota 2026. gada 2. novembris Augstākais
Šajā lapā
  1. Kodēšana ar MistralAzure
  2. Instalēšana un konfigurēšana
  3. Tērzēšanas pabeigšana (Chat Completions)
  4. Straumēšana
  5. Asinhroni izsaukumi
  6. Funkciju izsaukumi
  7. Kļūdu apstrāde
  8. Patēriņa mērīšana
  9. Galvenās atziņas

Kodēšana ar MistralAzure

Tavs Azure galapunkts ir izvietots un atbild; tagad tev jāuzraksta kods, kas to izmantos uzticami. Šī nodarbība detalizēti aplūko Python klientu MistralAzure: inicializāciju, ikdienā izmantojamos modeļus — vienkāršus izsaukumus, straumēšanu, asinhronu izpildi un funkciju izsaukumus — kā arī dažas specifiskas nianses, kas atšķir Azure no tiešās API.

Instalēšana un konfigurēšana

Atjaunināts 2026. gada 2. novembrī — Mistral SDK 2 un jaunākas versijas. Kopš Python SDK 2.0. versijas (2026. gada marts) Azure klients tiek importēts no mistralai.azure.client, un tā 1. versijas parametri azure_endpoint un azure_api_key ir pārdēvēti par server_url un api_key. Šīs nodarbības kods atbilst aktuālajai versijai (3.7.0, 2026. gada 1. novembris). Avoti: v2.0.0 laidiena piezīmes · Mistral uz Azure.

Azure klients ir iekļauts paketē mistralai; papildu atkarības nav nepieciešamas.

pip install mistralai

Inicializācijai nepieciešami divi parametri:

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)
  • server_url — Tavs Azure galapunkta URL
  • api_key — Galapunkta autentifikācijas atslēga

Trešais, neobligātais parametrs api_version pēc noklusējuma ir 2024-05-01-preview. SDK šo vērtību automātiski pievieno katram pieprasījumam kā URL parametru.

Tērzēšanas pabeigšana (Chat Completions)

No šī brīža pieredze ir identiska standarta klientam. Izmanto sistēmas ziņojumu, lai definētu modeļa lomu, lietotāja ziņojumu jautājumam un nolasīti atbildi no choices[0].message.content.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "system", "content": "Tu esi tehniskais asistents, kas specializējas Python valodā."},
        {"role": "user", "content": "Kā implementēt kešatmiņas dekoratoru?"}
    ]
)

print(response.choices[0].message.content)

Ģenerēšanas parametri uzvedas tieši tāpat kā tiešajā Mistral API. Ja atbilde ir pārāk neparedzama vai daudzrunīga, koriģē to šeit, nevis promptā.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Uzģenerē haiku par mākoņskaitļošanu."}
    ],
    temperature=0.7,
    max_tokens=150,
    top_p=0.95
)
  • temperature — Kontrolē radošumu (0,0 = determinēts, 1,0 = radošs)
  • max_tokens — Ierobežo atbildes garumu
  • top_p — Kodola paraugu ņemšana (nucleus sampling)

Straumēšana

Atbildēm, kas sastāv no vairākiem simtiem vārdu, standarta izsaukums liek lietotājam vairākas sekundes skatīties uz iesalušu ekrānu. Straumēšana novērš šo šķietamo gaidīšanu, parādot tekstu tā ģenerēšanas brīdī. Tas ir noklusējuma režīms, kad iesaistīta cilvēka saskarne.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Paskaidro, kā darbojas slodzes līdzsvarotājs."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)
print()  # Jauna rinda beigās

Ņem vērā pārbaudi if content: daži fragmenti ierodas tukši un bez šīs piesardzības ekrānā tiktu izdrukāts None.

Asinhroni izsaukumi

Tīmekļa serverī (FastAPI, Django async) bloķējošs izsaukums sasien strādnieku uz visu ģenerēšanas laiku, kas bieži vien ir vairākas sekundes uz pieprasījumu. Asinhronais klients atdod kontroli gaidīšanas laikā, ļaujot vienam procesam apstrādāt desmitiem vienlaicīgu pieprasījumu.

import asyncio
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

async def generate_response(prompt: str) -> str:
    response = await client.chat.complete_async(
        model="azureai",
        messages=[{"role": "user", "content": prompt}]
    )
    return response.choices[0].message.content

# Izpilde
result = asyncio.run(generate_response("Kas ir Kubernetes?"))
print(result)

Funkciju izsaukumi

Funkciju izsaukumi uzvedas identiski tiešajai API. Tu apraksti pieejamos rīkus, models izlemj, vai kādu no tiem izsaukt, un tavs kods faktiski izpilda funkciju — models tikai formulē nodomu un argumentus.

import json

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Iegūst laika apstākļus pilsētai",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "Pilsētas nosaukums"}
                },
                "required": ["city"]
            }
        }
    }
]

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Kāds ir laiks Parīzē?"}],
    tools=tools,
    tool_choice="auto"
)

# Pārbaudi, vai models vēlas izsaukt funkciju
if response.choices[0].message.tool_calls:
    tool_call = response.choices[0].message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(f"Izsaukta funkcija: {tool_call.function.name}")
    print(f"Argumenti: {args}")

Kļūdu apstrāde

Produkcijas vidē atkārtojas trīs kļūdu veidi, un tiem ir nepieciešama atšķirīga reakcija. Kods 429 signalizē ātruma ierobežojumu un prasa atkārtotu mēģinājumu ar eksponenciālu pauzi. Kods 401 norāda uz nederīgu vai beigušos atslēgu: atkārtot mēģinājumu ir bezjēdzīgi, tāpēc nekavējoties pārtrauc darbību ar skaidru ziņojumu. Kods 404 gandrīz vienmēr norāda uz nepareizi konfigurētu mainīgo AZUREAI_ENDPOINT. Šo gadījumu nošķiršana ietaupīs tev stundu, meklējot kļūdu URL rakstībā.

import time
from mistralai.azure.client import MistralAzure

def robust_call(client, messages, max_retries=3):
    """Izsaukums ar eksponenciālu atkārtošanu un kļūdu apstrādi."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="azureai",
                messages=messages
            )
        except Exception as e:
            error_str = str(e)
            if "429" in error_str:
                wait = 2 ** attempt
                print(f"Ātruma ierobežojums — atkārtoju pēc {wait}s")
                time.sleep(wait)
            elif "401" in error_str:
                raise ValueError("Nederīga vai beigusies API atslēga") from e
            elif "404" in error_str:
                raise ValueError("Galapunkts nav atrasts — pārbaudi AZUREAI_ENDPOINT") from e
            else:
                if attempt == max_retries - 1:
                    raise
                time.sleep(1)
    raise RuntimeError("Neizdevās pēc visiem atkārtojumiem")

Patēriņa mērīšana

Katra atbilde ietver objektu usage, kas detalizēti norāda patērētos tokenus. Lasī to sistemātiski: tas ir vienīgais uzticamais rādītājs izmaksu aprēķināšanai un sistēmas prompta uzpūšanās noteikšanai atkārtotu rediģēšanu rezultātā.

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Sveiki"}]
)

usage = response.usage
print(f"Prompta tokeni  : {usage.prompt_tokens}")
print(f"Atbildes tokeni : {usage.completion_tokens}")
print(f"Kopā tokeni    : {usage.total_tokens}")

Galvenās atziņas

  • Klients MistralAzure darbojas tāpat kā standarta klients, izmantojot model="azureai"
  • Straumēšana (chat.stream) ir ieteicama lietotāja saskarnēm
  • Asinhroni izsaukumi (complete_async) ir būtiski tīmekļa serveriem
  • Funkciju izsaukumi un JSON režīms darbojas identiski tiešajai API
  • Vienmēr implementē eksponenciālu atkārtošanu, lai apstrādātu kļūdas 429