Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

A MistralAzure kliens Pythonban

5. lecke 14 közül Frissítve 2026. november 2. Haladó
Ezen az oldalon
  1. Kódolás a MistralAzure-rel
  2. Telepítés és konfiguráció
  3. Chat kiegészítések (Chat Completions)
  4. Streamelés
  5. Aszinkron hívások
  6. Függvényhívás
  7. Hibakezelés
  8. Fogyasztás mérése
  9. Főbb megállapítások

Kódolás a MistralAzure-rel

Az Azure végpontod üzemel és válaszol; most meg kell írnod a kódot, amely megbízhatóan használja azt. Ez a lecke részletezi a Python MistralAzure klienst: az inicializálást, a napi szinten használt mintákat – egyszerű hívások, streamelés, aszinkron végrehajtás és függvényhívás –, valamint azokat a sajátosságokat, amelyek megkülönböztetik az Azure-t a közvetlen API-tól.

Telepítés és konfiguráció

Frissítve: 2026. november 2. — Mistral SDK 2 és újabb. A Python SDK 2.0-s verziójától (2026. március) kezdve az Azure kliens a mistralai.azure.client modulból importálható, és az 1-es verzió azure_endpoint, illetve azure_api_key paraméterei server_url és api_key névre változtak. Ebben a leckében a jelenlegi verziót (3.7.0, 2026. november 1.) követő kód szerepel. Források: v2.0.0 kiadási jegyzetek · Mistral az Azure-on.

Az Azure kliens része a mistralai csomagnak; nincs szükség további függőségekre.

pip install mistralai

Az inicializáláshoz két paraméter szükséges:

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)
  • server_url — Az Azure végpontod URL-je
  • api_key — A végpont hitelesítési kulcsa

Egy harmadik, opcionális paraméter, az api_version, alapértelmezés szerint 2024-05-01-preview. Az SDK ezt automatikusan hozzáadja minden kéréshez URL-paraméterként.

Chat kiegészítések (Chat Completions)

Innentől kezdve az élmény megegyezik a szabványos klienssel. Használj egy rendszerüzenetet a modell szerepének meghatározásához, egy felhasználói üzenetet a kérdéshez, és olvasd ki a választ a choices[0].message.content mezőből.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "system", "content": "Te egy Pythonra specializálódott technikai asszisztens vagy."},
        {"role": "user", "content": "Hogyan valósítsak meg egy gyorsítótár dekorátort?"}
    ]
)

print(response.choices[0].message.content)

A generálási paraméterek pontosan úgy viselkednek, mint a közvetlen Mistral API esetén. Ha egy válasz túl kiszámíthatatlan vagy bőbeszédű, javítsd ezt itt, ne a promptban.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Írj egy haikut a felhőalapú számítástechnikáról."}
    ],
    temperature=0.7,
    max_tokens=150,
    top_p=0.95
)
  • temperature — A kreativitást szabályozza (0,0 = determinisztikus, 1,0 = kreatív)
  • max_tokens — Korlátozza a válasz hosszát
  • top_p — Magmintavételezés (nucleus sampling)

Streamelés

Több száz szavas válaszok esetén a szabványos hívás miatt a felhasználónak több másodpercig kell egy befagyott képernyőt bámulnia. A streamelés megszünteti ezt a várakozási érzetet azáltal, hogy a szöveget generálás közben jeleníti meg. Ez az alapértelmezett mód, amikor emberi felülettel van dolgunk.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Magyarázd el, hogyan működik egy terheléselosztó."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)
print()  # Új sor a végén

Figyeld meg az if content ellenőrzést: egyes blokkok üresen érkeznek, és e nélkül az óvintézkedés nélkül a None értéket írnák ki a képernyőre.

Aszinkron hívások

Egy webszerverben – FastAPI, Django async – egy blokkoló hívás leköt egy munkafolyamatot a teljes generálási időre, ami gyakran több másodperc kérésenként. Az aszinkron kliens átengedi az irányítást várakozás közben, lehetővé téve, hogy egyetlen folyamat tucatnyi egyidejű kérést kezeljen.

import asyncio
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

async def generate_response(prompt: str) -> str:
    response = await client.chat.complete_async(
        model="azureai",
        messages=[{"role": "user", "content": prompt}]
    )
    return response.choices[0].message.content

# Végrehajtás
result = asyncio.run(generate_response("Mi az a Kubernetes?"))
print(result)

Függvényhívás

A függvényhívás viselkedése megegyezik a közvetlen API-éval. Leírod az elérhető eszközöket, a modell eldönti, hívjon-e egyet, és a te kódod hajtja végre ténylegesen a függvényt – a modell csak a szándékot és az argumentumokat fogalmazza meg.

import json

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Lekéri az időjárást egy városra",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "A város neve"}
                },
                "required": ["city"]
            }
        }
    }
]

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Milyen az időjárás Párizsban?"}],
    tools=tools,
    tool_choice="auto"
)

# Ellenőrizd, hogy a modell függvényt akar-e hívni
if response.choices[0].message.tool_calls:
    tool_call = response.choices[0].message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(f"Függvény hívva: {tool_call.function.name}")
    print(f"Argumentumok: {args}")

Hibakezelés

Éles környezetben három hibatípus ismétlődik gyakran, és ezek eltérő reakciót igényelnek. A 429 sebességkorlátozást jelez, és exponenciális visszalépéssel (exponential backoff) történő újrapróbálkozást tesz szükségessé. A 401 érvénytelen vagy lejárt kulcsra utal: az újrapróbálkozás haszontalan, ezért azonnal állj le egy egyértelmű üzenettel. A 404 szinte mindig helytelenül konfigurált AZUREAI_ENDPOINT változóra utal. Ezen esetek megkülönböztetése megkímél attól, hogy egy órát tölts el egy elírás debuggolásával az URL-ben.

import time
from mistralai.azure.client import MistralAzure

def robust_call(client, messages, max_retries=3):
    """Hívás exponenciális újrapróbálkozással és hibakezeléssel."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="azureai",
                messages=messages
            )
        except Exception as e:
            error_str = str(e)
            if "429" in error_str:
                wait = 2 ** attempt
                print(f"Sebességkorlát — újrapróbálkozás {wait}s múlva")
                time.sleep(wait)
            elif "401" in error_str:
                raise ValueError("Érvénytelen vagy lejárt API kulcs") from e
            elif "404" in error_str:
                raise ValueError("Végpont nem található — ellenőrizd az AZUREAI_ENDPOINT változót") from e
            else:
                if attempt == max_retries - 1:
                    raise
                time.sleep(1)
    raise RuntimeError("Minden újrapróbálkozás után sikertelen")

Fogyasztás mérése

Minden válasz tartalmaz egy usage objektumot, amely részletezi az elfogyasztott tokeneket. Olvasd ezt rendszeresen: ez az egyetlen megbízható mérőszám a költségek becsléséhez és annak felismeréséhez, ha egy rendszerprompt túlságosan elhízott az ismételt szerkesztések miatt.

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Szia"}]
)

usage = response.usage
print(f"Prompt tokenek  : {usage.prompt_tokens}")
print(f"Válasz tokenek  : {usage.completion_tokens}")
print(f"Összes token    : {usage.total_tokens}")

Főbb megállapítások

  • A MistralAzure kliens úgy működik, mint a szabványos kliens, a model="azureai" paraméterrel
  • A streamelés (chat.stream) ajánlott felhasználói felületekhez
  • Az aszinkron hívások (complete_async) elengedhetetlenek webszerverekhez
  • A függvényhívás és a JSON mód megegyezik a közvetlen API-val
  • Mindig valósíts meg exponenciális újrapróbálkozást a 429 hibák kezelésére