Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

MistralAzure-asiakas Pythonissa

Oppitunti 5 / 14 Päivitetty 2. marraskuuta 2026 Edistynyt
Tällä sivulla
  1. Koodaus MistralAzuren kanssa
  2. Asennus ja konfigurointi
  3. Keskustelun täydennykset
  4. Suoratoisto
  5. Asynkroniset kutsut
  6. Funktiokutsut
  7. Virheenkäsittely
  8. Kulutuksen mittaaminen
  9. Keskeiset asiat

Koodaus MistralAzuren kanssa

Azure-päätepisteesi on otettu käyttöön ja vastaa pyyntöihin; nyt sinun tulee kirjoittaa koodi, joka hyödyntää sitä luotettavasti. Tämä oppitunti käsittelee Pythonin MistralAzure-asiakasta: alustus, päivittäiset käyttötavat – yksinkertaiset kutsut, suoratoisto, asynkroninen suoritus ja funktiokutsut – sekä ne harvat erityispiirteet, jotka erottavat Azuren suorasta rajapinnasta.

Asennus ja konfigurointi

Päivitetty 2. marraskuuta 2026 – Mistral SDK 2 ja uudemmat. Python-SDK:n versiosta 2.0 (maaliskuu 2026) lähtien Azure-asiakas tuodaan moduulista mistralai.azure.client, ja sen version 1 parametrit azure_endpoint ja azure_api_key on muutettu muotoon server_url ja api_key. Tämän oppitunnin koodi noudattaa nykyistä versiota (3.7.0, 1. marraskuuta 2026). Lähteet: v2.0.0 julkaisutiedot · Mistral Azuressa.

Azure-asiakas sisältyy mistralai-pakettiin; lisäriippuvuuksia ei tarvita.

pip install mistralai

Alustus vaatii kaksi parametria:

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)
  • server_url – Azure-päätepisteesi URL-osoite
  • api_key – Päätepisteen todennusavain

Kolmas, valinnainen parametri api_version on oletusarvoisesti 2024-05-01-preview. SDK lisää tämän automaattisesti jokaiseen pyyntöön URL-parametrina.

Keskustelun täydennykset

Tästä eteenpäin kokemus vastaa vakioasiakasta. Käytä järjestelmäviestiä määrittääksesi mallin roolin, käyttäjäviestiä kysymykseen ja lue vastaus kohdasta choices[0].message.content.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "system", "content": "Olet tekninen avustaja, joka on erikoistunut Pythoniin."},
        {"role": "user", "content": "Miten totean välimuistikoristeen?"}
    ]
)

print(response.choices[0].message.content)

Generointiparametrit toimivat täsmälleen samoin kuin suorassa Mistralin rajapinnassa. Jos vastaus on liian arvaamaton tai puhelias, korjaa se täällä, älä kehotteessa.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Luo haiku pilvilaskennasta."}
    ],
    temperature=0.7,
    max_tokens=150,
    top_p=0.95
)
  • temperature – Ohjaa luovuutta (0,0 = deterministinen, 1,0 = luova)
  • max_tokens – Rajoittaa vastauksen pituutta
  • top_p – Ydinnäytteenotto (nucleus sampling)

Suoratoisto

Kun vastaukset venyvät satoihin sanoihin, tavallinen kutsu jättää käyttäjän tuijottamaan jäätyneenä näyttöä useita sekunteja. Suoratoisto poistaa tämän koetun odotusajan näyttämällä tekstin sitä mukaa kuin se generoituu. Tämä on oletustila aina, kun mukana on ihmiskäyttöliittymä.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Selitä, miten kuormantasaus toimii."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)
print()  # Rivinvaihto lopussa

Huomaa if content-tarkistus: jotkin osat saapuvat tyhjinä ja tulostaisivat ilman tätä varotoimea None-arvon näytölle.

Asynkroniset kutsut

Web-palvelimessa – kuten FastAPI:ssa tai Django asyncissa – estävä kutsu sitoo työntekijän koko generoinnin ajaksi, mikä vie usein useita sekunteja pyyntöä kohden. Asynkroninen asiakas luovuttaa hallinnan odotuksen ajaksi, jolloin yksi prosessi voi käsitellä kymmeniä samanaikaisia pyyntöjä.

import asyncio
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

async def generate_response(prompt: str) -> str:
    response = await client.chat.complete_async(
        model="azureai",
        messages=[{"role": "user", "content": prompt}]
    )
    return response.choices[0].message.content

# Suoritus
result = asyncio.run(generate_response("Mikä on Kubernetes?"))
print(result)

Funktiokutsut

Funktiokutsut toimivat täsmälleen samoin kuin suorassa rajapinnassa. Kuvailet käytettävissä olevat työkalut, malli päättää, kutsutaanko jotakin niistä, ja koodisi suorittaa funktion itse – malli vain muotoilee aikomuksen ja argumentit.

import json

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Hae säätietylle kaupungille",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "Kaupungin nimi"}
                },
                "required": ["city"]
            }
        }
    }
]

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Mikä sää on Pariisissa?"}],
    tools=tools,
    tool_choice="auto"
)

# Tarkista, haluaako malli kutsua funktiota
if response.choices[0].message.tool_calls:
    tool_call = response.choices[0].message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(f"Funktio kutsuttu: {tool_call.function.name}")
    print(f"Argumentit: {args}")

Virheenkäsittely

Tuotantoympäristössä toistuu kolme virhetyyppiä, ja ne vaativat erilaisia reagointitapoja. 429 ilmoittaa nopeusrajoituksesta ja vaatii uudelleenyrittämistä eksponentiaalisella viiveellä. 401 kertoo virheellisestä tai vanhentuneesta avaimesta: uudelleenyrittäminen on turhaa, joten epäonnistu välittömästi selkeällä viestillä. 404 viittaa lähes aina väärin määritettyyn AZUREAI_ENDPOINT-muuttujaan. Näiden tapausten erottaminen säästää sinut tunnin mittaiselta virheenetsinnältä URL-osoitteen kirjoitusvirheen takia.

import time
from mistralai.azure.client import MistralAzure

def robust_call(client, messages, max_retries=3):
    """Kutsu eksponentiaalisella uudelleenyrittämisellä ja virheenkäsittelyllä."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="azureai",
                messages=messages
            )
        except Exception as e:
            error_str = str(e)
            if "429" in error_str:
                wait = 2 ** attempt
                print(f"Nopeusrajoitus – yritetään uudelleen {wait}s kuluttua")
                time.sleep(wait)
            elif "401" in error_str:
                raise ValueError("Virheellinen tai vanhentunut API-avain") from e
            elif "404" in error_str:
                raise ValueError("Päätepistettä ei löydy – tarkista AZUREAI_ENDPOINT") from e
            else:
                if attempt == max_retries - 1:
                    raise
                time.sleep(1)
    raise RuntimeError("Epäonnistui kaikkien uudelleenyrittämisten jälkeen")

Kulutuksen mittaaminen

Jokainen vastaus sisältää usage-objektin, joka erittelee kulutetut tokenit. Lue tämä systemaattisesti: se on ainoa luotettava mittari kustannusten arviointiin ja toistuvista muokkauksista paisuneen järjestelmäkehotteen havaitsemiseen.

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Hei"}]
)

usage = response.usage
print(f"Kehotetokenit  : {usage.prompt_tokens}")
print(f"Vastaustokenit : {usage.completion_tokens}")
print(f"Tokenit yhteensä: {usage.total_tokens}")

Keskeiset asiat

  • MistralAzure-asiakas toimii kuten vakioasiakas käyttäen parametria model="azureai"
  • Suoratoisto (chat.stream) on suositeltavaa käyttäjäliittymille
  • Asynkroniset kutsut (complete_async) ovat välttämättömiä web-palvelimille
  • Funktiokutsut ja JSON-tila toimivat täsmälleen samoin kuin suorassa rajapinnassa
  • Toteuta aina eksponentiaalinen uudelleenyrittäminen 429-virheiden käsittelyyn