MistralAzure-asiakas Pythonissa
Tällä sivulla
Koodaus MistralAzuren kanssa
Azure-päätepisteesi on otettu käyttöön ja vastaa pyyntöihin; nyt sinun tulee kirjoittaa koodi, joka hyödyntää sitä luotettavasti. Tämä oppitunti käsittelee Pythonin MistralAzure-asiakasta: alustus, päivittäiset käyttötavat – yksinkertaiset kutsut, suoratoisto, asynkroninen suoritus ja funktiokutsut – sekä ne harvat erityispiirteet, jotka erottavat Azuren suorasta rajapinnasta.
Asennus ja konfigurointi
Päivitetty 2. marraskuuta 2026 – Mistral SDK 2 ja uudemmat. Python-SDK:n versiosta 2.0 (maaliskuu 2026) lähtien Azure-asiakas tuodaan moduulista
mistralai.azure.client, ja sen version 1 parametritazure_endpointjaazure_api_keyon muutettu muotoonserver_urljaapi_key. Tämän oppitunnin koodi noudattaa nykyistä versiota (3.7.0, 1. marraskuuta 2026). Lähteet: v2.0.0 julkaisutiedot · Mistral Azuressa.
Azure-asiakas sisältyy mistralai-pakettiin; lisäriippuvuuksia ei tarvita.
pip install mistralai
Alustus vaatii kaksi parametria:
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
server_url– Azure-päätepisteesi URL-osoiteapi_key– Päätepisteen todennusavain
Kolmas, valinnainen parametri api_version on oletusarvoisesti 2024-05-01-preview. SDK lisää tämän automaattisesti jokaiseen pyyntöön URL-parametrina.
Keskustelun täydennykset
Tästä eteenpäin kokemus vastaa vakioasiakasta. Käytä järjestelmäviestiä määrittääksesi mallin roolin, käyttäjäviestiä kysymykseen ja lue vastaus kohdasta choices[0].message.content.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "system", "content": "Olet tekninen avustaja, joka on erikoistunut Pythoniin."},
{"role": "user", "content": "Miten totean välimuistikoristeen?"}
]
)
print(response.choices[0].message.content)
Generointiparametrit toimivat täsmälleen samoin kuin suorassa Mistralin rajapinnassa. Jos vastaus on liian arvaamaton tai puhelias, korjaa se täällä, älä kehotteessa.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Luo haiku pilvilaskennasta."}
],
temperature=0.7,
max_tokens=150,
top_p=0.95
)
temperature– Ohjaa luovuutta (0,0 = deterministinen, 1,0 = luova)max_tokens– Rajoittaa vastauksen pituuttatop_p– Ydinnäytteenotto (nucleus sampling)
Suoratoisto
Kun vastaukset venyvät satoihin sanoihin, tavallinen kutsu jättää käyttäjän tuijottamaan jäätyneenä näyttöä useita sekunteja. Suoratoisto poistaa tämän koetun odotusajan näyttämällä tekstin sitä mukaa kuin se generoituu. Tämä on oletustila aina, kun mukana on ihmiskäyttöliittymä.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Selitä, miten kuormantasaus toimii."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
print() # Rivinvaihto lopussa
Huomaa if content-tarkistus: jotkin osat saapuvat tyhjinä ja tulostaisivat ilman tätä varotoimea None-arvon näytölle.
Asynkroniset kutsut
Web-palvelimessa – kuten FastAPI:ssa tai Django asyncissa – estävä kutsu sitoo työntekijän koko generoinnin ajaksi, mikä vie usein useita sekunteja pyyntöä kohden. Asynkroninen asiakas luovuttaa hallinnan odotuksen ajaksi, jolloin yksi prosessi voi käsitellä kymmeniä samanaikaisia pyyntöjä.
import asyncio
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
async def generate_response(prompt: str) -> str:
response = await client.chat.complete_async(
model="azureai",
messages=[{"role": "user", "content": prompt}]
)
return response.choices[0].message.content
# Suoritus
result = asyncio.run(generate_response("Mikä on Kubernetes?"))
print(result)
Funktiokutsut
Funktiokutsut toimivat täsmälleen samoin kuin suorassa rajapinnassa. Kuvailet käytettävissä olevat työkalut, malli päättää, kutsutaanko jotakin niistä, ja koodisi suorittaa funktion itse – malli vain muotoilee aikomuksen ja argumentit.
import json
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Hae säätietylle kaupungille",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "Kaupungin nimi"}
},
"required": ["city"]
}
}
}
]
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Mikä sää on Pariisissa?"}],
tools=tools,
tool_choice="auto"
)
# Tarkista, haluaako malli kutsua funktiota
if response.choices[0].message.tool_calls:
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
print(f"Funktio kutsuttu: {tool_call.function.name}")
print(f"Argumentit: {args}")
Virheenkäsittely
Tuotantoympäristössä toistuu kolme virhetyyppiä, ja ne vaativat erilaisia reagointitapoja. 429 ilmoittaa nopeusrajoituksesta ja vaatii uudelleenyrittämistä eksponentiaalisella viiveellä. 401 kertoo virheellisestä tai vanhentuneesta avaimesta: uudelleenyrittäminen on turhaa, joten epäonnistu välittömästi selkeällä viestillä. 404 viittaa lähes aina väärin määritettyyn AZUREAI_ENDPOINT-muuttujaan. Näiden tapausten erottaminen säästää sinut tunnin mittaiselta virheenetsinnältä URL-osoitteen kirjoitusvirheen takia.
import time
from mistralai.azure.client import MistralAzure
def robust_call(client, messages, max_retries=3):
"""Kutsu eksponentiaalisella uudelleenyrittämisellä ja virheenkäsittelyllä."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="azureai",
messages=messages
)
except Exception as e:
error_str = str(e)
if "429" in error_str:
wait = 2 ** attempt
print(f"Nopeusrajoitus – yritetään uudelleen {wait}s kuluttua")
time.sleep(wait)
elif "401" in error_str:
raise ValueError("Virheellinen tai vanhentunut API-avain") from e
elif "404" in error_str:
raise ValueError("Päätepistettä ei löydy – tarkista AZUREAI_ENDPOINT") from e
else:
if attempt == max_retries - 1:
raise
time.sleep(1)
raise RuntimeError("Epäonnistui kaikkien uudelleenyrittämisten jälkeen")
Kulutuksen mittaaminen
Jokainen vastaus sisältää usage-objektin, joka erittelee kulutetut tokenit. Lue tämä systemaattisesti: se on ainoa luotettava mittari kustannusten arviointiin ja toistuvista muokkauksista paisuneen järjestelmäkehotteen havaitsemiseen.
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Hei"}]
)
usage = response.usage
print(f"Kehotetokenit : {usage.prompt_tokens}")
print(f"Vastaustokenit : {usage.completion_tokens}")
print(f"Tokenit yhteensä: {usage.total_tokens}")
Keskeiset asiat
MistralAzure-asiakas toimii kuten vakioasiakas käyttäen parametriamodel="azureai"- Suoratoisto (
chat.stream) on suositeltavaa käyttäjäliittymille - Asynkroniset kutsut (
complete_async) ovat välttämättömiä web-palvelimille - Funktiokutsut ja JSON-tila toimivat täsmälleen samoin kuin suorassa rajapinnassa
- Toteuta aina eksponentiaalinen uudelleenyrittäminen
429-virheiden käsittelyyn