An Cliant MistralAzure i Python
Ar an leathanach seo
Códú le MistralAzure
Tá do chríochphointe Azure imlonnaithe agus ag freagairt; anois, ní mór duit an cód a scríobh a úsáidfidh go hiontaofa é. Mionsonraíonn an ceacht seo an cliant Python MistralAzure: tosú, na patrúin a úsáidfidh tú go laethúil—glaoite simplí, sruthú, feidhmiú neamhshioncrónach, agus glao feidhme—agus na cúpla sonraíocht a dhéanann idirdhealú idir Azure agus an API díreach.
Suiteáil agus Cumraíocht
Nuashonraithe 2 Samhain 2026 — Mistral SDK 2 agus níos déanaí. Ó leagan 2.0 den SDK Python (Márta 2026), allmhairítear an cliant Azure ó
mistralai.azure.client, agus tá na paraiméadair leagan 1azure_endpointagusazure_api_keyathraithe goserver_urlagusapi_key. Leanann an cód sa cheacht seo an leagan reatha (3.7.0, 1 Samhain 2026). Foinse: nótaí scaoilte v2.0.0 · Mistral ar Azure.
Tá an cliant Azure san áireamh sa phacáiste mistralai; níl aon spleáchais bhreise ag teastáil.
pip install mistralai
Éilíonn an tosú dhá pharaiméadar:
import os
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
server_url— URL do chríochphointe Azureapi_key— Eochair fíordheimhniú an chríochphointe
Is paraiméadar roghnach é an tríú ceann, api_version, agus tá sé socraithe go réamhshocraithe ar 2024-05-01-preview. Cuireann an SDK leis seo gach iarratas go huathoibríoch mar pharaiméadar URL.
Comhlánuithe Comhrá
Ón bpointe seo amach, tá an taithí cosúil leis an gcliant caighdeánach. Úsáid teachtaireacht chórais chun ról an mhúnla a shainiú, teachtaireacht úsáideora don cheist, agus léigh an freagra ó choices[0].message.content.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "system", "content": "Is cúntóir teicniúil tú atá speisialaithe i Python."},
{"role": "user", "content": "Conas a chuirfeá maisc cache i bhfeidhm?"}
]
)
print(response.choices[0].message.content)
Feidhmíonn paraiméadair ghiniúna díreach mar a dhéanann siad leis an API Mistral díreach. Má tá freagra ró-neamhthuarthach nó ró-fhocalach, ceartaigh é anseo, ní sa leid.
response = client.chat.complete(
model="azureai",
messages=[
{"role": "user", "content": "Gin haiku faoi ríomhaireacht scamaill."}
],
temperature=0.7,
max_tokens=150,
top_p=0.95
)
temperature— Rialaíonn cruthaitheacht (0.0 = cinntitheach, 1.0 = cruthaitheach)max_tokens— Teorainneann fad na freagratop_p— Sampláil núicléis
Sruthú
Do fhreagraí a shíneann thar roinnt céad focal, fágann glao caighdeánach an t-úsáideoir ag stánadh ar scáileán reoite ar feadh roinnt soicind. Cuireann sruthú deireadh leis an bhfanacht mheasta seo trí théacs a thaispeáint de réir mar a ghintear é. Seo an mód réamhshocraithe aon uair a bhíonn comhéadan daonna i gceist.
stream = client.chat.stream(
model="azureai",
messages=[
{"role": "user", "content": "Mínigh conas a oibrí cothromóir ualaigh."}
]
)
for chunk in stream:
content = chunk.data.choices[0].delta.content
if content:
print(content, end="", flush=True)
print() # Líne nua ag an deireadh
Tabhair faoi deara an seiceáil if content: tagann roinnt píosaí isteach folamh agus phriontálfaidís None ar an scáileán gan an réamhchúram seo.
Glaoite Neamhshioncrónacha
I bhfreastalaí gréasáin—FastAPI, Django async—cuireann glao blocála oibrí ar ceal ar feadh fhad iomlán na giniúna, go minic roinnt soicind in aghaidh an iarratais. Tugann an cliant neamhshioncrónach smacht ar ais le linn na feithimh, rud a ligeann do phróiseas amháin déileáil le scórtha iarratas comhthreomhar.
import asyncio
from mistralai.azure.client import MistralAzure
client = MistralAzure(
server_url=os.environ["AZUREAI_ENDPOINT"],
api_key=os.environ["AZUREAI_API_KEY"]
)
async def generate_response(prompt: str) -> str:
response = await client.chat.complete_async(
model="azureai",
messages=[{"role": "user", "content": prompt}]
)
return response.choices[0].message.content
# Feidhmiú
result = asyncio.run(generate_response("Cad é Kubernetes?"))
print(result)
Glao Feidhme
Feidhmíonn glao feidhme go díreach mar a dhéanann sé leis an API díreach. Déanann tú cur síos ar uirlisí atá ar fáil, cinneann an múnla an bhfuil ceann le glaoch air, agus déanann do chód an fheidhm a fhorghníomhú i ndáiríre—ní fhoirmíonn an múnla ach an rún agus na hargóintí.
import json
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Faigh an aimsir do chathair",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "Ainm na cathrach"}
},
"required": ["city"]
}
}
}
]
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Cén aimsir atá i bPáras?"}],
tools=tools,
tool_choice="auto"
)
# Seiceáil an bhfuil an múnla ag iarraidh feidhm a ghlaowh
if response.choices[0].message.tool_calls:
tool_call = response.choices[0].message.tool_calls[0]
args = json.loads(tool_call.function.arguments)
print(f"Feidhm glaodh: {tool_call.function.name}")
print(f"Argóintí: {args}")
Láimhseáil Earráide
Sa táirgeadh, tagann trí theaghlach earráidí chun cinn go minic, agus éilíonn siad freagraí difriúla. Léiríonn 429 teorainn ráta agus éilíonn sé athiarracht le cúlú easpónantúil. Léiríonn 401 eochair neamhbhailí nó caite: tá sé gan úsáid athiarracht a dhéanamh, mar sin teip láithreach le teachtaireacht shoiléir. Beagnach i gcónaí, ciallaíonn 404 go bhfuil an athróg AZUREAI_ENDPOINT míchumraithe. Sábhálann an t-idirdhealú idir na cásanna seo uair an chloig duit agus tú ag díbhugú camóg i URL.
import time
from mistralai.azure.client import MistralAzure
def robust_call(client, messages, max_retries=3):
"""Glao le hathiarracht easpónantúil agus láimhseáil earráide."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="azureai",
messages=messages
)
except Exception as e:
error_str = str(e)
if "429" in error_str:
wait = 2 ** attempt
print(f"Teorainn ráta — ag athiarracht i {wait}s")
time.sleep(wait)
elif "401" in error_str:
raise ValueError("Eochair API neamhbhailí nó caite") from e
elif "404" in error_str:
raise ValueError("Níor aimsíodh an críochphointe — seiceáil AZUREAI_ENDPOINT") from e
else:
if attempt == max_retries - 1:
raise
time.sleep(1)
raise RuntimeError("Theip tar éis gach athiarrachta")
Tomhas Tomhaltais
Áirítear oibiacht usage i ngach freagra a shonraíonn na comharthaí a tomhlaíodh. Léigh é seo go córasach: is é an t-aon bheart iontaofa é chun costais a mheas agus chun leid córais a aithint atá tar éis éirí ró-throm ó eagarthóireacht athráiteach.
response = client.chat.complete(
model="azureai",
messages=[{"role": "user", "content": "Dia dhuit"}]
)
usage = response.usage
print(f"Comharthaí leide : {usage.prompt_tokens}")
print(f"Comharthaí freagra: {usage.completion_tokens}")
print(f"Comharthaí iomlána: {usage.total_tokens}")
Príomhphointí
- Oibríonn an cliant
MistralAzurecosúil leis an gcliant caighdeánach, ag úsáidmodel="azureai" - Moltar sruthú (
chat.stream) do chomhéadain úsáideora - Tá glaoite neamhshioncrónacha (
complete_async) riachtanach do fhreastalaithe gréasáin - Feidhmíonn glao feidhme agus mód JSON go díreach mar an API díreach
- Cuir athiarracht easpónantúil i bhfeidhm i gcónaí chun earráidí
429a láimhseáil