Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

An Cliant MistralAzure i Python

Ceacht 5 as 14 Nuashonraithe 2 Samhain 2026 Ardleibhéal
Ar an leathanach seo
  1. Códú le MistralAzure
  2. Suiteáil agus Cumraíocht
  3. Comhlánuithe Comhrá
  4. Sruthú
  5. Glaoite Neamhshioncrónacha
  6. Glao Feidhme
  7. Láimhseáil Earráide
  8. Tomhas Tomhaltais
  9. Príomhphointí

Códú le MistralAzure

Tá do chríochphointe Azure imlonnaithe agus ag freagairt; anois, ní mór duit an cód a scríobh a úsáidfidh go hiontaofa é. Mionsonraíonn an ceacht seo an cliant Python MistralAzure: tosú, na patrúin a úsáidfidh tú go laethúil—glaoite simplí, sruthú, feidhmiú neamhshioncrónach, agus glao feidhme—agus na cúpla sonraíocht a dhéanann idirdhealú idir Azure agus an API díreach.

Suiteáil agus Cumraíocht

Nuashonraithe 2 Samhain 2026 — Mistral SDK 2 agus níos déanaí. Ó leagan 2.0 den SDK Python (Márta 2026), allmhairítear an cliant Azure ó mistralai.azure.client, agus tá na paraiméadair leagan 1 azure_endpoint agus azure_api_key athraithe go server_url agus api_key. Leanann an cód sa cheacht seo an leagan reatha (3.7.0, 1 Samhain 2026). Foinse: nótaí scaoilte v2.0.0 · Mistral ar Azure.

Tá an cliant Azure san áireamh sa phacáiste mistralai; níl aon spleáchais bhreise ag teastáil.

pip install mistralai

Éilíonn an tosú dhá pharaiméadar:

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)
  • server_url — URL do chríochphointe Azure
  • api_key — Eochair fíordheimhniú an chríochphointe

Is paraiméadar roghnach é an tríú ceann, api_version, agus tá sé socraithe go réamhshocraithe ar 2024-05-01-preview. Cuireann an SDK leis seo gach iarratas go huathoibríoch mar pharaiméadar URL.

Comhlánuithe Comhrá

Ón bpointe seo amach, tá an taithí cosúil leis an gcliant caighdeánach. Úsáid teachtaireacht chórais chun ról an mhúnla a shainiú, teachtaireacht úsáideora don cheist, agus léigh an freagra ó choices[0].message.content.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "system", "content": "Is cúntóir teicniúil tú atá speisialaithe i Python."},
        {"role": "user", "content": "Conas a chuirfeá maisc cache i bhfeidhm?"}
    ]
)

print(response.choices[0].message.content)

Feidhmíonn paraiméadair ghiniúna díreach mar a dhéanann siad leis an API Mistral díreach. Má tá freagra ró-neamhthuarthach nó ró-fhocalach, ceartaigh é anseo, ní sa leid.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Gin haiku faoi ríomhaireacht scamaill."}
    ],
    temperature=0.7,
    max_tokens=150,
    top_p=0.95
)
  • temperature — Rialaíonn cruthaitheacht (0.0 = cinntitheach, 1.0 = cruthaitheach)
  • max_tokens — Teorainneann fad na freagra
  • top_p — Sampláil núicléis

Sruthú

Do fhreagraí a shíneann thar roinnt céad focal, fágann glao caighdeánach an t-úsáideoir ag stánadh ar scáileán reoite ar feadh roinnt soicind. Cuireann sruthú deireadh leis an bhfanacht mheasta seo trí théacs a thaispeáint de réir mar a ghintear é. Seo an mód réamhshocraithe aon uair a bhíonn comhéadan daonna i gceist.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Mínigh conas a oibrí cothromóir ualaigh."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)
print()  # Líne nua ag an deireadh

Tabhair faoi deara an seiceáil if content: tagann roinnt píosaí isteach folamh agus phriontálfaidís None ar an scáileán gan an réamhchúram seo.

Glaoite Neamhshioncrónacha

I bhfreastalaí gréasáin—FastAPI, Django async—cuireann glao blocála oibrí ar ceal ar feadh fhad iomlán na giniúna, go minic roinnt soicind in aghaidh an iarratais. Tugann an cliant neamhshioncrónach smacht ar ais le linn na feithimh, rud a ligeann do phróiseas amháin déileáil le scórtha iarratas comhthreomhar.

import asyncio
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

async def generate_response(prompt: str) -> str:
    response = await client.chat.complete_async(
        model="azureai",
        messages=[{"role": "user", "content": prompt}]
    )
    return response.choices[0].message.content

# Feidhmiú
result = asyncio.run(generate_response("Cad é Kubernetes?"))
print(result)

Glao Feidhme

Feidhmíonn glao feidhme go díreach mar a dhéanann sé leis an API díreach. Déanann tú cur síos ar uirlisí atá ar fáil, cinneann an múnla an bhfuil ceann le glaoch air, agus déanann do chód an fheidhm a fhorghníomhú i ndáiríre—ní fhoirmíonn an múnla ach an rún agus na hargóintí.

import json

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Faigh an aimsir do chathair",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "Ainm na cathrach"}
                },
                "required": ["city"]
            }
        }
    }
]

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Cén aimsir atá i bPáras?"}],
    tools=tools,
    tool_choice="auto"
)

# Seiceáil an bhfuil an múnla ag iarraidh feidhm a ghlaowh
if response.choices[0].message.tool_calls:
    tool_call = response.choices[0].message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(f"Feidhm glaodh: {tool_call.function.name}")
    print(f"Argóintí: {args}")

Láimhseáil Earráide

Sa táirgeadh, tagann trí theaghlach earráidí chun cinn go minic, agus éilíonn siad freagraí difriúla. Léiríonn 429 teorainn ráta agus éilíonn sé athiarracht le cúlú easpónantúil. Léiríonn 401 eochair neamhbhailí nó caite: tá sé gan úsáid athiarracht a dhéanamh, mar sin teip láithreach le teachtaireacht shoiléir. Beagnach i gcónaí, ciallaíonn 404 go bhfuil an athróg AZUREAI_ENDPOINT míchumraithe. Sábhálann an t-idirdhealú idir na cásanna seo uair an chloig duit agus tú ag díbhugú camóg i URL.

import time
from mistralai.azure.client import MistralAzure

def robust_call(client, messages, max_retries=3):
    """Glao le hathiarracht easpónantúil agus láimhseáil earráide."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="azureai",
                messages=messages
            )
        except Exception as e:
            error_str = str(e)
            if "429" in error_str:
                wait = 2 ** attempt
                print(f"Teorainn ráta — ag athiarracht i {wait}s")
                time.sleep(wait)
            elif "401" in error_str:
                raise ValueError("Eochair API neamhbhailí nó caite") from e
            elif "404" in error_str:
                raise ValueError("Níor aimsíodh an críochphointe — seiceáil AZUREAI_ENDPOINT") from e
            else:
                if attempt == max_retries - 1:
                    raise
                time.sleep(1)
    raise RuntimeError("Theip tar éis gach athiarrachta")

Tomhas Tomhaltais

Áirítear oibiacht usage i ngach freagra a shonraíonn na comharthaí a tomhlaíodh. Léigh é seo go córasach: is é an t-aon bheart iontaofa é chun costais a mheas agus chun leid córais a aithint atá tar éis éirí ró-throm ó eagarthóireacht athráiteach.

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Dia dhuit"}]
)

usage = response.usage
print(f"Comharthaí leide  : {usage.prompt_tokens}")
print(f"Comharthaí freagra: {usage.completion_tokens}")
print(f"Comharthaí iomlána: {usage.total_tokens}")

Príomhphointí

  • Oibríonn an cliant MistralAzure cosúil leis an gcliant caighdeánach, ag úsáid model="azureai"
  • Moltar sruthú (chat.stream) do chomhéadain úsáideora
  • Tá glaoite neamhshioncrónacha (complete_async) riachtanach do fhreastalaithe gréasáin
  • Feidhmíonn glao feidhme agus mód JSON go díreach mar an API díreach
  • Cuir athiarracht easpónantúil i bhfeidhm i gcónaí chun earráidí 429 a láimhseáil