Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Klijent MistralAzure u Pythonu

Lekcija 5 od 14 Ažurirano 2. studenoga 2026. Napredno
Na ovoj stranici
  1. Programiranje s MistralAzure
  2. Instalacija i konfiguracija
  3. Dovršetak razgovora (Chat Completions)
  4. Strujanje (Streaming)
  5. Asinkroni pozivi
  6. Pozivanje funkcija
  7. Rukovanje greškama
  8. Mjerenje potrošnje
  9. Ključne točke

Programiranje s MistralAzure

Tvoja Azure krajnja točka je postavljena i odgovara; sada trebaš napisati kod koji će je pouzdano koristiti. Ova lekcija detaljno opisuje Python klijenta MistralAzure: inicijalizaciju, obrasce koje ćeš koristiti svakodnevno—jednostavni pozivi, strujanje (streaming), asinkrono izvršavanje i pozivanje funkcija—te nekoliko specifičnosti koje razlikuju Azure od izravnog API-ja.

Instalacija i konfiguracija

Ažurirano 2. studenoga 2026. — Mistral SDK 2 i noviji. Od verzije 2.0 Python SDK-a (ožujak 2026.), Azure klijent se uvozi iz mistralai.azure.client, a njegovi parametri verzije 1, azure_endpoint i azure_api_key, postali su server_url i api_key. Kod u ovoj lekciji prati trenutnu verziju (3.7.0, 1. studenoga 2026.). Izvori: bilješke o izdanju v2.0.0 · Mistral na Azureu.

Azure klijent je uključen u paket mistralai; nisu potrebne dodatne ovisnosti.

pip install mistralai

Inicijalizacija zahtijeva dva parametra:

import os
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)
  • server_url — URL tvoje Azure krajnje točke
  • api_key — Ključ za autentifikaciju krajnje točke

Treći, opcionalni parametar, api_version, zadano je postavljen na 2024-05-01-preview. SDK automatski dodaje ovo svakom zahtjevu kao URL parametar.

Dovršetak razgovora (Chat Completions)

Odavde, iskustvo odražava standardni klijent. Koristi sistemsku poruku za definiranje uloge modela, korisničku poruku za pitanje i pročitaj odgovor iz choices[0].message.content.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "system", "content": "You are a technical assistant specializing in Python."},
        {"role": "user", "content": "How do I implement a cache decorator?"}
    ]
)

print(response.choices[0].message.content)

Parametri generiranja ponašaju se točno kao kod izravnog Mistral API-ja. Ako je odgovor nepredvidiv ili preopširan, ispravi ga ovdje, a ne u promptu.

response = client.chat.complete(
    model="azureai",
    messages=[
        {"role": "user", "content": "Generate a haiku about cloud computing."}
    ],
    temperature=0.7,
    max_tokens=150,
    top_p=0.95
)
  • temperature — Kontrolira kreativnost (0.0 = deterministički, 1.0 = kreativno)
  • max_tokens — Ograničava duljinu odgovora
  • top_p — Uzorkovanje jezgre (nucleus sampling)

Strujanje (Streaming)

Za odgovore koji obuhvaćaju nekoliko stotina riječi, standardni poziv korisnika ostavlja da gleda u zamrznuti zaslon nekoliko sekundi. Strujanje eliminira ovo percipirano čekanje prikazivanjem teksta dok se generira. Ovo je zadani način rada kad god je uključeno ljudsko sučelje.

stream = client.chat.stream(
    model="azureai",
    messages=[
        {"role": "user", "content": "Explain how a load balancer works."}
    ]
)

for chunk in stream:
    content = chunk.data.choices[0].delta.content
    if content:
        print(content, end="", flush=True)
print()  # Novi red na kraju

Obrati pažnju na provjeru if content: neki chunkovi stižu prazni i bez ove mjere opreza ispisali bi None na zaslon.

Asinkroni pozivi

U web poslužitelju—FastAPI, Django async—blokirajući poziv veže radnika na cijelo trajanje generiranja, često nekoliko sekundi po zahtjevu. Asinkroni klijent ustupa kontrolu tijekom čekanja, omogućujući jednom procesu da rukuje desecima istovremenih zahtjeva.

import asyncio
from mistralai.azure.client import MistralAzure

client = MistralAzure(
    server_url=os.environ["AZUREAI_ENDPOINT"],
    api_key=os.environ["AZUREAI_API_KEY"]
)

async def generate_response(prompt: str) -> str:
    response = await client.chat.complete_async(
        model="azureai",
        messages=[{"role": "user", "content": prompt}]
    )
    return response.choices[0].message.content

# Izvršavanje
result = asyncio.run(generate_response("What is Kubernetes?"))
print(result)

Pozivanje funkcija

Pozivanje funkcija ponaša se identično kao kod izravnog API-ja. Opisuješ dostupne alate, model odlučuje hoće li pozvati neki od njih, a tvoj kod zapravo izvršava funkciju—model samo formulira namjeru i argumente.

import json

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get the weather for a city",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "Name of the city"}
                },
                "required": ["city"]
            }
        }
    }
]

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "What is the weather in Paris?"}],
    tools=tools,
    tool_choice="auto"
)

# Provjeri želi li model pozvati funkciju
if response.choices[0].message.tool_calls:
    tool_call = response.choices[0].message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(f"Function called: {tool_call.function.name}")
    print(f"Arguments: {args}")

Rukovanje greškama

U proizvodnji se ponavljaju tri obitelji grešaka i one zahtijevaju različite odgovore. 429 signalizira ograničenje stope (rate limit) i zahtijeva ponovni pokušaj s eksponencijalnim kašnjenjem. 401 označava nevažeći ili istekli ključ: ponovni pokušaj je beskoristan, stoga odmah zakaži s jasnom porukom. 404 gotovo uvijek ukazuje na pogrešno konfiguriranu varijablu AZUREAI_ENDPOINT. Razlikovanje ovih slučajeva štedi ti sat vremena debugiranja tipfela u URL-u.

import time
from mistralai.azure.client import MistralAzure

def robust_call(client, messages, max_retries=3):
    """Poziv s eksponencijalnim ponovnim pokušajem i rukovanjem greškama."""
    for attempt in range(max_retries):
        try:
            return client.chat.complete(
                model="azureai",
                messages=messages
            )
        except Exception as e:
            error_str = str(e)
            if "429" in error_str:
                wait = 2 ** attempt
                print(f"Rate limit — retrying in {wait}s")
                time.sleep(wait)
            elif "401" in error_str:
                raise ValueError("Invalid or expired API key") from e
            elif "404" in error_str:
                raise ValueError("Endpoint not found — check AZUREAI_ENDPOINT") from e
            else:
                if attempt == max_retries - 1:
                    raise
                time.sleep(1)
    raise RuntimeError("Failed after all retries")

Mjerenje potrošnje

Svaki odgovor uključuje objekt usage koji detaljno opisuje potrošene tokene. Čitaj ovo sustavno: to je jedina pouzdana mjera za procjenu troškova i uočavanje sistemskog prompta koji je postao preglomazan zbog ponovljenih uređivanja.

response = client.chat.complete(
    model="azureai",
    messages=[{"role": "user", "content": "Hello"}]
)

usage = response.usage
print(f"Prompt tokens  : {usage.prompt_tokens}")
print(f"Response tokens: {usage.completion_tokens}")
print(f"Total tokens   : {usage.total_tokens}")

Ključne točke

  • Klijent MistralAzure radi kao standardni klijent, koristeći model="azureai"
  • Strujanje (chat.stream) preporučuje se za korisnička sučelja
  • Asinkroni pozivi (complete_async) ključni su za web poslužitelje
  • Pozivanje funkcija i JSON način rada rade identično kao kod izravnog API-ja
  • Uvijek implementiraj eksponencijalni ponovni pokušaj za rukovanje greškama 429