Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Tvoj prvi klic API-ja v Pythonu

Lekcija 5 od 14 Posodobljeno 2. november 2026 Razvijalec
Na tej strani
  1. Tvoja prva izmenjava z modelom Mistral
  2. Inicializacija odjemalca
  3. Pošlji zahtevo z chat.complete()
  4. Preberi vrnjeni objekt
  5. Prilagodi obnašanje modela
  6. Klic, pripravljen za proizvodnjo
  7. Ključne ugotovitve

Tvoja prva izmenjava z modelom Mistral

SDK je nameščen in tvoj ključ API je pripravljen: čas je, da pošlješ pravo zahtevo in, kar je še pomembneje, razumeš, kaj dobiš nazaj. Mnogi razvijalci se ustavijo pri prvi vrstici odgovora in prezrejo preostanek vrnjenega objekta. To je napaka, saj sledenje stroškov in diagnostika obrezanih odgovorov živita prav v teh preostalih podatkih. Začeli bomo z minimalno kodo in se postopoma dokopali do celotne strukture.

Inicializacija odjemalca

Odjemalec je vstopna točka za vse tvoje interakcije z API-jem:

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

Upravlja HTTP povezave, ponovne poskuse ob napakah v omrežju in serializacijo zahtev. Ustvari ga enkrat ob zagonu aplikacije. Ponovno ustvarjanje odjemalca za vsak klic te prisili, da nepotrebno plačaš nastavitev povezave, kar je eden najbolj zahrbtnih vzrokov za pretirano zakasnitev.

Pošlji zahtevo z chat.complete()

Najpogosteje boš uporabljal metodo chat.complete(). Pošlje tvoja sporočila in počaka na celoten odgovor modela, preden vrne nadzor:

response = client.chat.complete(
    model="mistral-small-latest",
    messages=[
        {
            "role": "user",
            "content": "Explain the concept of tokenization in three sentences."
        }
    ]
)

print(response.choices[0].message.content)

Tukaj sta dovolj dva parametra. model določa ID modela: mistral-small-latest vedno kaže na najnovejšo različico Mistral Small, kar jo naredi za naravno izbiro za začetek, saj je hiter in ekonomičen. messages pričakuje seznam strukturiranih sporočil, od katerih ima vsako role – system, user ali assistant – in polje content, ki vsebuje besedilo. Ta struktura se morda zdi preobsežna za eno samo vprašanje, a ima popoln smisel, ko prideš do lekcije o večkratnih pogovorih.

Preberi vrnjeni objekt

Objekt response vsebuje veliko več kot le generirano besedilo:

# Besedilo odgovora
text = response.choices[0].message.content

# Vloga (vedno "assistant" za odgovor)
role = response.choices[0].message.role

# Razlog za ustavitev
finish = response.choices[0].finish_reason  # "stop", "length", itd.

# Statistika žetonov
input_tokens = response.usage.prompt_tokens
output_tokens = response.usage.completion_tokens
total_tokens = response.usage.total_tokens

print(f"Response ({output_tokens} tokens): {text}")
print(f"Total tokens consumed: {total_tokens}")

Bodi že od prvega dne pozoren na polje usage. Beleženje tega podatka ob vsakem klicu ti natančno pove, kateri del tvoje aplikacije porablja tvoj proračun, ne da bi moral ob koncu meseca nazaj rekonstruirati svoj račun.

Kar zadeva finish_reason, ta označuje, zakaj se je model ustavil, in ima eno od naslednjih vrednosti:

  • stop: model je naravno zaključil svoj odgovor
  • length: odgovor je bil prekinjen, ker je dosegel max_tokens
  • model_length: celoten kontekst (vhod + izhod) je dosegel omejitev modela

Odgovor, ki se konča sredi stavka, ni hrošč v modelu: to je finish_reason z vrednostjo length, ki ga nihče ni preveril. To vedno preveri, preden sklepaš, da gre za težavo s kakovostjo.

Prilagodi obnašanje modela

Trije dodatni parametri ti omogočajo usmerjanje generiranja:

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "user",
            "content": "Propose three names for an educational AI startup."
        }
    ],
    temperature=0.7,
    max_tokens=500,
    top_p=0.95,
)

Temperatura nadzira stopnjo svobode modela. Pri 0.0 so odgovori deterministični: isti poziv vedno proizvede isto besedilo, kar želiš pri ekstrakciji ali klasifikaciji. Med 0.3 in 0.5 dobiš dobro ravnovesje za faktografske naloge. Med 0.7 in 1.0 odgovori postanejo bolj ustvarjalni in raznoliki – to je območje, uporabljeno v zgornjem primeru, saj prosimo za ideje za imena in bi bilo brezsmiselno trikrat videti isto idejo. Nad 1.0 generiranje postane zelo naključno in redko ima praktično uporabnost.

max_tokens omeji dolžino odgovora, kar pomaga nadzorovati stroške in ohranja izhode obvladljive. Le zapomni si, da če je model prekinjen, bo finish_reason enak "length". top_p vpliva na raznolikost skozi drugačen mehanizem: filtrira najmanj verjetne žetone. Vrednost 0.95 pomeni, da model upošteva le žetone, ki predstavljajo 95 % kumulativne verjetnosti.

Klic, pripravljen za proizvodnjo

V realnih pogojih omrežje odpove, ključi potečejo in kvote se napolnijo. Svoje klice vedno ovij v ravnanje z napakami:

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

try:
    response = client.chat.complete(
        model="mistral-small-latest",
        messages=[
            {"role": "user", "content": "What is the capital of France?"}
        ],
        max_tokens=100,
    )

    text = response.choices[0].message.content
    print(f"Response: {text}")
    print(f"Tokens used: {response.usage.total_tokens}")

except Exception as e:
    print(f"API call error: {e}")

Uporabi to ogrodje za svoje lastne poskuse tako, da preprosto zamenjaš vsebino sporočila. To je izhodišče za vse, kar sledi v tem tečaju.

Ključne ugotovitve

  • client.chat.complete() je glavna metoda za interakcijo z modeli
  • Besedilo odgovora je v response.choices[0].message.content
  • response.usage ti pove, koliko žetonov je bilo porabljenih (uporabno za sledenje stroškov)
  • temperature nadzira ustvarjalnost; max_tokens omejuje dolžino
  • Začni z mistral-small-latest: hiter je, ekonomičen in zmogljiv