Dit første API-kald i Python
På denne side
Din første udveksling med en Mistral-model
SDK’et er installeret, og din API-nøgle er klar: det er tid til at sende en rigtig anmodning og – endnu vigtigere – forstå, hvad du får tilbage. Mange udviklere stopper ved den første linje i svaret og ignorerer resten af det returnerede objekt. Det er en fejl, for omkostningssporing og diagnosticering af afkortede svar findes netop i de resterende data. Vi starter med minimal kode og arbejder os op til den fulde struktur.
Initialisering af klienten
Klienten er indgangspunktet for al din interaktion med API’et:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
Den håndterer HTTP-forbindelser, genforsøg ved netværksfejl og serialisering af anmodninger. Opret instansen én gang ved applikationsstart. At genoprette en klient for hvert eneste kald tvinger dig til unødigt at betale for opsætning af forbindelsen og er en af de mest snigende årsager til for stor ventetid.
Send en anmodning med chat.complete()
Du vil oftest bruge metoden chat.complete(). Den sender dine beskeder og venter på modellens fulde svar, før kontrollen returneres:
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": "Forklar begrebet tokenisering i tre sætninger."
}
]
)
print(response.choices[0].message.content)
To parametre er nok her. model angiver model-ID’et: mistral-small-latest peger altid på den seneste version af Mistral Small, hvilket gør den til det naturlige valg til at komme i gang, da den er hurtig og økonomisk. messages forventer en liste over strukturerede beskeder, der hver har en role – system, user eller assistant – og et content-felt, der indeholder teksten. Denne struktur kan virke tung for et enkelt spørgsmål, men giver perfekt mening, når du når til lektionen om samtaler over flere omgange.
Læs det returnerede objekt
Objektet response indeholder meget mere end blot den genererede tekst:
# Svartekst
text = response.choices[0].message.content
# Rolle (altid "assistant" for et svar)
role = response.choices[0].message.role
# Årsag til stop
finish = response.choices[0].finish_reason # "stop", "length" osv.
# Token-statistik
input_tokens = response.usage.prompt_tokens
output_tokens = response.usage.completion_tokens
total_tokens = response.usage.total_tokens
print(f"Svar ({output_tokens} tokens): {text}")
print(f"Samlede tokens brugt: {total_tokens}")
Vær ekstra opmærksom på feltet usage fra dag ét. Hvis du logger det ved hvert kald, ved du præcis, hvilken funktion i din applikation der brænder dit budget af, uden at skulle reverse-engineere din regning ved månedens udgang.
Hvad angår finish_reason, indikerer den, hvorfor modellen stoppede, og den har en af følgende værdier:
stop: Modellen afsluttede sit svar naturligtlength: Svaret blev afkortet, fordi det ramtemax_tokensmodel_length: Den samlede kontekst (input + output) nåede modellens grænse
Et svar, der slutter midt i en sætning, er ikke en model-fejl: det er en finish_reason på length, som ingen har tjekket. Verificér altid dette, før du konkluderer, at der er et kvalitetsproblem.
Justér modellens adfærd
Tre yderligere parametre giver dig mulighed for at styre genereringen:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "user",
"content": "Foreslå tre navne til en AI-startup inden for uddannelse."
}
],
temperature=0.7,
max_tokens=500,
top_p=0.95,
)
Temperature styrer modellens frihedsgrad. Ved 0.0 er svarene deterministiske: det samme prompt producerer altid den samme tekst, hvilket er det, du ønsker til ekstraktion eller klassificering. Mellem 0.3 og 0.5 får du en god balance til faktuelle opgaver. Mellem 0.7 og 1.0 bliver svarene mere kreative og varierede – dette er intervallet, der bruges i eksemplet ovenfor, da vi beder om navneideer, og det ville være meningsløst at se den samme idé tre gange. Over 1.0 bliver genereringen meget tilfældig og har sjældent praktisk nytte.
max_tokens sætter et loft over svarlængden, hvilket hjælper med at kontrollere omkostninger og holde outputs overskuelige. Husk blot, at hvis modellen bliver afkortet, vil finish_reason være "length". top_p påvirker mangfoldigheden gennem en anden mekanisme: den filtrerer de mindst sandsynlige tokens fra. En værdi på 0.95 betyder, at modellen kun overvejer tokens, der repræsenterer 95 % af den kumulative sandsynlighed.
Et produktionsklart kald
Under reelle forhold ryger netværket, nøgler udløber, og kvoter fyldes op. Omgiv altid dine kald med fejlhåndtering:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
try:
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{"role": "user", "content": "Hvad er hovedstaden i Frankrig?"}
],
max_tokens=100,
)
text = response.choices[0].message.content
print(f"Svar: {text}")
print(f"Tokens brugt: {response.usage.total_tokens}")
except Exception as e:
print(f"Fejl ved API-kald: {e}")
Brug dette skelet til dine egne eksperimenter ved blot at udskifte indholdet i beskeden. Det er udgangspunktet for alt, hvad der følger i dette kursus.
Vigtige pointer
client.chat.complete()er den primære metode til interaktion med modeller- Svarteksten findes i
response.choices[0].message.content response.usagefortæller dig, hvor mange tokens der blev brugt (nyttigt til omkostningssporing)temperaturestyrer kreativiteten;max_tokensbegrænser længden- Start med
mistral-small-latest: den er hurtig, økonomisk og yderdygtig