Din första API-anrop i Python
På denna sida
Din första utväxling med en Mistral-modell
SDK:t är installerat och din API-nyckel är redo: det är dags att skicka en riktig förfrågan och, ännu viktigare, förstå vad som returneras. Många utvecklare stannar vid den första raden i svaret och ignorerar resten av det returnerade objektet. Det är ett misstag, eftersom kostnadsuppföljning och diagnostik för trunkerade svar finns just i de återstående data. Vi börjar med minimal kod och arbetar oss upp till den fullständiga strukturen.
Initiera klienten
Klienten är ingångspunkten för alla dina interaktioner med API:t:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
Den hanterar HTTP-anslutningar, försök vid nätverksfel och serialisering av förfrågningar. Instansiera den en gång vid applikationsstart. Att återskapa en klient för varje anrop tvingar dig att betala för anslutningssetup i onödan och är en av de mest subtila orsakerna till onödig latens.
Skicka en förfrågan med chat.complete()
Du kommer oftast att använda metoden chat.complete(). Den skickar dina meddelanden och väntar på modellens fullständiga svar innan kontrollen returneras:
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": "Explain the concept of tokenization in three sentences."
}
]
)
print(response.choices[0].message.content)
Två parametrar räcker här. model anger modell-ID:t: mistral-small-latest pekar alltid på den senaste versionen av Mistral Small, vilket gör det till det naturliga valet för att komma igång eftersom den är snabb och ekonomisk. messages förväntar sig en lista med strukturerade meddelanden, där varje meddelande har en role – system, user eller assistant – och ett content-fält som innehåller texten. Denna struktur kan verka tung för en enda fråga, men den blir helt logisk när du når lektionen om flerstegssamtal.
Läs det returnerade objektet
Objektet response innehåller mycket mer än bara den genererade texten:
# Svarstext
text = response.choices[0].message.content
# Roll (alltid "assistant" för ett svar)
role = response.choices[0].message.role
# Stopporsak
finish = response.choices[0].finish_reason # "stop", "length", etc.
# Token-statistik
input_tokens = response.usage.prompt_tokens
output_tokens = response.usage.completion_tokens
total_tokens = response.usage.total_tokens
print(f"Response ({output_tokens} tokens): {text}")
print(f"Total tokens consumed: {total_tokens}")
Var extra uppmärksam på fältet usage från dag ett. Att logga det vid varje anrop berättar exakt vilken funktion i din applikation som bränner igenom din budget, utan att du behöver baklängeskonstruera din faktura i slutet av månaden.
När det gäller finish_reason indikerar den varför modellen stannade och kan ha ett av följande värden:
stop: modellen avslutade sitt svar naturligtlength: svaret kapades eftersom det nåddemax_tokensmodel_length: den totala kontexten (inmatning + utmatning) nådde modellens gräns
Ett svar som slutar mitt i en mening är inte ett modellfel: det är en finish_reason på length som ingen kontrollerade. Verifiera alltid detta innan du drar slutsatsen att det finns ett kvalitetsproblem.
Justera modellbeteendet
Tre ytterligare parametrar låter dig styra genereringen:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "user",
"content": "Propose three names for an educational AI startup."
}
],
temperature=0.7,
max_tokens=500,
top_p=0.95,
)
Temperature styr modellens frihetsgrad. Vid 0.0 är svaren deterministiska: samma prompt ger alltid samma text, vilket är vad du vill ha för extraktion eller klassificering. Mellan 0.3 och 0.5 får du en bra balans för faktabaserade uppgifter. Mellan 0.7 och 1.0 blir svaren mer kreativa och varierade – detta är intervallet som används i exemplet ovan, eftersom vi ber om namnförslag och det vore meningslöst att se samma idé tre gånger. Över 1.0 blir genereringen mycket slumpmässig och har sällan praktisk nytta.
max_tokens sätter ett tak för svarslängden, vilket hjälper till att kontrollera kostnader och hålla utmatningen hanterbar. Kom bara ihåg att om modellen kapas kommer finish_reason att vara "length". top_p påverkar mångfalden genom en annan mekanism: den filtrerar bort de minst sannolika token. Ett värde på 0.95 innebär att modellen endast överväger token som representerar 95 % av den kumulativa sannolikheten.
Ett produktionsredo anrop
Under verkliga förhållanden faller nätverket, nycklar löper ut och kvoter fylls. Omslut alltid dina anrop med felhantering:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
try:
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{"role": "user", "content": "What is the capital of France?"}
],
max_tokens=100,
)
text = response.choices[0].message.content
print(f"Response: {text}")
print(f"Tokens used: {response.usage.total_tokens}")
except Exception as e:
print(f"API call error: {e}")
Använd detta skelett för dina egna experiment genom att helt enkelt byta ut meddelandets innehåll. Det är startpunkten för allt som följer i denna kurs.
Viktiga punkter
client.chat.complete()är den primära metoden för att interagera med modeller- Svarstexten finns i
response.choices[0].message.content response.usageberättar hur många token som konsumerades (användbart för kostnadsuppföljning)temperaturestyr kreativitet;max_tokensbegränsar längden- Börja med
mistral-small-latest: den är snabb, ekonomisk och prestandaoptimerad