Roller och meddelanden
På denna sida
Kärnan i det konversationsbaserade protokollet
Chat Completions API:t accepterar inte rå text. Det förväntar sig en array av strukturerade meddelanden, där varje meddelande tilldelas en specifik roll. Detta rollsystem låter modellen skilja på vem som talar, vad kontexten är och hur den bör svara. Samma text – “Svara alltid i JSON” – har olika tyngd beroende på om den kommer som en utvecklarinstruktion eller som inmatning från en användare. Att bemästra denna struktur är vad som skiljer en sammanhängande chattbot från ett system som tappar tråden efter tre utbyten.
De fyra rollerna
Mistrals API känner igen fyra distinkta roller, som var och en fyller en exakt funktion i konversationen.
Rollen system
Systemmeddelandet definierar modellens övergripande beteende. Det placeras först och läses innan något utbyte sker. Här anger du tonläge, begränsningar och kontext för din applikation. Tänk dig en assistent designad för en advokatbyrå; systemmeddelandet motsvarar den briefing du skulle ge en ny medarbetare innan deras första fall.
messages = [
{
"role": "system",
"content": "You are a legal assistant specializing in French law. "
"Respond precisely and cite relevant legal articles. "
"If you are unsure, state it explicitly."
}
]
Utvecklaren hanterar detta meddelande, aldrig slutanvändaren, och det visas aldrig i din applikations gränssnitt.
Rollen user
Därefter kommer den mänskliga användarens meddelande: frågan, instruktionen eller texten som ska bearbetas. Detta är den enda delen av konversationen som dina användare styr direkt.
messages.append({
"role": "user",
"content": "What are the statutes of limitations in civil law?"
})
Rollen assistant
Denna roll innehåller modellens tidigare svar. Den blir avgörande så snart konversationen överskrider ett enda utbyte. Utan den skulle en användare som frågar “Vad gäller för skulder inom handeln?” få ett svar som hamnar vid sidan av, eftersom modellen inte skulle veta vad som diskuterades.
messages.append({
"role": "assistant",
"content": "In French civil law, the standard statute of limitations is 5 years..."
})
Rollen tool
Den sista rollen kommer in i bilden vid funktionsanrop. När modellen begär körning av en extern funktion – till exempel en fråga till ett väder-API – kör du den funktionen på din sida och returnerar resultatet under denna roll, med referens till ID:t för det specifika anropet:
messages.append({
"role": "tool",
"content": '{"temperature": 22, "city": "Paris"}',
"tool_call_id": "call_abc123"
})
Fullständig struktur för ett utbyte över flera varv
Låt oss se dessa roller i action under en riktig konversation där användaren förfinar sin begäran efter ett första svar:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
conversation = [
{
"role": "system",
"content": "You are a French chef. Propose simple and tasty recipes."
},
{
"role": "user",
"content": "I want to make a dessert with apples."
}
]
# First turn
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
assistant_reply = response.choices[0].message.content
print(assistant_reply)
# Add response to history
conversation.append({"role": "assistant", "content": assistant_reply})
# Second turn
conversation.append({
"role": "user",
"content": "Can you adapt this recipe for 8 people?"
})
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
print(response.choices[0].message.content)
Lägg märke till vad denna kod faktiskt gör: vid varje varv skickas hela historiken tillbaka. Modellen har inget bestående minne mellan förfrågningar. “Detta recept” ger bara mening eftersom det tidigare svaret fortfarande finns kvar i arrayen. Du är helt ansvarig för att hantera konversationstillståndet.
Strukturerat innehåll
Fältet content accepterar två former. Den vanligaste är en enkel sträng. Men så fort du skickar något annat än text – till exempel en bild som ska beskrivas – byter du till en lista av typade block:
# Simple content (text)
{"role": "user", "content": "Describe this image."}
# Structured content (multimodal)
{"role": "user", "content": [
{"type": "text", "text": "Describe this image."},
{"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
]}
Prefix-flaggan
Mistral erbjuder en unik funktion: prefix-flaggan. Du skriver själv början av assistentens svar, och modellen tvingas fortsätta därifrån. Detta är oerhört effektivt när du behöver parsa utdata utan minsta marginal för fel.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You always respond in JSON."},
{"role": "user", "content": "List 3 European capitals."},
{"role": "assistant", "content": '{"capitals": [', "prefix": True}
]
)
Modellen återupptar genereringen efter {"capitals": [, vilket omedelbart eliminerar risken att se texten “Sure, here is your JSON:” dyka upp före den öppnande klamern. I produktion är denna garanti för formatet ofta värd mer än en instruktion som upprepas tre gånger i systemmeddelandet.
Anta två vanor direkt. Håll systemmeddelandet koncist: en välskriven paragraf ger bättre resultat än två sidor regler, varav en del modellen så småningom kommer att ignorera. Och hitta aldrig på falska assistentsvar för att styra modellen, med ett undantag – few-shot learning, som vi kommer att behandla i lektion 10. För långa konversationer, skicka hela historiken, men övervaka kontextfönstret och beskära de äldsta varven innan du överskrider det.
Viktiga punkter
- Fyra roller:
system(beteende),user(begäran),assistant(svar),tool(funktionsresultat) - Systemmeddelandet kommer först och definierar applikationens ramverk
- Modellen har inget minne: skicka hela historiken med varje förfrågan
- Prefix-flaggan tvingar fram början av svaret för att kontrollera utdataformatet