Roller og beskeder
På denne side
Kernen i den samtalebaserede protokol
Chat Completions API’et accepterer ikke rå tekst. Det forventer en array af strukturerede beskeder, hvor hver enkelt har en specifik rolle. Dette rollesystem gør det muligt for modellen at skelne mellem, hvem der taler, hvad konteksten er, og hvordan den skal svare. Den samme tekst – „Svar altid i JSON” – har forskellig vægt, afhængigt af om den ankommer som en udviklerinstruks eller som brugerinput. Det er beherskelsen af denne struktur, der adskiller en sammenhængende chatbot fra et system, der mister tråden efter tre udvekslinger.
De fire roller
Mistrals API genkender fire distinkte roller, som hver især tjener en præcis funktion i samtalen.
Rollen system
Systembeskeden definerer modellens overordnede adfærd. Den placeres først og læses, før nogen udveksling finder sted. Her fastlægger du tonen, begrænsningerne og konteksten for din applikation. Forestil dig en assistent designet til en advokatvirksomhed; systembeskeden svarer til det briefingsnotat, du ville give en ny medarbejder før deres første sag.
messages = [
{
"role": "system",
"content": "You are a legal assistant specializing in French law. "
"Respond precisely and cite relevant legal articles. "
"If you are unsure, state it explicitly."
}
]
Udvikleren styrer denne besked, aldrig slutbrugeren, og den vises aldrig i din applikations grænseflade.
Rollen user
Dernæst kommer den menneskelige brugers besked: spørgsmålet, instruktionen eller teksten, der skal behandles. Dette er den eneste del af samtalen, som dine brugere har direkte kontrol over.
messages.append({
"role": "user",
"content": "What are the statutes of limitations in civil law?"
})
Rollen assistant
Denne rolle indeholder modellens tidligere svar. Den bliver essentiel, når samtalen overstiger én tur. Uden den ville en bruger, der spørger „Hvad med gæld i erhvervslivet?”, få et irrelevant svar, fordi modellen ikke ville vide, hvad der blev diskuteret.
messages.append({
"role": "assistant",
"content": "In French civil law, the standard statute of limitations is 5 years..."
})
Rollen tool
Den sidste rolle kommer i spil under funktionskald. Når modellen anmoder om eksekvering af en ekstern funktion – f.eks. at spørge et vejr-API – udfører du denne funktion på din side og returnerer resultatet under denne rolle med reference til ID’et for det specifikke kald:
messages.append({
"role": "tool",
"content": '{"temperature": 22, "city": "Paris"}',
"tool_call_id": "call_abc123"
})
Komplet struktur for en flertrins-udveksling
Lad os se disse roller i aktion under en rigtig samtale, hvor brugeren finjusterer sin forespørgsel efter et indledende svar:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
conversation = [
{
"role": "system",
"content": "You are a French chef. Propose simple and tasty recipes."
},
{
"role": "user",
"content": "I want to make a dessert with apples."
}
]
# First turn
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
assistant_reply = response.choices[0].message.content
print(assistant_reply)
# Add response to history
conversation.append({"role": "assistant", "content": assistant_reply})
# Second turn
conversation.append({
"role": "user",
"content": "Can you adapt this recipe for 8 people?"
})
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
print(response.choices[0].message.content)
Bemærk, hvad denne kode faktisk gør: ved hver tur sender den hele historikken tilbage. Modellen har ingen vedvarende hukommelse mellem anmodninger. „Denne opskrift” giver kun mening, fordi det tidligere svar stadig findes i arrayet. Du har det fulde ansvar for at administrere samtalestatussen.
Struktureret indhold
Feltet content accepterer to former. Den mest almindelige er en simpel streng. Men så snart du transmitterer noget andet end tekst – f.eks. et billede, der skal beskrives – skifter du til en liste over typede blokke:
# Simple content (text)
{"role": "user", "content": "Describe this image."}
# Structured content (multimodal)
{"role": "user", "content": [
{"type": "text", "text": "Describe this image."},
{"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
]}
Prefix-flagget
Mistral tilbyder en unik funktion: prefix-flagget. Du skriver selv begyndelsen af assistentens svar, og modellen tvinges til at fortsætte derfra. Dette er utroligt effektivt, når du har brug for at parsere outputtet med nul margen for fejl.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You always respond in JSON."},
{"role": "user", "content": "List 3 European capitals."},
{"role": "assistant", "content": '{"capitals": [', "prefix": True}
]
)
Modellen genoptager genereringen efter {"capitals": [, hvilket øjeblikkeligt eliminerer risikoen for at se „Sure, here is your JSON:” dukke op før den åbne klamme. I produktion er denne garanti for formatet ofte mere værd end en instruktion, der gentages tre gange i systembeskeden.
Tilegn dig to vaner med det samme. Hold systembeskeden kortfattet: ét velskrevet afsnit giver bedre resultater end to sider med regler, hvoraf en del af modellen til sidst vil ignorere. Og opfind aldrig falske assistent-svar for at styre modellen, med én undtagelse – few-shot learning, som vi dækker i lektion 10. Ved lange samtaler sender du hele historikken, men overvåg kontekstvinduet og beskær de ældste ture, før du overskrider det.
Vigtige pointer
- Fire roller:
system(adfærd),user(forespørgsel),assistant(svar),tool(funktionsresultat) - Systembeskeden kommer først og definerer applikationens rammeværk
- Modellen har ingen hukommelse: send hele historikken med hver anmodning
- Prefix-flagget tvinger starten af svaret for at kontrollere outputformatet