Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Rollid ja sõnumid

Õppetund 2 / 16 Värskendatud 2. november 2026 Arendajatele
Sellel lehel
  1. Vestlusprotokolli tuum
  2. Neli rolli
  3. Mitmevoorulise vahetuse täielik struktuur
  4. Struktureeritud sisu
  5. Prefiksi lipp
  6. Peamised punktid

Vestlusprotokolli tuum

Chat Completions API ei võta vastu lihtsalt toorest teksti. See eeldab struktureeritud sõnumite massiivi, kus igaüks on määratud kindla rolliga. See rollisüsteem võimaldab mudelil eristada, kes räägib, milline on kontekst ja kuidas tuleks vastata. Sama tekst – „Vasta alati JSON-formaadis“ – omab erinevat kaalu sõltuvalt sellest, kas see saabub arendaja juhendina või kasutaja sisendina. Just selle struktuuri valdamine eristab sidusat vestlusrobotit süsteemist, mis hakkab pärast kolme vahetust teemast kõrvale kalduma.

Neli rolli

Mistrali API tunneb ära neli erinevat rolli, millest üks täidab vestluses täpset funktsiooni.

Roll system

Süsteemisõnum määrab mudeli üldise käitumise. See asetatakse esimesena ja loetakse enne ühegi vahetuse toimumist. Siin määrad sa oma rakenduse tooni, piirangud ja konteksti. Kujuta ette assistenti, mis on loodud advokaadibüroole; süsteemisõnum on samaväärne juhendkirjaga, mille annaksid uuele praktikandile enne tema esimest juhtumit.

messages = [
    {
        "role": "system",
        "content": "You are a legal assistant specializing in French law. "
                   "Respond precisely and cite relevant legal articles. "
                   "If you are unsure, state it explicitly."
    }
]

Arendaja haldab seda sõnumit, mitte lõppkasutaja, ja see ei ilmu kunagi sinu rakenduse liideses.

Roll user

Järgmisena tuleb inimkasutaja sõnum: küsimus, juhend või töödeldav tekst. See on ainus vestluse osa, mida sinu kasutajad otseselt kontrollivad.

messages.append({
    "role": "user",
    "content": "What are the statutes of limitations in civil law?"
})

Roll assistant

See roll sisaldab mudeli eelmisi vastuseid. See muutub hädavajalikuks, kui vestlus ületab ühe vooru. Ilma selleta saaks kasutaja küsimusele „Kuidas on lood kaubanduslike võlgadega?“ ebakohase vastuse, sest mudel ei teaks, millest juttu on.

messages.append({
    "role": "assistant",
    "content": "In French civil law, the standard statute of limitations is 5 years..."
})

Roll tool

Viimane roll tuleb mängu funktsioonide kutsumise (function calling) käigus. Kui mudel taotleb välise funktsiooni käivitamist – näiteks ilmateenuse API päring –, siis käivitad selle funktsiooni oma poolel ja tagastad tulemuse selle rolli all, viidates konkreetse kutse ID-le:

messages.append({
    "role": "tool",
    "content": '{"temperature": 22, "city": "Paris"}',
    "tool_call_id": "call_abc123"
})

Mitmevoorulise vahetuse täielik struktuur

Vaatanne, kuidas need rollid toimivad reaalses vestluses, kus kasutaja täpsustab oma taotlust pärast esialgset vastust:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

conversation = [
    {
        "role": "system",
        "content": "You are a French chef. Propose simple and tasty recipes."
    },
    {
        "role": "user",
        "content": "I want to make a dessert with apples."
    }
]

# First turn
response = client.chat.complete(
    model="mistral-large-latest",
    messages=conversation
)

assistant_reply = response.choices[0].message.content
print(assistant_reply)

# Add response to history
conversation.append({"role": "assistant", "content": assistant_reply})

# Second turn
conversation.append({
    "role": "user",
    "content": "Can you adapt this recipe for 8 people?"
})

response = client.chat.complete(
    model="mistral-large-latest",
    messages=conversation
)

print(response.choices[0].message.content)

Pane tähele, mida see kood tegelikult teeb: igas voorus saadetakse tagasi kogu ajalugu. Mudelil ei ole päringute vahel püsivat mälu. „See retsept“ omab mõtet ainult seetõttu, et eelmine vastus on endiselt massiivis. Sa oled täielikult vastutav vestluse oleku haldamise eest.

Struktureeritud sisu

Väli content aktsepteerib kahte vormi. Kõige tavalisem on lihtne string. Niipea kui edastad aga midagi muud kui teksti – näiteks kirjeldatava pildi –, lülitud tüübitud plokkide loendile:

# Simple content (text)
{"role": "user", "content": "Describe this image."}

# Structured content (multimodal)
{"role": "user", "content": [
    {"type": "text", "text": "Describe this image."},
    {"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
]}

Prefiksi lipp

Mistral pakub ainulaadset funktsiooni: prefiksi lippu (prefix flag). Kirjutad ise assistendi vastuse alguse ja mudel on sunnitud sealt jätkama. See on uskumatult tõhus, kui vajad väljundi parsimist nullise veamarginaaliga.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "You always respond in JSON."},
        {"role": "user", "content": "List 3 European capitals."},
        {"role": "assistant", "content": '{"capitals": [', "prefix": True}
    ]
)

Mudel jätkab genereerimist pärast {"capitals": [, kõrvaldades koheselt riski, et enne sulgude avanemist ilmub tekst „Sure, here is your JSON:“. Tootmiskeskkonnas on see vormingu garantii sageli väärtuslikum kui süsteemisõnumisse kolm korda korratud juhend.

Võta kohe omaks kaks harjumust. Hoia süsteemisõnum lühike: üks hästi kirjutatud lõik annab paremaid tulemusi kui kaks lehte reegleid, millest osa mudel lõpuks ignoreerib. Ära kunagi leiuta võltsitud assistendi vastuseid mudeli suunamiseks, välja arvatud üks erand – few-shot learning, mida käsitleme 10. tunnis. Pikkade vestluste korral saada kogu ajalugu, kuid jälgi kontekstiakent ja eemalda vanimad voorud enne, kui sellest üle lähed.

Peamised punktid

  • Neli rolli: system (käitumine), user (taotlus), assistant (vastus), tool (funktsiooni tulemus)
  • Süsteemisõnum asetatakse esimesena ja määrab rakenduse raamistiku
  • Mudelil puudub mälu: saada iga päringuga kogu ajalugu
  • Prefiksi lipp sunnib vastuse algust, et kontrollida väljundi formaati