Rollid: süsteem, kasutaja ja assistent
Sellel lehel
Mõista rollisüsteemi
Mistrali vestluste lõpuleviimise API (Chat Completions API) struktureerib iga vestluse sõnumitele määratud rollide ümber. Iga mudelile saadetud sõnum peab sisaldama rolli, mis määratleb selle funktsiooni suhtluses: kes räägib ja millise volitusega. See mehhanism võib tunduda tehnilise detailina, kuid tegelikult on see iga professionaalse prompti selgroog – just see eristab lihtsat vestluses esitatud küsimust hoolikalt üles ehitatud rakendusest.
Mistral tunneb ära neli erinevat rolli, millest igal on täpne funktsioon:
| Roll | Kirjeldus | Näide |
|---|---|---|
| system | Määratleb mudeli isiksuse, käitumise ja üldise konteksti | "Oled prantsuse tööõigusele spetsialiseerunud juriidiline ekspert." |
| user | Sisaldab kasutaja taotlust või juhendit | "Millised on tööandja kohustused majanduslikul koondamisel?" |
| assistant | Tähistab mudeli vastuseid või võimaldab sul vastuse algust eeltäita | "Siin on 5 peamist kohustust: 1. ..." |
| tool | Tagastab funktsiooni väljakutse tulemuse (function calling) | JSON-tulemus andmebaasi otsingust |
Süsteemi roll: sinu prompti alustala
Sõnum system on sõnumite loendis esimene ja toimib püsiva direktiivina, mis mõjutab kogu vestlust. Mõtle sellele kui töökirjeldusele, mille annad uuele meeskonnaliikmele enne tema esimest tööpäeva: see määratleb oodatava isiksuse (toon, formaalsuse tase, keel), eelistatud eksperdi valdkonna, reeglid selle kohta, mida mudel peab või ei tohi teha, ning vaikimisi vastuse vormingu. Kui see kirjeldus on kirja pandud, sobitub iga järgnev vahetus sellesse raamistikku, ilma et peaksid seda kordama.
messages = [
{
"role": "system",
"content": """Oled vanem tehniline kirjutaja, kes on spetsialiseerunud API dokumentatsioonile.
Reeglid:
- Kasuta täpset tehnilist inglise keelt
- Lisa alati Pythoni koodinäited
- Struktureeri oma vastused pealkirjade ja loenditega
- Ära ületa kunagi 500 sõna vastuse kohta"""
},
{
"role": "user",
"content": "Selgita, kuidas käsitleda HTTP vigu REST API-s."
}
]
Pane tähele olulist punkti oma tulevaste rakenduste jaoks: süsteemi prompti haldab arendaja, mitte lõppkasutaja. Sinu rakenduse kasutaja ei näe seda kunagi, kuid kogu tema suhtlus leiab aset sinu sinna loodud raamistikus. See teeb sellest sinu võimsaima juhtimishoova.
Kasutaja roll: konkreetne taotlus
Sõnum user sisaldab konkreetset taotlust. See on kõige intuitiivsem roll: see tähistab seda, mida inimene mudelile ütleb, ja iga uus kasutaja küsimus või juhend muutub sõnumiks rolliga user. Selle näiline lihtsus ei tohiks panna unustama parimaid tavasid: ole oma taotluses täpne, täpsusta soovitud vormingut, kui see erineb süsteemi promptis määratletust, ja lisa andmed, mida mudel vajab, otse sõnumisse – tekst, mida kokku võtta, arvud, mida analüüsida. Mudel ei saa hankida seda, mida sa talle ei anna.
Assistendi roll: vastuse juhtimine
Roll assistant on kolmest kõige peenem, sest sellel on kaks erinevat kasutusviisi. Esimene on vestluse ajalugu: mitme vooru vahetuses sisestatakse mudeli eelmised vastused uuesti rolliga assistant, et säilitada kontekst. Nii “mäletab” mudel seda, mida ta ütles:
messages = [
{"role": "user", "content": "Mis on Prantsusmaa pealinn?"},
{"role": "assistant", "content": "Prantsusmaa pealinn on Pariis."},
{"role": "user", "content": "Ja selle rahvaarv?"}
]
Ilma vahepealse assistendi sõnumita ei viitaks “selle” viimases küsimuses millelegi: API on olekuta (stateless) ja sa taastad mälu iga väljakutsega.
Teine kasutusviis on eeltäitmine (prefix): saad lõpetada oma sõnumite loendi sõnumiga assistant, mis sisaldab oodatava vastuse algust. Mudel jätkab sellest kohast, justkui oleksid esimesed sõnad juba tema suust tulnud. See on võimas tehnika väljundvormingu kontrollimiseks:
messages = [
{"role": "user", "content": "Loetle 3 Pythoni veebiraamistikku."},
{"role": "assistant", "content": "```json\n[", "prefix": True}
]
Pane tähele välja "prefix": True: Mistrali API nõuab seda viimasel sõnumil assistant, et käsitleda seda vastuse algusena.
Siin mõistab mudel, et kirjutab JSON-i, ja täidab alustatud massiivi ilma sissejuhatuseta või tutvustava lauseta. Kui tekstiline juhend “vasta JSON-is” võib eiratud saada, siis juba kirjutatud vastuse algus jätab vähe valikuvõimalusi.
Tööriista roll: funktsiooni tulemused
Roll tool tuleb mängu funktsioonide väljakutsumise (function calling) käigus. Kui mudel otsustab kutsuda välist funktsiooni – veebiotsing, API päring, arvutus –, saadetakse selle funktsiooni tulemus talle tagasi sõnumina tool, mille ta seejärel oma vastusesse integreerib. See roll on edasijõudnutele ja seda käsitletakse spetsiaalsetes kursustes; pea lihtsalt meeles, et see eksisteerib ja täiendab peamist kolmikut.
Koosta terviklik vestlus
Paneme nüüd kõik need elemendid kokku realistlikuks vahetuseks, kus süsteemi prompt raamistab assistenti, ajalugu hoiab lõnga koos ja viimane küsimus tugineb loomulikult eelnevale:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Oled prantsuse kulinaaria assistent. Vasta lakooniliselt."
},
{
"role": "user",
"content": "Kuidas teha klassikalist vinaigrettekastet?"
},
{
"role": "assistant",
"content": "Klassikalise vinaigrette'i jaoks sega 1 lusikas sinepit, 3 lusikat oliiviõli ja 1 lusikas äädikat."
},
{
"role": "user",
"content": "Ja kergemat versiooni?"
}
]
)
Jälgi arhitektuuri: kõigepealt süsteem, seejärel kasutaja ja assistendi vaheldumine, mis taastoodab vestluse kulgu. See järjekord ei ole dekoratiivne – just see võimaldab mudelil tõlgendada “kergemat versiooni” kui äsja arutatud vinaigrette’i varianti.
Peamised punktid
- Roll system raamistab mudeli üldist käitumist – see on sinu võimsaim hoob
- Roll user kannab kasutaja konkreetset taotlust
- Roll assistant toimib nii ajaloona kui ka vastuse vormingu juhendina
- Roll tool haldab funktsioonide väljakutsete tulemusi
- Sõnumite järjekord on otsustava tähtsusega: kõigepealt süsteem, seejärel kasutaja ja assistendi vaheldumine