Vloge: System, User in Assistant
Na tej strani
Razumevanje sistema vlog
API Mistral Chat Completions vsak pogovor strukturira okoli vlog, dodeljenih sporočilom. Vsako sporočilo, poslano modelu, mora vključevati vlogo, ki opredeljuje njegovo funkcijo v izmenjavi: kdo govori in s kakšno avtoriteto. Ta mehanizem se morda zdi tehnična podrobnost, vendar je pravzaprav hrbtenica vsakega profesionalnega poziva – to je tisto, kar loči preprosto vprašanje v klepetu od skrbno zgrajene aplikacije.
Mistral prepozna štiri različne vloge, od katerih ima vsaka natančno funkcijo:
| Vloga | Opis | Primer |
|---|---|---|
| system | Opredeljuje osebnost, vedenje in splošni kontekst modela | "You are a French legal expert specializing in labor law." |
| user | Vsebuje uporabnikovo zahtevo ali navodilo | "What are the employer's obligations in case of economic dismissal?" |
| assistant | Predstavlja odgovore modela ali vam omogoča predizpolnitev začetka odgovora | "Here are the 5 main obligations: 1. ..." |
| tool | Vrne rezultat klica funkcije (function calling) | JSON result from a database search |
Vloga system: temelj vašega poziva
Sporočilo system je prvo na seznamu sporočil in deluje kot stalna direktiva, ki vpliva na celoten pogovor. Razmišljajte o njem kot o opisu dela, ki ga novemu članu ekipe izročite pred prvim delovnim dnem: opredeljuje pričakovano osebnost (ton, stopnjo formalnosti, jezik), želeno področje strokovnosti, pravila o tem, kaj model sme in česa ne sme storiti, ter privzeto obliko njegovih odgovorov. Ko je ta opis enkrat zapisan, se vsaka naslednja izmenjava odvija znotraj tega okvira, ne da bi ga morali ponavljati.
messages = [
{
"role": "system",
"content": """You are a senior technical writer specializing in API documentation.
Rules:
- Use precise technical English
- Always include Python code examples
- Structure your responses with headings and lists
- Never exceed 500 words per response"""
},
{
"role": "user",
"content": "Explain how to handle HTTP errors in a REST API."
}
]
Zabeleži si pomembno točko za svoje prihodnje aplikacije: poziv system upravlja razvijalec, ne končni uporabnik. Uporabnik vaše aplikacije ga nikoli ne vidi, vendar vse njegove interakcije potekajo znotraj okvira, ki ste ga tam vzpostavili. To iz njega dela vaš najmočnejši vzvod nadzora.
Vloga user: konkretna zahteva
Sporočilo user vsebuje specifično zahtevo. To je najbolj intuitivna vloga: predstavlja tisto, kar človek reče modelu, in vsako novo vprašanje ali navodilo uporabnika postane sporočilo z vlogo user. Njena navidezna preprostost naj vas ne odvrne od dobrih praks: bodite natančni v svoji zahtevi, določite želeno obliko, če se razlikuje od tiste, opredeljene v pozivu system, in modelu neposredno v sporočilu zagotovite podatke, ki jih potrebuje – besedilo za povzetek, številke za analizo. Model ne more pridobiti tega, kar mu ne podate.
Vloga assistant: usmerjanje odgovora
Vloga assistant je najbolj subtilna od treh, saj ima dve različni uporabi. Prva je zgodovina pogovora: v večkratni izmenjavi se prejšnji odgovori modela znova vstavijo z vlogo assistant, da se ohrani kontekst. Tako model „pomni”, kaj je rekel:
messages = [
{"role": "user", "content": "What is the capital of France?"},
{"role": "assistant", "content": "The capital of France is Paris."},
{"role": "user", "content": "And its population?"}
]
Brez vmesnega sporočila assistant bi se „njeno” v zadnjem vprašanju nanašalo na nič: API je brez stanja (stateless) in spomin obnovite z vsakim klicem.
Druga uporaba je predizpolnitev (prefix): seznam sporočil lahko zaključite s sporočilom assistant, ki vsebuje začetek pričakovanega odgovora. Model bo nadaljeval od te točke, kot da bi prve besede že izrekel. To je zmogljiva tehnika za nadzor oblike izhoda:
messages = [
{"role": "user", "content": "List 3 Python frameworks for the web."},
{"role": "assistant", "content": "```json\n[", "prefix": True}
]
Upoštevajte polje "prefix": True: API Mistral ga zahteva pri tem zadnjem sporočilu assistant, da ga obravnava kot začetek odgovora.
Tukaj model razume, da piše JSON, in bo dopolnil začeti niz, brez uvoda ali uvodnega stavka. Kjer bi lahko besedilno navodilo „odgovori v JSON” bilo prezrto, pušča že napisan začetek odgovora malo izbire.
Vloga tool: rezultati funkcij
Vloga tool pride v poštev med klicem funkcij (function calling). Ko se model odloči poklicati zunanjo funkcijo – spletno iskanje, zahtevo API, izračun – se mu rezultat te funkcije pošlje nazaj kot sporočilo tool, ki ga nato vključi v svoj odgovor. Ta vloga je bolj napredna in bo obravnavana v specializiranih tečajih; zapomnite si le, da obstaja in dopolnjuje glavni trio.
Izgradnja celotnega pogovora
Zdaj združimo vse te elemente v realistično izmenjavo, kjer poziv system okvirja assistanta, zgodovina ohranja rdečo nit, zadnje vprašanje pa se naravno navezuje na prejšnje:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "You are a French culinary assistant. Respond concisely."
},
{
"role": "user",
"content": "How do I make a classic vinaigrette?"
},
{
"role": "assistant",
"content": "For a classic vinaigrette, mix 1 spoon of mustard, 3 spoons of olive oil, and 1 spoon of vinegar."
},
{
"role": "user",
"content": "And for a lighter version?"
}
]
)
Opazujte arhitekturo: najprej system, nato izmenjava user/assistant, ki reproducira tok pogovora. Ta vrstni red ni okrasen – omogoča modelu, da pravilno razume „lažjo različico” kot varianto vinaigrette, o kateri je pravkar razpravljal.
Ključne ugotovitve
- Vloga system okvirja splošno vedenje modela – to je vaš najmočnejši vzvod
- Vloga user prenaša konkretno uporabnikovo zahtevo
- Vloga assistant služi kot zgodovina in kot vodilo za obliko odgovora
- Vloga tool obravnava rezultate klicev funkcij
- Vrsten red sporočil je ključen: najprej system, nato izmenjava user/assistant