Vaidmenys: System, User, Assistant
Šiame puslapyje
Grok vaidmenų sistema
Pokalbiai su Grok sukasi apie tris skirtingus vaidmenis, kurie struktūruoja keitimąsi informacija. Kiekvienas modeliui siunčiamas pranešimas turi vaidmenį, nurodantį jo funkciją pokalbyje. Suprasti šiuos vaidmenis yra būtina norint rašyti efektyvias užuominas (prompts) ir gauti nuoseklius atsakymus.
Grok API naudoja pranešimų formatą, kuriame kiekvienas įrašas yra objektas su laukais role ir content. Ši architektūra leidžia tiksliai valdyti modelio elgseną.
System vaidmuo (arba Developer)
System žinutė yra pirmoji pokalbio žinutė. Ji apibrėžia bendrą modelio elgseną: jo asmenybę, apribojimus, kompetencijos sritį ir taisykles, kurių jis privalo laikytis viso pokalbio metu.
{
"role": "system",
"content": "You are a cybersecurity expert. You always respond in English, concisely. You cite sources when relevant. You refuse to provide instructions for carrying out attacks."
}
Grok taip pat priima developer vaidmenį kaip system aliasą. Abu yra tarpusavyje keičiami ir duoda tą patį rezultatą.
Ką įtraukti į System žinutę
- Tapatybė: kas modelis yra šiame pokalbyje (ekspertas, asistentas, vertėjas…)
- Apribojimai: kalba, atsakymo formatas, ilgis, tonas
- Draudimai: ko modelis neturi daryti
- Verslo kontekstas: domenas, techniniai terminai, kuriuos naudoti
Geriausios praktikos
- Visada dėkite system žinutę pirmąją
- Būkite išsamūs iš anksto: viską nurodyti system žinutėje yra efektyviau nei tai daryti pokalbio viduryje
- Naudokite aiškias skiltis (su brūkšneliais arba antraštėmis), kad sutvarkytumėte savo instrukcijas
User vaidmuo
user žinutės reiškia žmogaus naudotojo įsikišimus. Tai pats intuityviausias vaidmuo: jame yra jūsų klausimai, prašymai ir įvesties duomenys.
{
"role": "user",
"content": "Analyze this network architecture and identify the three most critical vulnerabilities."
}
User žinutės turinys gali būti paprasta teksto eilutė arba objektų masyvas, skirtas sujungti tekstą ir vaizdus (tai nagrinėsime 4 pamokoje).
Patarimai User žinutėms
- Jei įmanoma, suformuluokite vieną prašymą vienai žinutei
- Jei turite kelis susijusius prašymus, sunumeruokite juos
- Pateikite būtinus duomenis tiesiai žinutėje
Assistant vaidmuo
assistant žinutėse yra modelio atsakymai. Įprastomis aplinkybėmis jų nerašote patys: juos generuoja Grok. Tačiau galite juos įtraukti į savo pokalbio istoriją, kad nukreiptumėte modelį.
{
"role": "assistant",
"content": "Here are the three identified vulnerabilities: ..."
}
Kodėl verta iš anksto užpildyti Assistant žinutes?
Netikrų assistant žinučių įtraukimas į istoriją yra galinga technika:
- Stiliaus nukreipimas: parodykite modeliui pageidaujamą atsakymo formatą
- Nuoseklumo išlaikymas: imituokite ankstesnį pokalbį, kad modelis tęstų ta pačia tonacija
- „Few-shot“ kontekste: sukurkite klausimų ir atsakymų poras kaip pavyzdžius
Vaidmenų struktūros įtaka
Pranešimų tvarka ir organizavimas tiesiogiai veikia atsakymų kokybę. Štai rekomenduojama struktūra:
[
{"role": "system", "content": "Global instructions..."},
{"role": "user", "content": "First user message..."},
{"role": "assistant", "content": "Model response..."},
{"role": "user", "content": "Next message..."}
]
Grok „Chat Completions“ galutinė taško (endpoint) yra be būsenos (stateless): ji nesaugo istorijos tarp užklausų. Kiekvienu kvietimu turite įtraukti visą pokalbio kontekstą. Tai reiškia, kad jei norite 5 ėjimų pokalbio, jūsų 5-asis prašymas turi turėti ankstesnius 4 ėjimus.
Praktinė užduotis
Išbandykite system žinutės įtaką siųsdami tą patį klausimą su dviem skirtingomis konfigūracijomis:
A konfigūracija:
[
{"role": "system", "content": "You are a math teacher for high school seniors."},
{"role": "user", "content": "Explain limits."}
]
B konfigūracija:
[
{"role": "system", "content": "You are a senior software engineer specialized in distributed systems."},
{"role": "user", "content": "Explain limits."}
]
Tas pats klausimas sukelia du radikaliai skirtingus atsakymus, priklausomai nuo apibrėžto system vaidmens. Mokytojas kalbės apie matematines ribas, o inžinierius – apie greitio ribojimą (rate limiting) ir kvotas.
Svarbiausi punktai
- Trys vaidmenys struktūruoja pokalbius:
system(arbadeveloper),userirassistant - System žinutė apibrėžia bendrą elgseną ir turi būti dedama pirmoji
- API yra be būsenos: į kiekvieną prašymą įtraukite visą istoriją
- Išankstinis assistant žinučių užpildymas leidžia nukreipti atsakymo stilių ir formatą
- Gerai parašyta system žinutė dažnai yra efektyvesnė nei daugybė taisymų pokalbio viduryje