Lomas: Sistēma, Lietotājs, Asistents
Šajā lapā
Grok lomu sistēma
Sarunas ar Grok balstās uz trim atšķirīgām lomām, kas strukturē mijiedarbību. Katram modelim nosūtītajam ziņojumam ir piešķirta loma, kas norāda tā funkciju sarunā. Šo lomu izpratne ir būtiska, lai sastādītu efektīvus norādījumus un saņemtu konsekventas atbildes.
Grok API izmanto ziņojumu formātu, kurā katrs ieraksts ir objekts, kas satur lauku role un lauku content. Šī arhitektūra ļauj precīzi kontrolēt modeļa uzvedību.
Sistēmas loma (vai izstrādātāja loma)
Sistēmas ziņojums ir pirmais ziņojums sarunā. Tas definē modeļa globālo uzvedību: tā personību, ierobežojumus, specializācijas jomu un noteikumus, kuriem tam jāseko visas sarunas garumā.
{
"role": "system",
"content": "You are a cybersecurity expert. You always respond in English, concisely. You cite sources when relevant. You refuse to provide instructions for carrying out attacks."
}
Grok pieņem arī lomu developer kā aliasu priekš system. Abas ir savstarpēji aizvietojamas un rada vienādu efektu.
Ko iekļaut sistēmas ziņojumā
- Identitāte: kas models ir šajā sarunā (eksperts, asistents, tulkotājs…)
- Ierobežojumi: valoda, atbildes formāts, garums, tonis
- Aizliegumi: ko modelim nedrīkst darīt
- Biznesa konteksts: domēns, lietojamie tehniskie termini
Labākā prakse
- Vienmēr novieto sistēmas ziņojumu pirmo
- Esi izsmeļošs uzreiz: ir efektīvāk visu norādīt sistēmas ziņojumā, nevis sarunas vidū
- Izmanto skaidras sadaļas (ar domuzīmēm vai virsrakstiem), lai strukturētu savus norādījumus
Lietotāja loma
Ziņojumi ar lomu user apzīmē cilvēka lietotāja iejaukšanos. Šī ir visintuitīvākā loma: tā satur tavus jautājumus, pieprasījumus un ievades datus.
{
"role": "user",
"content": "Analyze this network architecture and identify the three most critical vulnerabilities."
}
Lietotāja ziņojuma saturs var būt vienkārša teksta virkne vai objektu masīvs, lai apvienotu tekstu un attēlus (to aplūkosim 4. nodarbībā).
Padomi lietotāja ziņojumiem
- Formulē vienu pieprasījumu vienā ziņojumā, kad vien iespējams
- Ja tev ir vairāki saistīti pieprasījumi, numurē tos
- Sniedz nepieciešamos datus tieši ziņojumā
Asistenta loma
Ziņojumi ar lomu assistant satur modeļa atbildes. Parastos apstākļos tu tos pats neraksti: tos ģenerē Grok. Tomēr tu vari tos iekļaut savā sarunas vēsturē, lai virzītu modeli.
{
"role": "assistant",
"content": "Here are the three identified vulnerabilities: ..."
}
Kāpēc iepriekš aizpildīt asistenta ziņojumus?
Viltotu asistenta ziņojumu iekļaušana vēsturē ir spēcīga metode:
- Stila virzīšana: parādi modelim paredzēto atbildes formātu
- Konsekvences uzturēšana: simulē pagātnes sarunu, lai models turpinātu tajā pašā tonī
- Daži piemēri kontekstā (Few-shot): izveido jautājumu/atbilžu pārus kā piemērus
Lomu struktūras ietekme
Ziņojumu secība un organizācija tieši ietekmē atbildes kvalitāti. Lūk, ieteicamā struktūra:
[
{"role": "system", "content": "Global instructions..."},
{"role": "user", "content": "First user message..."},
{"role": "assistant", "content": "Model response..."},
{"role": "user", "content": "Next message..."}
]
Grok „Chat Completions” galapunkts ir bez stāvokļa (stateless): tas neglabā vēsturi starp pieprasījumiem. Katrā izsaukumā tev jāiekļauj viss sarunas konteksts. Tas nozīmē, ka, ja vēlies 5 soļu sarunu, tavam 5. pieprasījumam ir jāsatur iepriekšējie 4 soļi.
Praktisks uzdevums
Pārbaudi sistēmas ziņojuma ietekmi, nosūtot vienu un to pašu jautājumu ar divām dažādām konfigurācijām:
A konfigurācija:
[
{"role": "system", "content": "You are a math teacher for high school seniors."},
{"role": "user", "content": "Explain limits."}
]
B konfigurācija:
[
{"role": "system", "content": "You are a senior software engineer specialized in distributed systems."},
{"role": "user", "content": "Explain limits."}
]
Viens un tas pats jautājums rada divas radikāli atšķirīgas atbildes atkarībā no definētās sistēmas lomas. Skolotājs runās par matemātiskajām robežām, bet inženieris – par ātruma ierobežošanu un kvotām.
Galvenās atziņas
- Trīs lomas strukturē sarunas:
system(vaideveloper),userunassistant - Sistēmas ziņojums definē globālo uzvedību un tam jābūt novietotam pirmajam
- API ir bez stāvokļa: katrā pieprasījumā iekļauj visu vēsturi
- Asistenta ziņojumu iepriekšēja aizpildīšana ļauj virzīt atbildes stilu un formātu
- Labi sastādīts sistēmas ziņojums bieži ir efektīvāks nekā vairāki labojumi sarunas vidū