Roly a správy
Na tejto strane
Jadro konverzačného protokolu
API Chat Completions neprijíma surový text. Očakáva pole štruktúrovaných správ, pričom každej je priradená konkrétna rola. Tento systém rolí umožňuje modelu rozlíšiť, kto hovorí, aký je kontext a ako má odpovedať. Ten istý text – „Vždy odpovedaj v JSON“ – má inú váhu v závislosti od toho, či príde ako inštrukcia vývojára alebo ako vstup od používateľa. Zvládnutie tejto štruktúry je tým, čo oddeľuje súdržného chatbota od systému, ktorý sa po troch výmenách odchýli od témy.
Štyri roly
API Mistral rozpoznáva štyri odlišné roly, z ktorých každá plní v konverzácii presnú funkciu.
Rola system
Systémová správa definuje celkové správanie modelu. Keďže je umiestnená ako prvá, prečíta sa pred akoukoľvek výmenou informácií. Tu nastavuješ tón, obmedzenia a kontext svojej aplikácie. Predstav si asistenta určeného pre advokátsku kanceláriu; systémová správa zodpovedá briefingovej poznámke, ktorú by si odovzdal novému spolupracovníkovi pred jeho prvým prípadom.
messages = [
{
"role": "system",
"content": "You are a legal assistant specializing in French law. "
"Respond precisely and cite relevant legal articles. "
"If you are unsure, state it explicitly."
}
]
Túto správu spravuje vývojár, nikdy koncový používateľ, a v rozhraní tvojej aplikácie sa nikdy nezobrazuje.
Rola user
Ďalej nasleduje správa ľudského používateľa: otázka, inštrukcia alebo text na spracovanie. Toto je jediná časť konverzácie, ktorú tvoji používatelia priamo ovládajú.
messages.append({
"role": "user",
"content": "What are the statutes of limitations in civil law?"
})
Rola assistant
Táto rola obsahuje predchádzajúce odpovede modelu. Stáva sa nevyhnutnou, keď konverzácia presiahne jeden krok. Bez nej by používateľ, ktorý sa opýta „Čo obchodné dlhy?“, dostal odpoveď mimo tému, pretože by model nevedel, o čom sa diskutuje.
messages.append({
"role": "assistant",
"content": "In French civil law, the standard statute of limitations is 5 years..."
})
Rola tool
Posledná rola prichádza do úvahy počas volania funkcií. Keď model požiada o vykonanie externej funkcie – napríklad dotaz na API počasia – túto funkciu spustíš na svojej strane a výsledok vrátiš pod touto rolou s odkazom na ID konkrétneho volania:
messages.append({
"role": "tool",
"content": '{"temperature": 22, "city": "Paris"}',
"tool_call_id": "call_abc123"
})
Kompletná štruktúra viacťahovej výmeny
Pozrime sa na tieto roly v akcii počas skutočnej konverzácie, kde používateľ po počiatočnej odpovedi spresní svoju požiadavku:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
conversation = [
{
"role": "system",
"content": "You are a French chef. Propose simple and tasty recipes."
},
{
"role": "user",
"content": "I want to make a dessert with apples."
}
]
# First turn
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
assistant_reply = response.choices[0].message.content
print(assistant_reply)
# Add response to history
conversation.append({"role": "assistant", "content": assistant_reply})
# Second turn
conversation.append({
"role": "user",
"content": "Can you adapt this recipe for 8 people?"
})
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
print(response.choices[0].message.content)
Všimni si, čo tento kód skutočne robí: v každom kroku odosiela späť celú históriu. Model nemá medzi požiadavkami trvalú pamäť. Výraz „tento recept“ dáva zmysel len preto, že predchádzajúca odpoveď je stále v poli. Za stav konverzácie nesieš plnú zodpovednosť ty.
Štruktúrovaný obsah
Pole content akceptuje dve formy. Najbežnejšia je jednoduchý reťazec. Akonáhle však prenášaš niečo iné než text – napríklad obrázok na opis – prepneš sa na zoznam typovaných blokov:
# Simple content (text)
{"role": "user", "content": "Describe this image."}
# Structured content (multimodal)
{"role": "user", "content": [
{"type": "text", "text": "Describe this image."},
{"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
]}
Príznak prefixu
Mistral ponúka jedinečnú funkciu: príznak prefixu. Začiatok odpovede asistenta napíšeš sám a model je nútený pokračovať od tohto miesta. Toto je neuveriteľne efektívne, keď potrebuješ analyzovať výstup s nulovou toleranciou chýb.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You always respond in JSON."},
{"role": "user", "content": "List 3 European capitals."},
{"role": "assistant", "content": '{"capitals": [', "prefix": True}
]
)
Model obnoví generovanie po {"capitals": [, čím okamžite eliminuje riziko, že sa pred otváracou zátvorkou objaví text „Samozrejme, tu je váš JSON:“. V produkčnom prostredí má táto záruka formátu často väčšiu hodnotu než inštrukcia opakovaná trikrát v systémovej správe.
Osvoj si hneď dva návyky. Udržuj systémovú správu stručnú: jeden dobre napísaný odsek prináša lepšie výsledky než dve strany pravidiel, z ktorých časť model nakoniec ignoruje. A nikdy nevymýšľaj falošné odpovede asistenta s cieľom nasmerovať model, s jednou výnimkou – učenie s niekoľkými príkladmi (few-shot learning), ktorému sa budeme venovať v lekcii 10. Pri dlhých konverzáciách odosielaj celú históriu, ale sleduj kontextové okno a pred jeho prekročením odstráň najstaršie ťahy.
Kľúčové poznatky
- Štyri roly:
system(správanie),user(požiadavka),assistant(odpoveď),tool(výsledok funkcie) - Systémová správa ide ako prvá a definuje rámec aplikácie
- Model nemá pamäť: s každou požiadavkou odosielaj celú históriu
- Príznak prefixu vynúti začiatok odpovede a tým kontroluje formát výstupu