Roluri și Mesaje
Pe această pagină
Nucleul Protocolului Conversațional
API-ul Chat Completions nu acceptă text brut. Acesta se așteaptă la un tablou de mesaje structurate, fiecare având atribuit un rol specific. Acest sistem de roluri permite modelului să distingă cine vorbește, care este contextul și cum ar trebui să răspundă. Același text – „Răspundeți întotdeauna în JSON“ – are o greutate diferită în funcție de faptul dacă sosește ca o instrucțiune de dezvoltator sau ca o intrare din partea utilizatorului. Stăpânirea acestei structuri este ceea ce separă un chatbot coerent de un sistem care deviază de la subiect după trei schimburi de replici.
Cele Patru Roluri
API-ul Mistral recunoaște patru roluri distincte, fiecare îndeplinind o funcție precisă în cadrul conversației.
Rolul system
Mesajul de sistem definește comportamentul global al modelului. Plasat primul, este citit înainte de a avea loc orice schimb. Aici stabiliți tonul, constrângerile și contextul pentru aplicația dumneavoastră. Imaginați-vă un asistent conceput pentru un cabinet de avocatură; mesajul de sistem echivalează cu nota de briefing pe care i-ați înmâna-o unui nou asociat înainte de primul său dosar.
messages = [
{
"role": "system",
"content": "You are a legal assistant specializing in French law. "
"Respond precisely and cite relevant legal articles. "
"If you are unsure, state it explicitly."
}
]
Dezvoltatorul gestionează acest mesaj, niciodată utilizatorul final, iar acesta nu apare niciodată în interfața aplicației dumneavoastră.
Rolul user
Urmează mesajul utilizatorului uman: întrebarea, instrucțiunea sau textul de procesat. Aceasta este singura parte a conversației pe care utilizatorii dumneavoastră o controlează direct.
messages.append({
"role": "user",
"content": "What are the statutes of limitations in civil law?"
})
Rolul assistant
Acest rol conține răspunsurile anterioare ale modelului. Devine esențial odată ce conversația depășește un singur tur. Fără el, un utilizator care întreabă „Dar ce se întâmplă cu datoria comercială?“ ar primi un răspuns hors-sujet, deoarece modelul nu ar ști despre ce se discută.
messages.append({
"role": "assistant",
"content": "In French civil law, the standard statute of limitations is 5 years..."
})
Rolul tool
Ultimul rol intră în joc în timpul apelului de funcții. Când modelul solicită executarea unei funcții externe – interogarea unui API meteo, de exemplu – dumneavoastră executați acea funcție la dumneavoastră și returnați rezultatul sub acest rol, făcând referire la ID-ul apelului specific:
messages.append({
"role": "tool",
"content": '{"temperature": 22, "city": "Paris"}',
"tool_call_id": "call_abc123"
})
Structura Completă a unui Schimb Multi-Tur
Să vedem aceste roluri în acțiune în timpul unei conversații reale, în care utilizatorul își rafinează cererea după un răspuns inițial:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
conversation = [
{
"role": "system",
"content": "You are a French chef. Propose simple and tasty recipes."
},
{
"role": "user",
"content": "I want to make a dessert with apples."
}
]
# First turn
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
assistant_reply = response.choices[0].message.content
print(assistant_reply)
# Add response to history
conversation.append({"role": "assistant", "content": assistant_reply})
# Second turn
conversation.append({
"role": "user",
"content": "Can you adapt this recipe for 8 people?"
})
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
print(response.choices[0].message.content)
Observați ce face efectiv acest cod: la fiecare tur, acesta trimite înapoi istoricul complet. Modelul nu are memorie persistentă între cereri. „Această rețetă“ are sens doar deoarece răspunsul anterior se află încă în tablou. Sunteți singurul responsabil de gestionarea stării conversației.
Conținut Structurat
Câmpul content acceptă două forme. Cea mai comună este un șir simplu. Dar imediat ce transmiteți altceva decât text – o imagine de descris, de exemplu – treceți la o listă de blocuri tipizate:
# Simple content (text)
{"role": "user", "content": "Describe this image."}
# Structured content (multimodal)
{"role": "user", "content": [
{"type": "text", "text": "Describe this image."},
{"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
]}
Indicatorul Prefix
Mistral oferă o funcționalitate unică: indicatorul prefix. Dumneavoastră scrieți începutul răspunsului asistentului, iar modelul este forțat să continue de acolo. Acest lucru este incredibil de eficient atunci când trebuie să analizați ieșirea cu zero marjă de eroare.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You always respond in JSON."},
{"role": "user", "content": "List 3 European capitals."},
{"role": "assistant", "content": '{"capitals": [', "prefix": True}
]
)
Modelul reia generarea după {"capitals": [, eliminând imediat riscul de a vedea apariția textului „Sigur, iată JSON-ul dumneavoastră:“ înainte de acolada de deschidere. În producție, această garanție de format valorează adesea mai mult decât o instrucțiune repetată de trei ori în mesajul de sistem.
Adoptați imediat două obiceiuri. Mențineți mesajul de sistem concis: un paragraf bine scris oferă rezultate mai bune decât două pagini de reguli, din care o parte va fi eventual ignorată de model. Și nu inventați niciodată răspunsuri false ale asistentului pentru a ghida modelul, cu o singură excepție – învățarea few-shot, pe care o vom aborda în Lecția 10. Pentru conversații lungi, trimiteți istoricul complet, dar monitorizați fereastra de context și eliminați tururile cele mai vechi înainte de a o depăși.
Puncte cheie
- Patru roluri:
system(comportament),user(cerere),assistant(răspuns),tool(rezultat funcție) - Mesajul de sistem vine primul și definește cadrul aplicației
- Modelul nu are memorie: trimiteți istoricul complet la fiecare cerere
- Indicatorul prefix forțează începutul răspunsului pentru a controla formatul ieșirii