Role i wiadomości
Na tej stronie
Sedno protokołu konwersacyjnego
API Chat Completions nie przyjmuje surowego tekstu. Oczekuje tablicy ustrukturyzowanych wiadomości, z których każda ma przypisaną konkretną rolę. System ról pozwala modelowi rozróżnić, kto mówi, jaki jest kontekst i jak powinien odpowiedzieć. Ten sam tekst – „Zawsze odpowiadaj w formacie JSON“ – ma zupełnie inny ciężar gatunkowy w zależności od tego, czy trafi jako instrukcja od developera, czy jako dane wejściowe od użytkownika. Opanowanie tej struktury to kluczowa różnica między spójnym chatbotem a systemem, który po trzech wymianach zdań zaczyna odbiegać od tematu.
Cztery role
API Mistral rozpoznaje cztery odrębne role, z których każda pełni precyzyjną funkcję w rozmowie.
Rola system
Wiadomość systemowa definiuje ogólne zachowanie modelu. Umieszczona na samym początku, jest czytana przed rozpoczęciem jakiejkolwiek wymiany zdań. To tutaj ustalasz ton, ograniczenia i kontekst swojej aplikacji. Wyobraź sobie asystenta zaprojektowanego dla kancelarii prawnej; wiadomość systemowa odpowiada notatce briefingowej, którą przekazałbyś nowemu aplikantowi przed jego pierwszą sprawą.
messages = [
{
"role": "system",
"content": "You are a legal assistant specializing in French law. "
"Respond precisely and cite relevant legal articles. "
"If you are unsure, state it explicitly."
}
]
To developer zarządza tą wiadomością, nigdy użytkownik końcowy, i nigdy nie pojawia się ona w interfejsie Twojej aplikacji.
Rola user
Kolejna jest wiadomość od człowieka: pytanie, instrukcja lub tekst do przetworzenia. To jedyna część rozmowy, którą użytkownicy kontrolują bezpośrednio.
messages.append({
"role": "user",
"content": "What are the statutes of limitations in civil law?"
})
Rola assistant
Ta rola przechowuje poprzednie odpowiedzi modelu. Staje się niezbędna, gdy rozmowa wykracza poza jedną turę. Bez niej użytkownik pytający „A co z długami handlowymi?“ otrzymałby odpowiedź niezwiązaną z tematem, ponieważ model nie wiedziałby, o czym była mowa.
messages.append({
"role": "assistant",
"content": "In French civil law, the standard statute of limitations is 5 years..."
})
Rola tool
Ostatnia rola wchodzi do gry podczas wywoływania funkcji. Gdy model zażąda wykonania zewnętrznej funkcji – na przykład zapytania do API pogodowego – uruchamiasz tę funkcję po swojej stronie i zwracasz wynik pod tą rolą, odnosząc się do ID konkretnego wywołania:
messages.append({
"role": "tool",
"content": '{"temperature": 22, "city": "Paris"}',
"tool_call_id": "call_abc123"
})
Pełna struktura wieloturowej wymiany
Zobaczmy te role w akcji podczas prawdziwej rozmowy, w której użytkownik doprecyzowuje swoje żądanie po otrzymaniu pierwszej odpowiedzi:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
conversation = [
{
"role": "system",
"content": "You are a French chef. Propose simple and tasty recipes."
},
{
"role": "user",
"content": "I want to make a dessert with apples."
}
]
# First turn
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
assistant_reply = response.choices[0].message.content
print(assistant_reply)
# Add response to history
conversation.append({"role": "assistant", "content": assistant_reply})
# Second turn
conversation.append({
"role": "user",
"content": "Can you adapt this recipe for 8 people?"
})
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
print(response.choices[0].message.content)
Zwróć uwagę, co właściwie robi ten kod: przy każdej turze wysyła z powrotem całą historię. Model nie posiada trwałej pamięci między żądaniami. Zwrot „ten przepis“ ma sens tylko dlatego, że poprzednia odpowiedź nadal znajduje się w tablicy. To Ty ponosisz pełną odpowiedzialność za zarządzanie stanem konwersacji.
Ustrukturyzowana zawartość
Pole content akceptuje dwie formy. Najczęstszą jest prosty ciąg znaków. Jednak gdy tylko przesyłasz coś innego niż tekst – na przykład obraz do opisania – przełączasz się na listę typowanych bloków:
# Simple content (text)
{"role": "user", "content": "Describe this image."}
# Structured content (multimodal)
{"role": "user", "content": [
{"type": "text", "text": "Describe this image."},
{"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
]}
Flaga prefiksu
Mistral oferuje unikalną funkcję: flagę prefiksu. Sam wpisujesz początek odpowiedzi asystenta, a model jest zmuszony do kontynuowania od tego miejsca. Jest to niezwykle skuteczne, gdy potrzebujesz parsować wynik z zerowym marginesem błędu.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You always respond in JSON."},
{"role": "user", "content": "List 3 European capitals."},
{"role": "assistant", "content": '{"capitals": [', "prefix": True}
]
)
Model wznawia generowanie po {"capitals": [, natychmiast eliminując ryzyko pojawienia się frazy „Oczywiście, oto Twój JSON:“ przed nawiasem otwierającym. W środowisku produkcyjnym ta gwarancja formatu jest często warta więcej niż instrukcja powtórzona trzykrotnie w wiadomości systemowej.
Wdróż od razu dwa nawyki. Utrzymuj wiadomość systemową w zwięzłości: jeden dobrze napisany akapit daje lepsze rezultaty niż dwie strony reguł, z których część model i tak z czasem zignoruje. Nigdy nie wymyślaj fałszywych odpowiedzi asystenta, aby sterować modelem, z jednym wyjątkiem – nauki few-shot, którą omówimy w lekcji 10. Przy długich rozmowach wysyłaj pełną historię, ale monitoruj okno kontekstowe i usuwaj najstarsze tury, zanim je przekroczysz.
Kluczowe wnioski
- Cztery role:
system(zachowanie),user(żądanie),assistant(odpowiedź),tool(wynik funkcji) - Wiadomość systemowa trafia na początek i definiuje ramy aplikacji
- Model nie ma pamięci: z każdym żądaniem wysyłaj pełną historię
- Flaga prefiksu wymusza początek odpowiedzi, kontrolując format wyjścia