Ρόλοι και Μηνύματα
Σε αυτήν τη σελίδα
Ο Πυρήνας του Πρωτοκόλλου Συνομιλίας
Το API Chat Completions δεν δέχεται απλό κείμενο. Αναμένει έναν πίνακα δομημένων μηνυμάτων, καθένα από τα οποία έχει εκχωρημένο έναν συγκεκριμένο ρόλο. Αυτό το σύστημα ρόλων επιτρέπει στο μοντέλο να διακρίνει ποιος μιλά, ποιο είναι το πλαίσιο και πώς πρέπει να απαντήσει. Το ίδιο κείμενο—«Πάντα να απαντάς σε JSON»—έχει διαφορετικό βάρος ανάλογα με το αν φτάνει ως οδηγία προγραμματιστή ή ως είσοδος χρήστη. Η κατοχή αυτής της δομής είναι αυτό που χωρίζει ένα συνεκτικό chatbot από ένα σύστημα που χάνει το θέμα του μετά από τρεις ανταλλαγές.
Οι Τέσσερις Ρόλοι
Το API της Mistral αναγνωρίζει τέσσερις διακριτούς ρόλους, ο καθένας με μια ακριβή λειτουργία στη συνομιλία.
Ο Ρόλος system
Το μήνυμα συστήματος ορίζει τη γενική συμπεριφορά του μοντέλου. Τοποθετείται πρώτο και διαβάζεται πριν από οποιαδήποτε ανταλλαγή. Εδώ ορίζετε τον τόνο, τους περιορισμούς και το πλαίσιο για την εφαρμογή σας. Φανταστείτε έναν βοηθό σχεδιασμένο για δικηγορικό γραφείο· το μήνυμα συστήματος ισοδυναμεί με το σημείωμα ενημέρωσης που θα δίνατε σε έναν νέο συνεργάτη πριν από την πρώτη του υπόθεση.
messages = [
{
"role": "system",
"content": "You are a legal assistant specializing in French law. "
"Respond precisely and cite relevant legal articles. "
"If you are unsure, state it explicitly."
}
]
Ο προγραμματιστής διαχειρίζεται αυτό το μήνυμα, ποτέ ο τελικός χρήστης, και δεν εμφανίζεται ποτέ στη διεπαφή της εφαρμογής σας.
Ο Ρόλος user
Ακολουθεί το μήνυμα του ανθρώπινου χρήστη: η ερώτηση, η οδηγία ή το κείμενο προς επεξεργασία. Αυτό είναι το μόνο μέρος της συνομιλίας που ελέγχουν άμεσα οι χρήστες σας.
messages.append({
"role": "user",
"content": "What are the statutes of limitations in civil law?"
})
Ο Ρόλος assistant
Αυτός ο ρόλος περιέχει τις προηγούμενες απαντήσεις του μοντέλου. Γίνεται απαραίτητος μόλις η συνομιλία ξεπεράσει έναν γύρο. Χωρίς αυτόν, ένας χρήστης που ρωτά «Τι συμβαίνει με το εμπορικό χρέος;» θα λάμβανε μια άσχετη απάντηση, επειδή το μοντέλο δεν θα ήξερε τι συζητιόταν.
messages.append({
"role": "assistant",
"content": "In French civil law, the standard statute of limitations is 5 years..."
})
Ο Ρόλος tool
Ο τελευταίος ρόλος ενεργοποιείται κατά την κλήση συναρτήσεων. Όταν το μοντέλο ζητά την εκτέλεση μιας εξωτερικής συνάρτησης—για παράδειγμα, την ερώτηση σε ένα API καιρού—εκτελείτε αυτή τη συνάρτηση από την πλευρά σας και επιστρέφετε το αποτέλεσμα υπό αυτόν τον ρόλο, αναφέροντας το ID της συγκεκριμένης κλήσης:
messages.append({
"role": "tool",
"content": '{"temperature": 22, "city": "Paris"}',
"tool_call_id": "call_abc123"
})
Πλήρης Δομή μιας Ανταλλαγής Πολλαπλών Γύρων
Ας δούμε αυτούς τους ρόλους σε δράση κατά τη διάρκεια μιας πραγματικής συνομιλίας όπου ο χρήστης βελτιώνει το αίτημά του μετά από μια αρχική απάντηση:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
conversation = [
{
"role": "system",
"content": "You are a French chef. Propose simple and tasty recipes."
},
{
"role": "user",
"content": "I want to make a dessert with apples."
}
]
# First turn
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
assistant_reply = response.choices[0].message.content
print(assistant_reply)
# Add response to history
conversation.append({"role": "assistant", "content": assistant_reply})
# Second turn
conversation.append({
"role": "user",
"content": "Can you adapt this recipe for 8 people?"
})
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
print(response.choices[0].message.content)
Παρατηρήστε τι κάνει πραγματικά αυτός ο κώδικας: σε κάθε γύρο, στέλνει πίσω ολόκληρο το ιστορικό. Το μοντέλο δεν έχει επίμονη μνήμη μεταξύ των αιτημάτων. Η φράση «αυτή η συνταγή» έχει νόημα μόνο επειδή η προηγούμενη απάντηση βρίσκεται ακόμα στον πίνακα. Εσείς είστε αποκλειστικά υπεύθυνοι για τη διαχείριση της κατάστασης της συνομιλίας.
Δομημένο Περιεχόμενο
Το πεδίο content δέχεται δύο μορφές. Η πιο κοινή είναι ένα απλό string. Ωστόσο, μόλις μεταδώσετε κάτι άλλο εκτός από κείμενο—για παράδειγμα, μια εικόνα προς περιγραφή—μεταβαίνετε σε μια λίστα τυποποιημένων μπλοκ:
# Simple content (text)
{"role": "user", "content": "Describe this image."}
# Structured content (multimodal)
{"role": "user", "content": [
{"type": "text", "text": "Describe this image."},
{"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
]}
Η Σημαία Prefix
Η Mistral προσφέρει ένα μοναδικό χαρακτηριστικό: τη σημαία prefix. Γράφετε εσείς την αρχή της απάντησης του βοηθού και το μοντέλο αναγκάζεται να συνεχίσει από εκεί. Αυτό είναι εξαιρετικά αποτελεσματικό όταν χρειάζεται να αναλύσετε την έξοδο με μηδενικό περιθώριο σφάλματος.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You always respond in JSON."},
{"role": "user", "content": "List 3 European capitals."},
{"role": "assistant", "content": '{"capitals": [', "prefix": True}
]
)
Το μοντέλο επαναλαμβάνει τη δημιουργία μετά το {"capitals": [, εξαλείφοντας άμεσα τον κίνδυνο να εμφανιστεί το «Sure, here is your JSON:» πριν από την άγκιστρο έναρξης. Στην παραγωγή, αυτή η εγγύηση μορφής συχνά αξίζει περισσότερο από μια οδηγία που επαναλαμβάνεται τρεις φορές στο μήνυμα συστήματος.
Υιοθετήστε αμέσως δύο συνήθειες. Κρατήστε το μήνυμα συστήματος συνοπτικό: μια καλά γραμμένη παράγραφος αποδίδει καλύτερα αποτελέσματα από δύο σελίδες κανόνων, μέρος των οποίων το μοντέλο θα αγνοήσει τελικά. Και μην επινοείτε ποτέ ψεύτικες απαντήσεις βοηθού για να κατευθύνετε το μοντέλο, με μία εξαίρεση—την εκμάθηση few-shot, την οποία θα καλύψουμε στο Μάθημα 10. Για μεγάλες συνομιλίες, στείλτε ολόκληρο το ιστορικό, αλλά παρακολουθήστε το παράθυρο πλαισίου (context window) και περικόψτε τους παλαιότερους γύρους πριν το ξεπεράσετε.
Βασικά σημεία
- Τέσσερις ρόλοι:
system(συμπεριφορά),user(αίτημα),assistant(απάντηση),tool(αποτέλεσμα συνάρτησης) - Το μήνυμα συστήματος πηγαίνει πρώτο και ορίζει το πλαίσιο της εφαρμογής
- Το μοντέλο δεν έχει μνήμη: στείλτε ολόκληρο το ιστορικό με κάθε αίτημα
- Η σημαία prefix επιβάλλει την έναρξη της απάντησης για τον έλεγχο της μορφής εξόδου