Szerepek és üzenetek
Ezen az oldalon
A konverzációs protokoll magja
A Chat Completions API nem fogad el nyers szöveget. Strukturált üzenetek tömbjét várja, ahol minden üzenethez egy konkrét szerep tartozik. Ez a szereprendszer teszi lehetővé, hogy a modell megkülönböztesse, ki beszél, mi a kontextus, és hogyan kellene válaszolnia. Ugyanaz a szöveg – „Mindig JSON-ban válaszolj“ – eltérő súllyal bír attól függően, hogy fejlesztői utasításként vagy felhasználói bemenetként érkezik. E struktúra elsajátítása választja el a koherens chatbotot attól a rendszertől, amely három váltás után már eltér a tárgytól.
A négy szerep
A Mistral API négy különböző szerepet ismer, amelyek mindegyike pontos funkciót lát el a beszélgetésben.
A system szerep
A rendszerüzenet határozza meg a modell általános viselkedését. Ez kerül legelőre, és a modell bármilyen váltás előtt elolvassa. Itt adhatod meg az alkalmazásod hangnemét, korlátait és kontextusát. Képzeld el egy ügyvédi iroda számára tervezett asszisztenset; a rendszerüzenet olyan, mint az a tájékoztató feljegyzés, amit egy új gyakornoknak adsz az első ügye előtt.
messages = [
{
"role": "system",
"content": "You are a legal assistant specializing in French law. "
"Respond precisely and cite relevant legal articles. "
"If you are unsure, state it explicitly."
}
]
Ezt az üzenetet a fejlesztő kezeli, sosem a végfelhasználó, és sosem jelenik meg az alkalmazásod felületén.
A user szerep
Ezután következik az emberi felhasználó üzenete: a kérdés, az utasítás vagy a feldolgozandó szöveg. Ez a beszélgetés egyetlen olyan része, amelyet a felhasználóid közvetlenül irányítanak.
messages.append({
"role": "user",
"content": "What are the statutes of limitations in civil law?"
})
Az assistant szerep
Ez a szerep a modell korábbi válaszait tartalmazza. Akkor válik nélkülözhetetlenné, ha a beszélgetés több körön is átível. Enélkül egy olyan felhasználói kérdésre, hogy „Mi a helyzet a kereskedelmi tartozásokkal?“, a modell témát tévesztve válaszolna, mivel nem tudná, miről folyik a diskurzus.
messages.append({
"role": "assistant",
"content": "In French civil law, the standard statute of limitations is 5 years..."
})
A tool szerep
Az utolsó szerep a függvényhívások (function calling) során lép életbe. Amikor a modell külső függvény végrehajtását kéri – például egy időjárás API lekérdezését –, te futtatod le ezt a függvényt a saját oldaladon, és az eredményt ebben a szerepkörben küldöd vissza, hivatkozva az adott hívás azonosítójára:
messages.append({
"role": "tool",
"content": '{"temperature": 22, "city": "Paris"}',
"tool_call_id": "call_abc123"
})
Többkörös váltások teljes szerkezete
Nézzük meg ezeket a szerepeket éles helyzetben, egy valódi beszélgetés során, ahol a felhasználó az első válasz után pontosítja a kérését:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
conversation = [
{
"role": "system",
"content": "You are a French chef. Propose simple and tasty recipes."
},
{
"role": "user",
"content": "I want to make a dessert with apples."
}
]
# First turn
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
assistant_reply = response.choices[0].message.content
print(assistant_reply)
# Add response to history
conversation.append({"role": "assistant", "content": assistant_reply})
# Second turn
conversation.append({
"role": "user",
"content": "Can you adapt this recipe for 8 people?"
})
response = client.chat.complete(
model="mistral-large-latest",
messages=conversation
)
print(response.choices[0].message.content)
Figyeld meg, mit is csinál valójában ez a kód: minden körben visszaküldi a teljes előzményt. A modellnek nincs tartós memóriája a kérések között. Az „ez a recept“ kifejezés csak azért értelmes, mert az előző válasz még mindig benne van a tömbben. Teljes mértékben te vagy felelős a beszélgetés állapotának kezeléséért.
Strukturált tartalom
A content mező két formátumot fogad el. A leggyakoribb az egyszerű szöveg. De amint a szövegen kívül mást is továbbítasz – például egy leírandó képet –, átváltasz a típusozott blokkok listájára:
# Simple content (text)
{"role": "user", "content": "Describe this image."}
# Structured content (multimodal)
{"role": "user", "content": [
{"type": "text", "text": "Describe this image."},
{"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
]}
A prefix jelző
A Mistral egy egyedi funkcióval rendelkezik: a prefix jelzővel. Te magad írod meg az asszisztens válaszának elejét, a modell pedig kénytelen onnan folytatni. Ez hihetetlenül hatékony, amikor nullás hibahatárral kell elemezned a kimenetet.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You always respond in JSON."},
{"role": "user", "content": "List 3 European capitals."},
{"role": "assistant", "content": '{"capitals": [', "prefix": True}
]
)
A modell a {"capitals": [ rész után folytatja a generálást, azonnal megszüntetve annak kockázatát, hogy a nyitó zárójel előtt megjelenjen egy olyan szöveg, hogy „Persze, itt a JSON-od:“. Éles környezetben ez a formátumbiztonság gyakran többet ér, mint a rendszerüzenetben háromszor is megismételt utasítás.
Fogadj meg két szokást azonnal. Tartsd tömören a rendszerüzenetet: egy jól megírt bekezdés jobb eredményt hoz, mint két oldalnyi szabály, amelyeknek egy részét a modell előbb-utóbb figyelmen kívül hagyja. És soha ne találj ki hamis asszisztens-válaszokat a modell irányítására, egy kivétellel: a few-shot learninggel, amiről a 10. leckében lesz szó. Hosszú beszélgetések esetén küldd el a teljes előzményt, de figyeld a kontextusablak méretét, és töröld a legrégebbi váltásokat, mielőtt túllépnéd azt.
Főbb megállapítások
- Négy szerep:
system(viselkedés),user(kérés),assistant(válasz),tool(függvényeredmény) - A rendszerüzenet kerül legelőre, és meghatározza az alkalmazás keretrendszerét
- A modellnek nincs memóriája: minden kéréssel elküldöd a teljes előzményt
- A prefix jelző kikényszeríti a válasz kezdetét, így kontrollálva a kimeneti formátumot