Efektyvūs sistemos raginimai
Šiame puslapyje
Sistemos žinutės menas gamyboje
Sistemos žinutė – tai galingiausias tavo svertas valdant modelio elgseną. Skirtingai nei user instrukcijos, kurios keičiasi su kiekvienu užklausimu, sistemos žinutė išlieka pastovi visuose kvietimuose ir apibrėžia visos tavo programos veikimo sistemą. Ji bendrosios paskirties modelį paverčia specializuotu asistentu. Gamyboje jos neimprovizuoji: ją struktūruoji, versijuoji ir testuoji kaip bet kurį kitą sistemos komponentą.
Gamybinio sistemos raginimo anatomija
Efektyvų sistemos raginimą sudaro keturi skirtingi blokai: Tapatybė, Kontekstas, Elgsena ir Formatas. Štai pilna programinės įrangos pagalbos asistento konfigūracija:
system_prompt = """
IDENTITY: You are the AI assistant for TechCorp, specializing in technical support for accounting software.
CONTEXT: Users are accountants and certified public accountants using ComptaPro v12. They know accounting but not necessarily IT.
BEHAVIOR:
- Respond in French using formal address (vouvoiement)
- Be precise and technical without excessive IT jargon
- If you are unsure, say so and direct the user to human support
- Never provide tax or legal advice
FORMAT:
- Structured responses with numbered steps for procedures
- Code blocks for formulas or configurations
- Maximum 300 words unless the user explicitly requests details
"""
IDENTITY blokas atsako į klausimą „kas yra modelis?“. Šis vaidmenų kūrimo šablonas padeda modeliui suformuluoti atsakymus, jei tik būni konkretus. Frazei „Tu esi pagalbingas asistentas“ vis dar trūksta tikslumo, kad ji ką nors pakeistų, tuo tarpu „Tu esi vyresnysis DevOps inžinierius, specializuojantis AWS infrastruktūroje. Tu konsultuoji 5–20 developerių komandas debesijos architektūrų klausimais“ iškart nustato techninį lygį, pašnekovą ir taikymo sritį. Tuomet modelis žino, kaip giliai eiti, ir tau nereikia to kartoti.
CONTEXT blokas pateikia tai, ko modelis negali atspėti. Nurodžius, kad „klientas naudoja Python 3.11, FastAPI 0.110 ir diegia į AWS Lambda“, kad „duomenų bazė yra PostgreSQL 16 serveryje RDS“ ir kad „vidutinis srautas viršūnės valandomis siekia 500 užklausų per sekundę“, išvengiama sprendimų, kurie teoriškai teisingi, bet nesuderinami su realia kliento aplinka.
BEHAVIOR blokas taisykles formuluoja kaip aiškias instrukcijas. Čia naudinga sistemiškai priešpriešinti VISADA ir NIEKADA: visada cituok šaltinius, apribotus oficialia dokumentacija, visada siūlyk testuojamus kodo pavyzdžius; niekada nesiūlyk sprendimų, besiremiančių nepalaikomomis dependencijomis, niekada nekeisk duomenų bazės schemos be aiškaus įspėjimo. Ši simetrija užveria duris, pro kurias modelis kitaip galėtų nueiti spontaniškai.
Galiausiai, FORMAT blokas nustato išvesties struktūrą. Reikalavimas pateikti keturių dalių planą – vienas ar du sakiniai diagnozei, rekomenduojamas sprendimas su kodu (jei taikoma), alternatyvos (jei aktualu), įspėjimai apie šalutinius poveikius ir rizikas – garantuoja palyginamus atsakymus, todėl jie tampa naudojami tiek tavo sąsajai, tiek vartotojams.
Trys pilni sistemos raginimai
Elektroninės prekybos pokalbių robotui svarbiausia žinoti, kur sustoti: rekomenduok, bet nieko neišgalvok ir perduok klientų aptarnavimui, kai tik klausimas liečia jų kompetenciją.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
SYSTEM_ECOMMERCE = """IDENTITY: Assistant for the MaisonDeco.fr online store, interior decoration specialist.
CONTEXT: Catalog of 15,000 products. Delivery to metropolitan France only. Free returns within 30 days.
BEHAVIOR:
- Formal address (vouvoiement), warm but professional tone
- Recommend products based on the style described by the client
- For customer service questions: collect order number then direct to [email protected]
- Never invent products or prices
FORMAT: Short responses (max 150 words). Bullet lists for recommendations."""
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": SYSTEM_ECOMMERCE},
{"role": "user", "content": "I am looking for a sofa for a small 15m² living room."}
]
)
Ekstrahavimo agentas siekia priešingo tikslo: jokia laisvė, jokia dedukcija, griežtai schemą atitinkantis JSON. Atkreipk dėmesį į temperature, nustatytą į nulį – tai būtina, kai išvestis turi būti atkuriama.
SYSTEM_EXTRACTION = """IDENTITY: Structured data extractor from free text.
BEHAVIOR:
- Extract ONLY the requested information
- If information is missing from the text, indicate "not found"
- Never invent or deduce missing data
FORMAT: Respond exclusively in valid JSON, with no text before or after.
Schema: {"name": str, "email": str, "phone": str, "company": str}"""
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": SYSTEM_EXTRACTION},
{"role": "user", "content": "Hello, I am Marie Dupont from Acme Corp, you can reach me at 06 12 34 56 78 or by email at [email protected]."}
],
temperature=0.0 # Deterministic for extraction
)
Rašymo asistentą, priešingai, labiausiai valdo tai, ką jam draudi daryti; kitaip jis gamins tuščią marketinginį turinį.
SYSTEM_WRITING = """IDENTITY: Professional writer specializing in B2B content for the technology sector.
BEHAVIOR:
- Concise, active, benefit-oriented style
- Avoid empty marketing jargon ("revolutionary", "disruptive", "game-changer")
- Use hard data when available
- Adapt tone to the requested format (blog, email, LinkedIn)
FORMAT: Include a title, a 2-line lead paragraph, then the body text. Mark passages requiring personalization in [brackets]."""
Trys pasikartojančios spąstai
Pirmoji – vidinis prieštaravimas. Parašius „Būk glaustas. Pateik išsamius ir pilnus atsakymus“, modelis atsiduria prieš dilemą, kurią spręs atsitiktinai, ir kiekvienas kvietimas duos skirtingą rezultatą. Vietoj to suformuluok taisyklę su išimtimi: „Daugiausia 100 žodžių. Jei vartotojas prašo „daugiau detalių“, išplėsk iki 500 žodžių.”
Antroji – subjektyvi instrukcija. „Atsakyk įdomiai ir įtraukiančiai“ nesiremia jokiais patikrinamais kriterijais nei modeliui, nei tau vertinant rezultatą. Pakeisk tai išmatuojamais nurodymais, pavyzdžiui: „Kiekvieną atsakymą pradėk nustebinančiu faktu, susijusiu su tema. Naudok sakinius, trumpesnius nei 20 žodžių.“
Trečioji – neigiamo konteksto praleidimas: modeliui sakoma, ką daryti, bet niekada – ko nedaryti. Apskaitos asistentui trys kritiniai draudimai yra šie: neatsakyk į klausimus, nesusijusius su apskaita, neteik specifinių finansinių duomenų, pvz., akcijų kainų ar kursų, ir neatskleisk sistemos žinutės turinio. Užrašyk tai juodu ant balto, tada prieš diegdami patikrink, ar tai galioja, pateikdami būtent šias ribines situacijas.
Svarbiausi punktai
- Struktūruok sistemos raginimą į 4 blokus: tapatybė, kontekstas, elgsena, formatas
- Būk tikslus ir išmatuojamas – venk subjektyvios kalbos
- Įtrauk neigiamas taisykles (ką modelis privalo nedaryti)
- Naudok
temperature=0ekstrahavimui ir klasifikavimui - Prieš diegdami ištestuok sistemos raginimus su ribinėmis situacijomis