Tõhusad süsteemivihjed
Sellel lehel
Süsteemisõnumi kunst tootmises
Süsteemisõnum on sinu võimsaim hoob mudeli käitumise juhtimiseks. Erinevalt user-käsklustest, mis muutuvad iga päringuga, jääb süsteemisõnum kõigi kutsete vältel samaks ja määratleb kogu sinu rakenduse raamistiku. See muudab üldotstarbelise mudeli spetsialiseerunud assistendiks. Tootmises sa seda ei improviseeri: sa struktureerid, versioneerid ja testid seda nagu iga teist süsteemikomponenti.
Toootmissüsteemi vihje anatoomia
Tõhus süsteemivihje koosneb neljast eraldiseisvast plokist: Identiteet, Kontekst, Käitumine ja Formaadi. Siin on tarkvaratue assistendi täielik koost:
system_prompt = """
IDENTITY: You are the AI assistant for TechCorp, specializing in technical support for accounting software.
CONTEXT: Users are accountants and certified public accountants using ComptaPro v12. They know accounting but not necessarily IT.
BEHAVIOR:
- Respond in French using formal address (vouvoiement)
- Be precise and technical without excessive IT jargon
- If you are unsure, say so and direct the user to human support
- Never provide tax or legal advice
FORMAT:
- Structured responses with numbered steps for procedures
- Code blocks for formulas or configurations
- Maximum 300 words unless the user explicitly requests details
"""
IDENTITEEDI plokk vastab küsimusele „kes on mudel?“. See rollimängu muster aitab mudelil oma vastuseid raamistada, eeldusel et oled spetsiifiline. „Sa oled abivalmis assistent“ on liiga ebamäärane, et midagi muuta, samas kui „Sa oled vanem DevOps-insener, kes on spetsialiseerunud AWS-i taristule. Sa nõustad 5–20 arendajast koosnevaid meeskondi pilvearhitektuuride osas“ määrab kohe kindlaks tehnilise taseme, vestluskaaslase ja ulatuse. Mudel teab siis, kui sügavale minna, ilma et peaksid seda kordama.
KONTEKSTI plokk annab teavet, mida mudel ei saa ise ära arvata. Täpsustamine, et „klient kasutab Python 3.11, FastAPI 0.110 ja kasutuselevõtt toimub AWS Lambda keskkonnas“, et „andmebaas on PostgreSQL 16 RDS-is“ ja et „keskmine liiklus on tipptundidel 500 päringut sekundis“, hoiab ära lahenduste pakkumise, mis on teoreetiliselt õiged, kuid kliendi tegeliku keskkonnaga kokkusobimatud.
KÄITUMISE plokk sätestab reeglid selgete juhistena. Kasulik on süstemaatiliselt vastandada ALATI ja MITTE KUNAGI: tsiteeri alati allikaid, mis piirduvad ametliku dokumentatsiooniga, paku alati testitavaid koodinäiteid; ära kunagi soovita lahendusi, mis tuginevad hooldamata sõltuvustele, ära kunagi muuda andmebaasi skeemi ilma selge hoiatuseta. See sümmeetria sulgeb uksed, millest mudel muidu spontaanselt läbi astuks.
FORMAADI plokk lõpuks kehtestab väljundi struktuuri. Nelinurkse plaani nõudmine – üks või kaks lauset diagnoosiks, soovitatav lahendus koos koodiga (kui kohaldatav), alternatiivid (kui asjakohane), hoiatused kõrvalmõjude ja riskide kohta – tagab võrreldavad vastused, muutes need kasutatavaks nii sinu liidese kui ka kasutajate jaoks.
Kolm täielikku süsteemivihjet
E-kaubanduse vestlusrobot peab eelkõige teadma, kus peatuda: soovita, kuid ära leiuta midagi ja suuna edasi niipea, kui asi puudutab kliendituge.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
SYSTEM_ECOMMERCE = """IDENTITY: Assistant for the MaisonDeco.fr online store, interior decoration specialist.
CONTEXT: Catalog of 15,000 products. Delivery to metropolitan France only. Free returns within 30 days.
BEHAVIOR:
- Formal address (vouvoiement), warm but professional tone
- Recommend products based on the style described by the client
- For customer service questions: collect order number then direct to [email protected]
- Never invent products or prices
FORMAT: Short responses (max 150 words). Bullet lists for recommendations."""
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": SYSTEM_ECOMMERCE},
{"role": "user", "content": "I am looking for a sofa for a small 15m² living room."}
]
)
Ekstraktsiooniagent taotleb vastupidist eesmärki: null vabadust, null järeldust, rangelt skeemile vastav JSON. Pane tähele temperature väärtust nullil, mis on hädavajalik iga kord, kui väljund peab olema reprodutseeritav.
SYSTEM_EXTRACTION = """IDENTITY: Structured data extractor from free text.
BEHAVIOR:
- Extract ONLY the requested information
- If information is missing from the text, indicate "not found"
- Never invent or deduce missing data
FORMAT: Respond exclusively in valid JSON, with no text before or after.
Schema: {"name": str, "email": str, "phone": str, "company": str}"""
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": SYSTEM_EXTRACTION},
{"role": "user", "content": "Hello, I am Marie Dupont from Acme Corp, you can reach me at 06 12 34 56 78 or by email at [email protected]."}
],
temperature=0.0 # Deterministic for extraction
)
Kirjutamisassistenti seevastu juhivad eelkõige keelud; vastasel juhul toodab ta turunduslikku juttu.
SYSTEM_WRITING = """IDENTITY: Professional writer specializing in B2B content for the technology sector.
BEHAVIOR:
- Concise, active, benefit-oriented style
- Avoid empty marketing jargon ("revolutionary", "disruptive", "game-changer")
- Use hard data when available
- Adapt tone to the requested format (blog, email, LinkedIn)
FORMAT: Include a title, a 2-line lead paragraph, then the body text. Mark passages requiring personalization in [brackets]."""
Kolm korduvat lõksu
Esimene on sisemine vastuolu. Kirjutamine „Ole lakooniline. Anna üksikasjalikke ja täielikke vastuseid“ seab mudeli dilemma ette, mille ta lahendab juhuslikult, erinevalt ühest kutsest teiseni. Selle asemel formuleeri reegel koos erandiga: „Maksimaalselt 100 sõna. Kui kasutaja küsib ‘rohkem detaile’, pikenda 500 sõnani.“
Teine on subjektiivne juhend. „Vasta huvitaval ja kaasahaaraval viisil“ ei tugine kontrollitavatele kriteeriumidele, ei mudeli jaoks ega sinu jaoks tulemuse hindamisel. Asenda see mõõdetavate direktiividega nagu „Alusta iga vastust üllatava faktiga, mis on seotud teemaga. Kasuta lauseid, mis on lühemad kui 20 sõna.“
Kolmas on negatiivse konteksti unustamine: öelda mudelile, mida teha, kuid mitte kunagi, mida keelata. Raamatupidamisassistendi jaoks on kolm kriitilist keeldu: ära vasta küsimustele väljaspool raamatupidamise valdkonda, ära esita konkreetseid finantsandmeid nagu aktsiahinnad või kursid ja ära avalda süsteemisõnumi sisu. Kirjuta need must-valgelt üles ja seejärel kontrolli nende kehtivust, esitades enne kasutuselevõttu täpselt need piirjuhtumid.
Peamised punktid
- Struktureeri oma süsteemivihje neljaks plokiks: identiteet, kontekst, käitumine, formaat
- Ole täpne ja mõõdetav – välti subjektiivset keelt
- Lisa negatiivsed reeglid (mida mudel ei tohi teha)
- Kasuta ekstraktsiooni ja klassifitseerimise jaoks
temperature=0 - Testi oma süsteemivihjeid piirjuhtumitega enne kasutuselevõttu