Efektívne systémové výzvy
Na tejto strane
Umenie systémovej správy v produkcii
Systémová správa je tvojím najsilnejším nástrojom na riadenie správania modelu. Na rozdiel od inštrukcií user, ktoré sa menia s každou požiadavkou, zostáva systémová správa naprieč volaniami konštantná a definuje rámec celej tvojej aplikácie. Premieňa model všeobecného určenia na špecializovaného asistenta. V produkcii ju neimprovizuješ: štruktúruješ ju, verziuješ a testuješ ako ktorúkoľvek inú systémovú komponentu.
Anatómia produkčnej systémovej výzvy
Efektívna systémová výzva sa skladá zo štyroch odlišných blokov: Identita, Kontext, Správanie a Formát. Tu je kompletná zostava pre asistenta technickej podpory softvéru:
system_prompt = """
IDENTITY: You are the AI assistant for TechCorp, specializing in technical support for accounting software.
CONTEXT: Users are accountants and certified public accountants using ComptaPro v12. They know accounting but not necessarily IT.
BEHAVIOR:
- Respond in French using formal address (vouvoiement)
- Be precise and technical without excessive IT jargon
- If you are unsure, say so and direct the user to human support
- Never provide tax or legal advice
FORMAT:
- Structured responses with numbered steps for procedures
- Code blocks for formulas or configurations
- Maximum 300 words unless the user explicitly requests details
"""
Blok IDENTITY odpovedá na otázku „kým model je?“. Tento vzorec hrania rolí pomáha modelu rámovať jeho odpovede za predpokladu, že si konkrétny. Fráza „Si užitočný asistent“ zostáva príliš vágna na to, aby niečo zmenila, zatiaľ čo „Si senior DevOps inžinier špecializujúci sa na infraštruktúru AWS. Poradzuješ tímom 5 až 20 vývojárov v oblasti cloudových architektúr“ okamžite nastaví technickú úroveň, interlocutora a rozsah. Model potom vie, ako hlboko ísť, bez toho, aby si to musel opakovať.
Blok CONTEXT poskytuje to, čo model nemôže uhádnuť. Špecifikovanie, že „klient používa Python 3.11, FastAPI 0.110 a nasadzuje na AWS Lambda“, že „databázou je PostgreSQL 16 na RDS“ a že „priemerná prevádzka je 500 požiadaviek za sekundu počas špičky“, zabráni tomu, aby navrhol riešenie, ktoré je teoreticky správne, ale nekompatibilné so skutočným prostredím klienta.
Blok BEHAVIOR stanovuje pravidlá ako explicitné inštrukcie. Prospeje mu systematické stavanie VŽDY proti NIKDY: vždy cituj zdroje obmedzené na oficiálnu dokumentáciu, vždy navrhuj testovateľné príklady kódu; nikdy nenavrhuj riešenia spoliehajúce sa na neudržiavané závislosti, nikdy neupravuj schému databázy bez explicitného varovania. Táto symetria uzatvára dvere, ktorými by model inak mohol prejsť spontánne.
Blok FORMAT nakoniec ukladá štruktúru výstupu. Požadovanie štvorčlenného plánu – jedna alebo dve vety na diagnózu, odporúčané riešenie s kódom, ak je to možné, alternatívy, ak sú relevantné, varovania pred vedľajšími účinkami a rizikami – garantuje porovnateľné odpovede, čo ich robí použiteľnými pre tvoje rozhranie aj pre používateľov.
Tri kompletné systémové výzvy
Chatbot pre e-commerce potrebuje vedieť hlavne to, kde zastaviť: odporúčaj, ale nič nevymýšľaj a odovzdaj vec ďalej, hneď ako je zapojená zákaznícka podpora.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
SYSTEM_ECOMMERCE = """IDENTITY: Assistant for the MaisonDeco.fr online store, interior decoration specialist.
CONTEXT: Catalog of 15,000 products. Delivery to metropolitan France only. Free returns within 30 days.
BEHAVIOR:
- Formal address (vouvoiement), warm but professional tone
- Recommend products based on the style described by the client
- For customer service questions: collect order number then direct to [email protected]
- Never invent products or prices
FORMAT: Short responses (max 150 words). Bullet lists for recommendations."""
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": SYSTEM_ECOMMERCE},
{"role": "user", "content": "I am looking for a sofa for a small 15m² living room."}
]
)
Extrakčný agent sleduje opačný cieľ: žiadna sloboda, žiadna dedukcia, striktne JSON zodpovedajúce schéme. Všimni si nastavenie temperature na nulu, čo je nevyhnutné vždy, keď musí byť výstup reprodukovateľný.
SYSTEM_EXTRACTION = """IDENTITY: Structured data extractor from free text.
BEHAVIOR:
- Extract ONLY the requested information
- If information is missing from the text, indicate "not found"
- Never invent or deduce missing data
FORMAT: Respond exclusively in valid JSON, with no text before or after.
Schema: {"name": str, "email": str, "phone": str, "company": str}"""
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": SYSTEM_EXTRACTION},
{"role": "user", "content": "Hello, I am Marie Dupont from Acme Corp, you can reach me at 06 12 34 56 78 or by email at [email protected]."}
],
temperature=0.0 # Deterministic for extraction
)
Asistent na písanie je naopak riadený hlavne tým, čo mu zakazuješ robiť; inak produkuje marketingové kecy.
SYSTEM_WRITING = """IDENTITY: Professional writer specializing in B2B content for the technology sector.
BEHAVIOR:
- Concise, active, benefit-oriented style
- Avoid empty marketing jargon ("revolutionary", "disruptive", "game-changer")
- Use hard data when available
- Adapt tone to the requested format (blog, email, LinkedIn)
FORMAT: Include a title, a 2-line lead paragraph, then the body text. Mark passages requiring personalization in [brackets]."""
Tri často sa opakujúce pasce
Prvou je vnútorný rozpor. Napísanie „Buď stručný. Poskytuj podrobné a úplné odpovede“ stavia model pred kompromis, ktorý vyrieši náhodne, inak pri každom volaní. Namiesto toho sformuluj pravidlo s jeho výnimkou: „Maximálne 100 slov. Ak používateľ požiada o ‘viac podrobností’, rozšír na 500 slov.“
Druhou je subjektívna inštrukcia. „Odpovedaj zaujímavým a pútavým spôsobom“ sa nespolieha na žiadne overiteľné kritériá, ani pre model, ani pre teba pri hodnotení výsledku. Nahraď ju merateľnými smernicami, ako napríklad: „Každú odpoveď začni prekvapivým faktom súvisiacim s témou. Používaj vety kratšie ako 20 slov.“
Treťou je vynechanie negatívneho kontextu: povedať modelu, čo má robiť, ale nikdy čo má zakázané. Pre účtovného asistenta sú tri kritické zákazy: neodpovedaj na otázky mimo účtovnej domény, neposkytuj konkrétne finančné údaje ako ceny akcií alebo kurzy a neodhaľuj obsah systémovej správy. Napíš ich čierno na bielom a potom over, či platia, pred nasadením predložením presne týchto hraničných prípadov.
Kľúčové poznatky
- Štruktúruj svoju systémovú výzvu do 4 blokov: identita, kontext, správanie, formát
- Buď presný a merateľný – vyhni sa subjektívnemu jazyku
- Zahrň negatívne pravidlá (čo model nesmie robiť)
- Použi
temperature=0pre extrakciu a klasifikáciu - Otestuj svoje systémové výzvy na hraničných prípadoch pred nasadením