Usmerjanje modela za sklepanje
Na tej strani
Lekcija je bila na novo napisana 2. novembra 2026. Ta lekcija je prej obravnavala sistemski poziv Magistral, ki je bil umaknjen 31. julija 2026. Trenutna dokumentacija o sklepanju (Reasoning) ne zahteva več namenskega sistemskega poziva: zadostuje parameter
reasoning_effort. Naslednji razdelki razlikujejo med tem, kar je navajala dokumentacija za Magistral, kaj se je spremenilo in katera pravila za ustvarjanje pozivov ostajajo uporabna.
Kaj se je spremenilo od Magistrala
Magistral je najbolje deloval s privzetim sistemskim pozivom, ki ga je dokumentacija reproducirala (zdaj arhivirano na strani Native reasoning (deprecated)). V bistvu je ukazal modelu, da najprej pripravi svoje sklepanje, kot notranji monolog, ki mu sledi samostojen odgovor; naj piše v Markdownu, uporablja LaTeX za enačbe in odgovarja v jeziku poizvedbe. Vključeval je celo predlogo za sklepanje v obliki fragmenta thinking, postavljenega v sistemsko sporočilo. Parameter prompt_mode vam je omogočal, da ste vsilili ta privzeti poziv ("reasoning") ali ga onemogočili (None).
Pri trenutnih modelih nič od tega ni potrebno: stran o sklepanju ne omenja niti namenskega sistemskega poziva niti prompt_mode. Sklepanje omogočite z reasoning_effort, vaš sistemski poziv pa se vrne v standardno vlogo, namenjeno opisu vloge, metode in pričakovane oblike. Če migrirate z Magistrala, odstranite predlogo za sklepanje iz svojih sistemskih sporočil in parameter prompt_mode iz svojih klicev, nato pa primerjajte rezultate (Lekcija 8).
Ločevanje sklepanja od odgovora
Model ima zdaj dva ločena prostora: sklepanje, ki ga uporabnik pogosto ne vidi, in končni odgovor. Dober poziv to upošteva. Opisuje pričakovano metodo, kaj bi preveril strokovnjak s področja, in določa obliko odgovora: odgovor mora biti razumljiv brez sklepanja, saj bo sklepanje na splošno skrito.
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
system_prompt = """You are a senior Python debugging expert.
METHOD
- Read all the code before formulating a diagnosis.
- Formulate at least two hypotheses before concluding.
- Verify that your fix does not create a new problem.
FINAL RESPONSE
1. The precise diagnosis
2. The root cause
3. The corrected code
4. A test that proves the fix"""
response = client.chat.complete(
model="mistral-small-2603",
messages=[
{"role": "system", "content": system_prompt},
{"role": "user", "content": "My code crashes with a RecursionError: def fibonacci(n): return fibonacci(n-1) + fibonacci(n-2)"},
],
reasoning_effort="high",
)
Pri tej funkciji fibonacci, ki nima osnovnega primera, zahteva po dveh hipotezah izključi refleksno diagnozo „povečaj omejitev rekurzije” in pripelje do dejanskega vzroka.
Prilagajanje glede na področje
Ista ogrodja, najprej metoda nato oblika odgovora, se prilagajata specifičnemu področju. V matematiki se metoda osredotoča na hipoteze in vrsto dokaza:
math_prompt = """You are a rigorous mathematician.
METHOD
- State the hypotheses before every proof.
- Explicitly choose between induction, contradiction, or direct calculation.
- Verify the result on a specific case.
FINAL RESPONSE
Formal proof: hypotheses, justified steps, conclusion."""
V strateški analizi se osredotoča na deležnike in kvantifikacijo, pričakovani odgovor pa postane priporočilo, ki ga spremlja načrt:
strategy_prompt = """You are a strategy consultant.
METHOD
- Evaluate each option based on feasibility, impact, and risk.
- Quantify whenever possible, even if only as an order of magnitude.
- Seek the strongest objection to your own recommendation.
FINAL RESPONSE
A clear recommendation, the pros and cons of each option, an action plan with dated steps."""
Tri pogoste napake
Poziv je preveč nejasen. „Ti si uporaben pomočnik” ne pove ničesar o metodi: model sklepa v skladu s svojimi navadami in ne z vašimi. Opišite, kaj bi preveril strokovnjak.
Poziv je protisloven. „Bodi zelo jedrnat. Podrobno opiši vsak korak.” postavlja model pred nemogočo zahtevo. Protislovje rešite z razporeditvijo vlog: podrobnosti spadajo v sklepanje, jedrnatost pa v končni odgovor.
good_prompt = """Be concise in your final response: conclusions and essential figures only.
Explore details in your reasoning, not in the response."""
Zahteva po procesu v odgovoru. Zahteva, da model „korak za korakom sklepa” v vidnem odgovoru, prisili model, da drugič zapiše tisto, kar je že storil v svojem sklepanju: odgovor se podaljša, vi pa dvakrat plačate za iste korake v izhodnih žetonih. Korake v odgovoru zahtevajte le, če jih mora uporabnik prebrati, na primer pri izobraževalnem tutorju.
Ključne ugotovitve
- Privzeti sistemski poziv in
prompt_modesta bila specifična za Magistral: nista več potrebna - Sklepanje omogočite z
reasoning_effortin sistemski poziv ohranite v njegovi klasični vlogi - Opišite pričakovano metodo in obliko odgovora, ki je berljiv brez sklepanja
- Razporedite vloge: podrobnosti v sklepanju, jedrnatost v odgovoru
- Ne prisilite modela, da v odgovoru ponovno zapiše proces, če ga nihče ne potrebuje brati