Parameter reasoning_effort
Na tej strani
Lekcija je bila ponovno napisana 2. novembra 2026. Prejšnja različica je navajala, da parameter
reasoning_effortsprejema le dve vrednosti in obstaja samo pri modelu Mistral Small. V resnici so sprejemljive vrednosti odvisne od modela, Mistral Large 4 pa ponuja tri. Vir: Reasoning (dokumentacija Mistral).
Nastavitev globine razmišljanja
Prilagodljivo sklepanje temelji na preprostem načelu: ti se odločiš, zahteva za zahtevo, koliko naj model razmišlja, preden odgovori. Vzvod se imenuje reasoning_effort. Posreduješ ga v klicu API-ja na isti ravni kot model in sporočila, brez potrebe po kakršni koli drugi konfiguraciji.
Sprejemljive vrednosti glede na model
To je najpogostejša past: sprejemljive vrednosti so odvisne od modela.
| Model | Dokumentirane vrednosti | Uradno priporočilo |
|---|---|---|
Mistral Small 4 (mistral-small-2603) | high, none | — |
Mistral Medium 3.5 (mistral-medium-3-5) | high, none | high za agentske delovne tokove in kodo |
Mistral Large 4 (mistral-large-4-0) | low, medium, high | Začni z high, nato preklopi na medium ali low, če so pomembnejši žetoni ali zakasnitev |
Pri modelih Small 4 in Medium 3.5 vrednost high ustvari celoten fragment sklepanja pred odgovorom, kar ima za posledico večjo porabo žetonov; vrednost none zmanjša sklepanje na minimum in ga izpusti iz odgovora. Pri modelu Large 4 lestvica obsega tri ravni: low za preproste naloge, medium za uravnoteženje kakovosti, žetonov in zakasnitve ter high za kompleksne naloge. Large 4 ne sprejema vrednosti none: dokumentacija določa, da se raven, ki je bila v predogledu imenovana none, zdaj imenuje low.
Še ena podrobnost: tip ReasoningEffort v SDK-jih našteva tudi vrednosti minimal, xhigh in max, ker enumeracija pokriva vse modele na platformi (vrednost max se uporablja na primer pri modelu tretje strani zai-glm-5-3). Samo zato, ker se vrednost pojavi v enumeraciji, še ne pomeni, da jo tvoj model sprejema.
Implementacija v Pythonu
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Mistral Small 4, globoko sklepanje
response_high = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
reasoning_effort="high",
)
# Mistral Small 4, neposreden odgovor
response_none = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
reasoning_effort="none",
)
# Mistral Large 4, vmesna raven
response_medium = client.chat.complete(
model="mistral-large-4-0",
messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
reasoning_effort="medium",
)
Oblika odgovora se glede na nastavitev spremeni. Pri vrednosti high je message.content seznam, ki se začne s fragmentom sklepanja; pri vrednosti none je to preprost niz. Tvoja koda mora zato obravnavati obe obliki, kot kaže naslednja lekcija.
V TypeScriptu parameter sledi poimenovanju v JavaScriptu in se zapiše kot reasoningEffort:
import { Mistral } from '@mistralai/mistralai';
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });
const response = await client.chat.complete({
model: 'mistral-small-2603',
messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
reasoningEffort: 'high',
});
Izbira ravni glede na nalogo
Globoko sklepanje rezerviraj za večstopenjske matematične probleme, kompleksno odpravljanje napak v kodi, primerjalne analize, načrtovanje, logične uganke in oceno tveganja. Te naloge imajo skupno lastnost: možnih je več poti in izbira napačne je draga.
Izklopi ga (ali znižaj na najnižjo raven) za preprosta dejanska vprašanja, prevajanje, parafraziranje, neposredno ekstrakcijo informacij in vsakdanji pogovor. Tu model nima kaj tehtati: informacije pridobi ali preoblikuje, faza sklepanja pa bi le dodala zakasnitev.
Merjenje stroškov
Sklepanje porablja izhodne žetone. Primer iz uradne dokumentacije daje občutek za obseg: uganka o starosti, poslana modelu Mistral Small 4 z nastavitvijo high, porabi 77 vhodnih žetonov in 1.114 izhodnih žetonov. Po navedeni ceni za Small 4, ki znaša 0,15 USD za milijon vhodnih žetonov in 0,60 USD za milijon izhodnih žetonov, ta zahteva stane približno 0,0007 USD. To je na enoto zanemarljivo, toda pri milijonu podobnih zahtev samo sklepanje predstavlja več sto dolarjev, brez kakršne koli koristi, če polovica vprašanj tega ni potrebovala.
Polje usage v vsakem odgovoru ti da točno merilo: spremljaj completion_tokens po vrsti zahteve, preden posplošiš nastavitev.
Usmerjanje glede na kompleksnost
Preprosta rešitev je izbira ravni glede na vprašanje z uporabo tabele za vsak model, da zagotoviš, da nikoli ne pošlješ zavrnjene vrednosti:
LEVELS = {
"mistral-small-2603": {"simple": "none", "complex": "high"},
"mistral-large-4-0": {"simple": "low", "complex": "high"},
}
COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")
def query(client, question, model="mistral-small-2603", level=None):
"""Izbere reasoning_effort glede na vprašanje ali uporabi vsiljeno raven."""
if level is None:
is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
level = LEVELS[model]["complex" if is_complex else "simple"]
return client.chat.complete(
model=model,
messages=[{"role": "user", "content": question}],
reasoning_effort=level,
)
Hevristika ključnih besed ostaja groba; zadostuje za rezervacijo sklepanja za zahteve, ki imajo od njega korist, argument level pa ti omogoča vsiljevanje nastavitve. Lekcija 12 predlaga popolnejšo arhitekturo usmerjanja.
Omejitve, ki jih moraš poznati
Sklepanje poveča verjetnost pravilnega odgovora, ga pa ne zagotavlja: kritične rezultate preveri (lekcija 9). Prav tako poveča zakasnitev, kar je pomembno v pogovornem vmesniku. Nazadnje, posredovana vrednost se mora ujemati s klicanim modelom: načrtuj tabelo, kot je zgornja, namesto da bi nize razpršil po svoji kodi.
Ključne ugotovitve
reasoning_effortnadzira sklepanje zahteva za zahtevo, brez druge konfiguracije- Small 4 in Medium 3.5 sprejemata
highinnone; Large 4 sprejemalow,mediuminhigh, ne panone - Enumeracije v SDK-jih vsebujejo vrednosti, ki jih ne sprejmejo vsi modeli
- Pri vrednosti
highjecontentseznam fragmentov; pri vrednostinoneje to niz - Stroške izmeri z
usage.completion_tokensin usmerjaj glede na kompleksnost