Parametras reasoning_effort
Šiame puslapyje
Pamoka perrašyta 2026 m. lapkričio 2 d. Ankstesnėje versijoje teigta, kad
reasoning_effortpriima tik dvi reikšmes ir egzistuoja tik „Mistral Small“ modelyje. Tiesą sakant, priimtinos reikšmės priklauso nuo modelio, o „Mistral Large 4“ siūlo tris. Šaltinis: Reasoning (Mistral dokumentacija).
Minties gylio nustatymas
Reguliuojamas samprotavimas remiasi paprastu principu: tu pats kiekvienam užklausos prašymui nusprendi, kiek modelis turi galvoti prieš pateikdamas atsakymą. Šis svertas vadinamas reasoning_effort. Jį perduodi API užklausoje tame pačiame lygmenyje kaip ir modelį bei žinutes; jokių kitų konfigūracijų nereikia.
Priimtinos reikšmės pagal modelius
Tai dažniausia klaida: priimtinos reikšmės priklauso nuo modelio.
| Modelis | Dokumentuotos reikšmės | Oficiali rekomendacija |
|---|---|---|
Mistral Small 4 (mistral-small-2603) | high, none | — |
Mistral Medium 3.5 (mistral-medium-3-5) | high, none | high agentiniams darbo eigoms ir kodui |
Mistral Large 4 (mistral-large-4-0) | low, medium, high | Pradėk nuo high, tada pereik prie medium arba low, jei svarbesni žetonai arba delsos laikas |
„Small 4“ ir „Medium 3.5“ modeliuose high sukuria pilną samprotavimo fragmentą prieš atsakymą, tačiau tai kainuoja daugiau žetonų; none sumažina samprotavimą iki minimumo ir pašalina jį iš atsakymo. „Large 4“ skalė turi tris lygius: low paprastoms užduotims, medium balansui tarp kokybės, žetonų ir delsos, bei high sudėtingoms užduotims. „Large 4“ nepriima none: dokumentacijoje nurodyta, kad lygis, anksčiau vadintas none jo peržiūros versijoje, dabar vadinamas low.
Dar viena subtilybė: ReasoningEffort tipas SDK taip pat išvardija minimal, xhigh ir max, nes ši enumeracija apima visus platformos modelius (max, pavyzdžiui, naudojamas trečiųjų šalių modelio zai-glm-5-3). Tai, kad reikšmė atsiranda enumeracijoje, nereiškia, kad tavo modelis ją priima.
Įgyvendinimas naudojant „Python“
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Mistral Small 4, gilus samprotavimas
response_high = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
reasoning_effort="high",
)
# Mistral Small 4, tiesioginis atsakymas
response_none = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
reasoning_effort="none",
)
# Mistral Large 4, tarpinis lygis
response_medium = client.chat.complete(
model="mistral-large-4-0",
messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
reasoning_effort="medium",
)
Atsakymo struktūra keičiasi priklausomai nuo nustatymo. Naudojant high, message.content yra sąrašas, prasidedantis samprotavimo fragmentu; naudojant none, tai paprasta eilutė. Todėl tavo kodas turi apdoroti abi formas, kaip parodys kita pamoka.
„TypeScript“ kalboje parametras laikosi „JavaScript“ rašybos konvencijų ir rašomas reasoningEffort:
import { Mistral } from '@mistralai/mistralai';
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });
const response = await client.chat.complete({
model: 'mistral-small-2603',
messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
reasoningEffort: 'high',
});
Lygio pasirinkimas pagal užduotį
Gilų samprotavimą palik daugiapakopėms matematikos problemoms, sudėtingam kodo derinimui, lyginamajai analizei, planavimui, loginiams galvosūkiams ir rizikos vertinimui. Šias užduotis sieja bendras bruožas: galimi keli keliai, o neteisingo pasirinkimo kaina yra didelė.
Išjunk jį (arba sumažink iki žemiausio lygio) paprastiems faktiniams klausimams, vertimui, perfrazavimui, tiesioginei informacijos ekstrakcijai ir kasdieniam bendravimui. Čia modeliui nėra ko arbitruoti: jis tiesiog gauna arba transformuoja informaciją, o samprotavimo fazė tik pridėtų delsos.
Sąnaudų matavimas
Samprotavimas kainuoja išvesties žetonus. Oficialios dokumentacijos pavyzdys suteikia mastelio pojūtį: amžiaus mįslė, siųsta „Mistral Small 4“ su high, sunaudoja 77 įvesties žetonus ir 1 114 išvesties žetonų. Esant „Small 4“ nurodytam tarifui – 0,15 USD už milijoną įvesties žetonų ir 0,60 USD už milijoną išvesties žetonų – užklausa kainuoja apie 0,0007 USD. Vienetiniu lygmeniu tai nereikšminga, tačiau per milijoną panašių užklausų vien samprotavimas gali kainuoti šimtus dolerių, be jokios naudos, jei pusei klausimų jo nereikėjo.
Kiekviename atsakyme esantis laukas usage suteikia tikslų matą: stebėk completion_tokens pagal užklausos tipą prieš apibendrinant nustatymą.
Maršrutizavimas pagal sudėtingumą
Paprastas sprendimas – pasirinkti lygį pagal klausimą, naudojant lentelę kiekvienam modeliui, kad niekada nesiųstum atmestos reikšmės:
LEVELS = {
"mistral-small-2603": {"simple": "none", "complex": "high"},
"mistral-large-4-0": {"simple": "low", "complex": "high"},
}
COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")
def query(client, question, model="mistral-small-2603", level=None):
"""Pasirenka reasoning_effort pagal klausimą arba pritaiko priverstinį lygį."""
if level is None:
is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
level = LEVELS[model]["complex" if is_complex else "simple"]
return client.chat.complete(
model=model,
messages=[{"role": "user", "content": question}],
reasoning_effort=level,
)
Raktinių žodžių heuristika lieka grubus metodas; ji pakankama, kad samprotavimą paliktum tik tiems prašymams, kuriems jis naudingas, o argumentas level leidžia priverstinai nustatyti parametrą. 12 pamokoje siūloma išsamesnė maršrutizavimo architektūra.
Žinotinos ribos
Samprotavimas padidina teisingo atsakymo tikimybę, bet jo negarantuoja: kritinius rezultatus būtina patikrinti (9 pamoka). Jis taip pat padidina delsos laiką, kas svarbu pokalbio sąsajoje. Galiausiai, perduota reikšmė turi atitikti kviečiamą modelį: planuok naudoti aukščiau pateiktą lentelę, užuot barstęs eilučių literałus visame kode.
Svarbiausi punktai
reasoning_effortvaldo samprotavimą kiekvienam prašymui atskirai, be jokių kitų konfigūracijų- „Small 4“ ir „Medium 3.5“ priima
highirnone; „Large 4“ priimalow,mediumirhigh, bet nenone - SDK enumeracijose yra reikšmių, kurių ne visi modeliai priima
- Naudojant
high,contentyra fragmentų sąrašas; naudojantnone– eilutė - Matuok sąnaudas naudodamas
usage.completion_tokensir maršrutizuok pagal sudėtingumą