Parametrs `reasoning_effort`
Šajā lapā
Nodarbība pārrakstīta 2026. gada 2. novembrī. Iepriekšējā versijā tika apgalvots, ka
reasoning_effortpieņem tikai divas vērtības un pastāv tikai Mistral Small modelī. Patiesībā pieņemtās vērtības ir atkarīgas no modeļa, un Mistral Large 4 piedāvā trīs. Avots: Reasoning (Mistral dokumentācija).
Domāšanas dziļuma iestatīšana
Pielāgojama spriešana balstās uz vienkāršu principu: tu katrā pieprasījumā pats izlem, cik ilgi modelim jādomā pirms atbildes sniegšanas. Šo sviru sauc par reasoning_effort. Tu to norādi API izsaukumā tajā pašā līmenī, kur modeli un ziņojumus, bez nepieciešamības pēc citas konfigurācijas.
Pieņemtās vērtības atkarībā no modeļa
Šī ir visbiežāk sastopamā kļūda: pieņemtās vērtības ir atkarīgas no modeļa.
| Modelis | Dokumentētās vērtības | Oficiālais ieteikums |
|---|---|---|
Mistral Small 4 (mistral-small-2603) | high, none | — |
Mistral Medium 3.5 (mistral-medium-3-5) | high, none | high aģentu darbplūsmām un kodam |
Mistral Large 4 (mistral-large-4-0) | low, medium, high | Sāc ar high, pēc tam pārej uz medium vai low, ja svarīgāki ir tokeni vai latentums |
Small 4 un Medium 3.5 gadījumā high ģenerē pilnu spriešanas fragmentu pirms atbildes, kas palielina tokenu patēriņu; none samazina spriešanu līdz minimumam un izlaiž to no atbildes. Large 4 mērogā ir trīs līmeņi: low vienkāršiem uzdevumiem, medium līdzsvaram starp kvalitāti, tokeniem un latentumu, un high sarežģītiem uzdevumiem. Large 4 nepieņem none: dokumentācija norāda, ka līmenis, kas tā pirmversijā tika dēvēts par none, tagad tiek saukts par low.
Vēl viena nianse: ReasoningEffort tips SDK arī uzskaita minimal, xhigh un max, jo šis uzskaitījums aptver visus platformas modeļus (max tiek izmantots, piemēram, trešās puses modelim zai-glm-5-3). Tas, ka vērtība parādās uzskaitījumā, nenozīmē, ka tavs modelis to pieņem.
Implementācija Python valodā
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Mistral Small 4, dziļa spriešana
response_high = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
reasoning_effort="high",
)
# Mistral Small 4, tieša atbilde
response_none = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
reasoning_effort="none",
)
# Mistral Large 4, vidējs līmenis
response_medium = client.chat.complete(
model="mistral-large-4-0",
messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
reasoning_effort="medium",
)
Atbildes struktūra mainās atkarībā no iestatījuma. Ar high message.content ir saraksts, kas sākas ar spriešanas fragmentu; ar none tā ir vienkārša virkne. Tāpēc tavam kodam ir jāspēj apstrādāt abas formas, kā parādīts nākamajā nodarbībā.
TypeScript valodā parametrs seko JavaScript nosaukumu konvencijai un tiek rakstīts kā reasoningEffort:
import { Mistral } from '@mistralai/mistralai';
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });
const response = await client.chat.complete({
model: 'mistral-small-2603',
messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
reasoningEffort: 'high',
});
Līmeņa izvēle atkarībā no uzdevuma
Rezervē dziļu spriešanu daudzsoloņiem matemātikas uzdevumiem, sarežģītai koda atkļūdošanai, salīdzinošai analīzei, plānošanai, loģikas mīklām un risku novērtēšanai. Viņiem visiem ir kopīga iezīme: iespējami vairāki ceļi, un nepareiza izvēle ir dārga.
Izslēdz to (vai samazini līdz zemākajam līmenim) vienkāršiem faktoloģiskiem jautājumiem, tulkošanai, pārrakstīšanai, tiešai informācijas ieguvei un ikdienas sarunām. Šeit modelim nav ko izvērtēt: tas tikai atrod vai pārveido informāciju, un spriešanas fāze tikai palielinātu latentumu.
Izmaksu mērīšana
Spriešana izmaksā izvades tokenus. Oficiālās dokumentācijas piemērs sniedz priekšstatu par mērogu: vecuma mīkla, nosūtīta Mistral Small 4 ar high, patērē 77 ievades tokenus un 1114 izvades tokenus. Pie Small 4 norādītās cenas 0,15 USD par miljonu ievades tokeniem un 0,60 USD par miljonu izvades tokeniem, pieprasījums izmaksā aptuveni 0,0007 USD. Vienības ziņā tas ir niecīgi, taču miljona līdzīgu pieprasījumu gadījumā viena pati spriešana veido vairākus simtus dolāru, negūstot nekādu labumu, ja pusei jautājumu tā nebija vajadzīga.
Lauks usage katrā atbildē sniedz precīzu mērījumu: izseko completion_tokens pēc pieprasījuma veida, pirms vispārināt kādu iestatījumu.
Maršrutēšana pēc sarežģītības
Vienkāršs risinājums ir izvēlēties līmeni atkarībā no jautājuma, izmantojot tabulu katram modelim, lai nodrošinātu, ka nekad nenosūtīsi noraidītu vērtību:
LEVELS = {
"mistral-small-2603": {"simple": "none", "complex": "high"},
"mistral-large-4-0": {"simple": "low", "complex": "high"},
}
COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")
def query(client, question, model="mistral-small-2603", level=None):
"""Izvēlas reasoning_effort, pamatojoties uz jautājumu, vai piemēro piespiedu līmeni."""
if level is None:
is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
level = LEVELS[model]["complex" if is_complex else "simple"]
return client.chat.complete(
model=model,
messages=[{"role": "user", "content": question}],
reasoning_effort=level,
)
Atslēgvārdu heuristika joprojām ir aptuvena; tā pietiek, lai rezervētu spriešanu pieprasījumiem, kuriem tā nāk par labu, un arguments level ļauj piespiest konkrētu iestatījumu. 12. nodarbībā tiek piedāvāta pilnīgāka maršrutēšanas arhitektūra.
Ierobežojumi, kas jāzina
Spriešana palielina pareizas atbildes varbūtību, taču negarantē to: pārbaudi kritiskus rezultātus (9. nodarbība). Tā arī palielina latentumu, kas ir svarīgi sarunu saskarnēs. Visbeidzot, nodotajai vērtībai ir jāatbilst izsauktajam modelim: plāno izmantot tādu tabulu kā iepriekš, nevis izkaisīt virknes visā kodā.
Galvenās atziņas
reasoning_effortkontrolē spriešanu katrā pieprasījumā atsevišķi, bez citas konfigurācijas- Small 4 un Medium 3.5 pieņem
highunnone; Large 4 pieņemlow,mediumunhigh, bet nenone - SDK uzskaitījumi satur vērtības, kuras nepieņem visi modeļi
- Ar
highcontentir fragmentu saraksts; arnonetā ir virkne - Mēri izmaksas ar
usage.completion_tokensun veic maršrutēšanu pēc sarežģītības