Parametar reasoning_effort
Na ovoj stranici
Lekcija je ponovno napisana 2. studenoga 2026. Prethodna verzija navodila je da
reasoning_effortprihvaća samo dvije vrijednosti i postoji samo na modelu Mistral Small. U stvarnosti, prihvaćene vrijednosti ovise o modelu, a Mistral Large 4 nudi tri. Izvor: Reasoning (Mistral dokumentacija).
Postavljanje dubine razmišljanja
Prilagodljivo rezoniranje počiva na jednostavnom principu: ti odlučuješ, zahtjev po zahtjev, koliko bi model trebao razmišljati prije odgovora. Poluga se zove reasoning_effort. Proslijeđuješ je u API pozivu na istoj razini kao model i poruke, bez potrebe za ikakvom drugom konfiguracijom.
Prihvaćene vrijednosti, model po model
Ovo je najčešća zamka: prihvaćene vrijednosti ovise o modelu.
| Model | Dokumentirane vrijednosti | Službena preporuka |
|---|---|---|
Mistral Small 4 (mistral-small-2603) | high, none | — |
Mistral Medium 3.5 (mistral-medium-3-5) | high, none | high za agentske tijekove rada i kod |
Mistral Large 4 (mistral-large-4-0) | low, medium, high | Kreni s high, zatim prijeđi na medium ili low ako su tokeni ili latencija važniji |
Na modelima Small 4 i Medium 3.5, high proizvodi cijeli fragment rezoniranja prije odgovora, uz cijenu veće potrošnje tokena; none smanjuje rezoniranje na minimum i izostavlja ga iz odgovora. Na modelu Large 4, ljestvica ima tri razine: low za jednostavne zadatke, medium za balansiranje kvalitete, tokena i latencije, te high za složene zadatke. Large 4 ne prihvaća none: dokumentacija navodi da se razina koja se u pregledu zvala none sada zove low.
Još jedna nijansa: tip ReasoningEffort u SDK-ovima također nabraja minimal, xhigh i max jer enumeracija pokriva svaki model na platformi (max se koristi, primjerice, za model treće strane zai-glm-5-3). Samo zato što se vrijednost pojavljuje u enumeraciji ne znači da je tvoj model prihvaća.
Implementacija u Pythonu
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Mistral Small 4, duboko rezoniranje
response_high = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
reasoning_effort="high",
)
# Mistral Small 4, izravan odgovor
response_none = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
reasoning_effort="none",
)
# Mistral Large 4, srednja razina
response_medium = client.chat.complete(
model="mistral-large-4-0",
messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
reasoning_effort="medium",
)
Oblik odgovora mijenja se s postavkom. Uz high, message.content je popis koji započinje fragmentom rezoniranja; uz none, to je običan niz znakova. Tvoj kod stoga mora rukovati oba oblika, kako pokazuje sljedeća lekcija.
U TypeScriptu, parametar slijedi JavaScript konvencije imenovanja i piše se kao reasoningEffort:
import { Mistral } from '@mistralai/mistralai';
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });
const response = await client.chat.complete({
model: 'mistral-small-2603',
messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
reasoningEffort: 'high',
});
Odabir razine prema zadatku
Rezerviraj duboko rezoniranje za višekoračne matematičke probleme, složeno otklanjanje grešaka u kodu, komparativne analize, planiranje, logičke zagonetke i procjenu rizika. Oni dijele zajedničku osobinu: mogući su višestruki putevi, a odabir pogrešnog je skup.
Isključi ga (ili spusti na najnižu razinu) za jednostavna faktografska pitanja, prijevod, parafraziranje, izravno izvlačenje informacija i svakodnevni razgovor. Ovdje model nema što arbitrirati: on dohvaća ili transformira, a faza rezoniranja bi samo dodala latenciju.
Mjerenje troška
Rezoniranje troši izlazne tokene. Primjer iz službene dokumentacije daje osjećaj razmjera: zagonetka o godinama poslana modelu Mistral Small 4 s postavkom high troši 77 ulaznih tokena i 1.114 izlaznih tokena. Po navedenoj cijeni za Small 4 od 0,15 USD po milijun ulaznih tokena i 0,60 USD po milijun izlaznih tokena, zahtjev košta oko 0,0007 USD. To je zanemarivo po jedinici, ali kroz milijun sličnih zahtjeva, samo rezoniranje predstavlja nekoliko stotina dolara, bez ikakve dobiti ako polovica pitanja to nije ni trebala.
Polje usage u svakom odgovoru daje ti točnu mjeru: prati completion_tokens po vrsti zahtjeva prije generalizacije postavke.
Usmjeravanje prema složenosti
Jednostavno zaobilazno rješenje je odabir razine na temelju pitanja, koristeći tablicu po modelu kako bi se osiguralo da nikada ne pošalješ odbijenu vrijednost:
LEVELS = {
"mistral-small-2603": {"simple": "none", "complex": "high"},
"mistral-large-4-0": {"simple": "low", "complex": "high"},
}
COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")
def query(client, question, model="mistral-small-2603", level=None):
"""Odabire reasoning_effort na temelju pitanja ili primjenjuje prisilnu razinu."""
if level is None:
is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
level = LEVELS[model]["complex" if is_complex else "simple"]
return client.chat.complete(
model=model,
messages=[{"role": "user", "content": question}],
reasoning_effort=level,
)
Heuristike ključnih riječi ostaju grube; dovoljne su za rezerviranje rezoniranja za zahtjeve koji od toga imaju koristi, a argument level omogućuje ti prisiljavanje postavke. Lekcija 12 predlaže potpuniju arhitekturu usmjeravanja.
Ograničenja koja trebaš znati
Rezoniranje povećava vjerojatnost točnog odgovora; ne garantira ga: provjeri kritične rezultate (Lekcija 9). Također povećava latenciju, što je važno u sučelju za razgovor. Konačno, proslijeđena vrijednost mora odgovarati pozvanom modelu: planiraj tablicu poput one gore umjesto raspršivanja nizova kroz svoj kod.
Ključne točke
reasoning_effortkontrolira rezoniranje zahtjev po zahtjev, bez ikakve druge konfiguracije- Small 4 i Medium 3.5 prihvaćaju
highinone; Large 4 prihvaćalow,mediumihigh, ali ne inone - SDK enumeracije sadrže vrijednosti koje ne prihvaćaju svi modeli
- Uz
high,contentje popis fragmenata; uznone, niz znakova - Izmjeri trošak s
usage.completion_tokensi usmjeravaj prema složenosti