Parameter reasoning_effort
Na tejto strane
Lekcia bola prepísaná 2. novembra 2026. Predchádzajúca verzia uvádzala, že parameter
reasoning_effortprijíma iba dve hodnoty a existuje len pre model Mistral Small. V skutočnosti závisia prijímané hodnoty od konkrétneho modelu a Mistral Large 4 ponúka tri možnosti. Zdroj: Reasoning (dokumentácia Mistral).
Nastavenie hĺbky uvažovania
Nastaviteľné usudzovanie stojí na jednoduchom princípe: ty sa rozhoduješ, koľko má model pred odpoveďou premýšľať, a to pri každej požiadavke zvlášť. Tento ovládací prvok sa nazýva reasoning_effort. Odovzdávaš ho v API volaní na rovnakej úrovni ako model a správy, bez potreby akejkoľvek ďalšej konfigurácie.
Prijímané hodnoty podľa modelu
Toto je najčastejšia pasca: prijímané hodnoty závisia od modelu.
| Model | Dokumentované hodnoty | Oficiálne odporúčanie |
|---|---|---|
Mistral Small 4 (mistral-small-2603) | high, none | — |
Mistral Medium 3.5 (mistral-medium-3-5) | high, none | high pre agentné pracovné postupy a kód |
Mistral Large 4 (mistral-large-4-0) | low, medium, high | Začni s high, potom prepní na medium alebo low, ak záleží viac na tokenoch alebo latencii |
Pri modeloch Small 4 a Medium 3.5 hodnota high vygeneruje pred odpoveďou úplný úsek usudzovania, čo však zvyšuje spotrebu tokenov; hodnota none redukuje usudzovanie na minimum a vynecháva ho z odpovede. Model Large 4 pracuje s tromi úrovňami: low pre jednoduché úlohy, medium ako kompromis medzi kvalitou, tokenmi a latenciou a high pre zložité úlohy. Large 4 neprijíma hodnotu none: dokumentácia špecifikuje, že úroveň, ktorá sa v jeho preview verzii nazývala none, sa teraz nazýva low.
Ešte jedna dôležitá nuansa: typ ReasoningEffort v SDK tiež vymenúva hodnoty minimal, xhigh a max, pretože toto vymenovanie pokrýva všetky modely na platforme (hodnotu max používa napríklad model tretej strany zai-glm-5-3). Len preto, že sa hodnota objaví vo vymenovaní, ešte neznamená, že ju tvoj model prijíma.
Implementácia v Pythone
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Mistral Small 4, hlboké usudzovanie
response_high = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
reasoning_effort="high",
)
# Mistral Small 4, priama odpoveď
response_none = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
reasoning_effort="none",
)
# Mistral Large 4, stredná úroveň
response_medium = client.chat.complete(
model="mistral-large-4-0",
messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
reasoning_effort="medium",
)
Štruktúra odpovede sa mení podľa nastavenia. Pri hodnote high je message.content zoznam, ktorý začína úsekom usudzovania; pri hodnote none ide o jednoduchý reťazec. Tvoj kód preto musí ošetrovať obe formy, ako ukáže nasledujúca lekcia.
V TypeScrite parameter dodržiava konvencie pomenovania v JavaScripte a zapisuje sa ako reasoningEffort:
import { Mistral } from '@mistralai/mistralai';
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });
const response = await client.chat.complete({
model: 'mistral-small-2603',
messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
reasoningEffort: 'high',
});
Výber úrovne podľa úlohy
Hlboké usudzovanie si vyhradź pre viacstupňové matematické problémy, ladenie zložitého kódu, komparatívne analýzy, plánovanie, logické hádanky a hodnotenie rizík. Tieto úlohy majú spoločný znak: existuje viacero možných ciest a výber tej nesprávnej je nákladný.
Vypni ho (alebo klesni na najnižšiu úroveň) pri jednoduchých faktografických otázkach, preklade, parafrázovaní, priamom extrahovaní informácií a bežnej konverzácii. Model tu nemá čo arbitrovať: iba vyhľadáva alebo transformuje údaje a fáza usudzovania by len pridala latenciu.
Meranie nákladov
Usudzovanie stojí output tokeny. Príklad z oficiálnej dokumentácie poskytuje predstavu o rozsahu: hádanka o veku odoslaná modelu Mistral Small 4 s nastavením high spotrebuje 77 vstupných tokenov a 1 114 výstupných tokenov. Pri cene modelu Small 4 vo výške 0,15 USD za milión vstupných tokenov a 0,60 USD za milión výstupných tokenov stojí táto požiadavka približne 0,0007 USD. Na jednotku je to zanedbateľné, ale pri milióne podobných požiadaviek predstavuje samotné usudzovanie niekoľko stoviek dolárov, pričom polovica otázok by ho ani nepotrebovala.
Pole usage v každej odpovedi ti poskytne presné meranie: sleduj completion_tokens podľa typu požiadavky skôr, než nastavenie zovšeobecníš.
Smerovanie podľa zložitosti
Jednoduchým riešením je vybrať úroveň na základe otázky pomocou tabuľky pre každý model, čím zabezpečíš, že nikdy neodošleš neprijateľnú hodnotu:
LEVELS = {
"mistral-small-2603": {"simple": "none", "complex": "high"},
"mistral-large-4-0": {"simple": "low", "complex": "high"},
}
COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")
def query(client, question, model="mistral-small-2603", level=None):
"""Vyberie reasoning_effort na základe otázky alebo aplikuje vynútenú úroveň."""
if level is None:
is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
level = LEVELS[model]["complex" if is_complex else "simple"]
return client.chat.complete(
model=model,
messages=[{"role": "user", "content": question}],
reasoning_effort=level,
)
Heuristika založená na kľúčových slovách zostáva hrubá; stačí však na vyhradenie usudzovania pre požiadavky, ktoré z neho profitujú, a argument level ti umožňuje nastavenie vynútiť. Lekcia 12 navrhuje komplexnejšiu architektúru smerovania.
Obmedzenia, ktoré treba poznať
Usudzovanie zvyšuje pravdepodobnosť správnej odpovede, ale nezaručuje ju: kritické výsledky si overuj (lekcia 9). Zároveň zvyšuje latenciu, čo je v konverzačnom rozhraní dôležité. Nakoniec, odovzdaná hodnota musí zodpovedať volanému modelu: naplánuj si tabuľku, ako je tá vyššie, namiesto toho, aby si reťazce rozhádzal po celom kóde.
Kľúčové poznatky
reasoning_effortriadi usudzovanie požiadavku po požiadavke bez potreby ďalšej konfigurácie- Small 4 a Medium 3.5 prijímajú
highanone; Large 4 prijímalow,mediumahigh, nienone - Vymenovania v SDK obsahujú hodnoty, ktoré nie všetky modely prijímajú
- Pri
highjecontentzoznamom úsekov; prinoneide o reťazec - Náklady meraj pomocou
usage.completion_tokensa smeruj požiadavky podľa zložitosti