A reasoning_effort paraméter
Ezen az oldalon
A leckét 2026. november 2-án írtuk át. A korábbi verzió azt állította, hogy a
reasoning_effortcsak két értéket fogad el, és kizárólag a Mistral Small modellen érhető el. A valóságban az elfogadott értékek modelltől függenek, és a Mistral Large 4 három lehetőséget kínál. Forrás: Reasoning (Mistral dokumentáció).
A gondolkodás mélységének beállítása
Az állítható következtetés egyszerű elven alapul: te döntöd el kérésről kérésre, hogy mennyit gondolkodjon a modell a válaszadás előtt. A vezérlőelem neve reasoning_effort. Ezt az API-hívásban adod meg, ugyanazon a szinten, mint a modellt és az üzeneteket, további konfiguráció nélkül.
Elfogadott értékek modellenként
Ez a leggyakoribb buktató: az elfogadott értékek modelltől függenek.
| Modell | Dokumentált értékek | Hivatalos ajánlás |
|---|---|---|
Mistral Small 4 (mistral-small-2603) | high, none | — |
Mistral Medium 3.5 (mistral-medium-3-5) | high, none | high ügynök alapú munkafolyamatokhoz és kódoláshoz |
Mistral Large 4 (mistral-large-4-0) | low, medium, high | Kezdd a high értékkel, majd válts medium vagy low értékre, ha a tokenfogyasztás vagy a késleltetés fontosabb |
A Small 4 és Medium 3.5 esetén a high érték teljes következtetési töredéket generál a válasz előtt, magasabb tokenfogyasztás árán; a none érték minimálisra csökkenti a következtetést, és kihagyja azt a válaszból. A Large 4 esetén a skála háromszintű: low egyszerű feladatokhoz, medium a minőség, a tokenek és a késleltetés egyensúlyozásához, valamint high összetett feladatokhoz. A Large 4 nem fogadja el a none értéket: a dokumentáció szerint a korábban none-ként emlegetett szint az előzetes verzióban mostantól low néven fut.
Egy utolsó árnyalat: a SDK-kban található ReasoningEffort típus felsorolja a minimal, xhigh és max értékeket is, mivel az enumeráció a platform összes modelljét lefedi (például a max értéket használja a harmadik féltől származó zai-glm-5-3 modell). Csak azért, mert egy érték szerepel az enumerációban, még nem jelenti azt, hogy a te modelled elfogadja.
Megvalósítás Pythonban
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Mistral Small 4, mély következtetés
response_high = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
reasoning_effort="high",
)
# Mistral Small 4, közvetlen válasz
response_none = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
reasoning_effort="none",
)
# Mistral Large 4, köztes szint
response_medium = client.chat.complete(
model="mistral-large-4-0",
messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
reasoning_effort="medium",
)
A válasz szerkezete a beállítástól függően változik. high érték esetén a message.content egy lista, amely egy következtetési töredékkel kezdődik; none esetén egyszerű szöveg. A kódodnak ezért mindkét formátumot kezelnie kell, ahogy azt a következő lecke mutatja.
TypeScriptben a paraméter követi a JavaScript elnevezési szokásait, és reasoningEffort alakban írjuk:
import { Mistral } from '@mistralai/mistralai';
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });
const response = await client.chat.complete({
model: 'mistral-small-2603',
messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
reasoningEffort: 'high',
});
A szint kiválasztása a feladat alapján
Tartsd fenn a mély következtetést több lépéses matematikai problémákhoz, összetett kódhibakereséshez, összehasonlító elemzésekhez, tervezéshez, logikai rejtvényekhez és kockázatértékeléshez. Ezeknek közös tulajdonsága, hogy több lehetséges út létezik, és a rossz választás költséges lehet.
Kapcsold ki (vagy csökkentsd a legalacsonyabb szintre) egyszerű ténykérdések, fordítás, átfogalmazás, közvetlen információkinyerés és mindennapi beszélgetés esetén. Itt a modellnek nincs mit mérlegelnie: csak előhív vagy átalakít, és a következtetési fázis csak a késleltetést növelné.
A költség mérése
A következtetés kimeneti tokenekbe kerül. A hivatalos dokumentáció példája érzékelteti a mértéket: egy életkorra vonatkozó találós kérdés, amelyet high beállítással küldtünk a Mistral Small 4-nek, 77 bemeneti tokent és 1114 kimeneti tokent fogyasztott. A Small 4 listázott ára (0,15 USD egymillió bemeneti tokenért és 0,60 USD egymillió kimeneti tokenért) alapján a kérés költsége körülbelül 0,0007 USD. Ez egységenként elhanyagolható, de egymillió hasonló kérés esetén a puszta következtetés több száz dollárt jelent, anélkül, hogy hasznot hozna, ha a kérdések fele nem igényelte volna.
Minden válasz usage mezője pontos mérőszámot ad: kövesd nyomon a completion_tokens értékét kéréstípusonként, mielőtt általánosítanál egy beállítást.
Útvonalválasztás összetettség alapján
Egy egyszerű megoldás, ha a kérdés alapján választod ki a szintet, modellenkénti táblázatot használva, hogy biztosan ne küldj elutasított értéket:
LEVELS = {
"mistral-small-2603": {"simple": "none", "complex": "high"},
"mistral-large-4-0": {"simple": "low", "complex": "high"},
}
COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")
def query(client, question, model="mistral-small-2603", level=None):
"""Kiválasztja a reasoning_effort értéket a kérdés alapján, vagy kényszerít egy szintet."""
if level is None:
is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
level = LEVELS[model]["complex" if is_complex else "simple"]
return client.chat.complete(
model=model,
messages=[{"role": "user", "content": question}],
reasoning_effort=level,
)
A kulcsszavas heurisztika nyers marad; elég ahhoz, hogy a következtetést csak azoknak a kéréseknek tartogasd, amelyeknek hasznára válik, a level argumentum pedig lehetővé teszi egy beállítás kényszerítését. A 12. lecke egy teljesebb útvonalválasztó architektúrát javasol.
Ismerendő korlátok
A következtetés növeli a helyes válasz valószínűségét, de nem garantálja azt: ellenőrizd a kritikus eredményeket (9. lecke). Növeli a késleltetést is, ami beszélgetőfelületeknél számít. Végül a megadott értéknek meg kell egyeznie a hívott modellel: tervezz meg egy olyan táblázatot, mint a fenti, ahelyett, hogy szöveges literálokat szór szét a kódodban.
Főbb megállapítások
- A
reasoning_effortkérésről kérésre szabályozza a következtetést, további konfiguráció nélkül - A Small 4 és Medium 3.5 a
highésnoneértékeket fogadja el; a Large 4 alow,mediuméshighértékeket, de anone-t nem - A SDK enumerációi olyan értékeket tartalmaznak, amelyeket nem minden modell fogad el
highesetén acontenttöredékek listája;noneesetén szöveg- Mérd a költséget a
usage.completion_tokenssegítségével, és végezz útvonalválasztást összetettség alapján