Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

A reasoning_effort paraméter

2. lecke 12 közül Frissítve 2026. november 2. Fejlesztő
Ezen az oldalon
  1. A gondolkodás mélységének beállítása
  2. Elfogadott értékek modellenként
  3. Megvalósítás Pythonban
  4. A szint kiválasztása a feladat alapján
  5. A költség mérése
  6. Útvonalválasztás összetettség alapján
  7. Ismerendő korlátok
  8. Főbb megállapítások

A leckét 2026. november 2-án írtuk át. A korábbi verzió azt állította, hogy a reasoning_effort csak két értéket fogad el, és kizárólag a Mistral Small modellen érhető el. A valóságban az elfogadott értékek modelltől függenek, és a Mistral Large 4 három lehetőséget kínál. Forrás: Reasoning (Mistral dokumentáció).

A gondolkodás mélységének beállítása

Az állítható következtetés egyszerű elven alapul: te döntöd el kérésről kérésre, hogy mennyit gondolkodjon a modell a válaszadás előtt. A vezérlőelem neve reasoning_effort. Ezt az API-hívásban adod meg, ugyanazon a szinten, mint a modellt és az üzeneteket, további konfiguráció nélkül.

Elfogadott értékek modellenként

Ez a leggyakoribb buktató: az elfogadott értékek modelltől függenek.

ModellDokumentált értékekHivatalos ajánlás
Mistral Small 4 (mistral-small-2603)high, none—
Mistral Medium 3.5 (mistral-medium-3-5)high, nonehigh ügynök alapú munkafolyamatokhoz és kódoláshoz
Mistral Large 4 (mistral-large-4-0)low, medium, highKezdd a high értékkel, majd válts medium vagy low értékre, ha a tokenfogyasztás vagy a késleltetés fontosabb

A Small 4 és Medium 3.5 esetén a high érték teljes következtetési töredéket generál a válasz előtt, magasabb tokenfogyasztás árán; a none érték minimálisra csökkenti a következtetést, és kihagyja azt a válaszból. A Large 4 esetén a skála háromszintű: low egyszerű feladatokhoz, medium a minőség, a tokenek és a késleltetés egyensúlyozásához, valamint high összetett feladatokhoz. A Large 4 nem fogadja el a none értéket: a dokumentáció szerint a korábban none-ként emlegetett szint az előzetes verzióban mostantól low néven fut.

Egy utolsó árnyalat: a SDK-kban található ReasoningEffort típus felsorolja a minimal, xhigh és max értékeket is, mivel az enumeráció a platform összes modelljét lefedi (például a max értéket használja a harmadik féltől származó zai-glm-5-3 modell). Csak azért, mert egy érték szerepel az enumerációban, még nem jelenti azt, hogy a te modelled elfogadja.

Megvalósítás Pythonban

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

# Mistral Small 4, mély következtetés
response_high = client.chat.complete(
    model="mistral-small-2603",
    messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
    reasoning_effort="high",
)

# Mistral Small 4, közvetlen válasz
response_none = client.chat.complete(
    model="mistral-small-2603",
    messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
    reasoning_effort="none",
)

# Mistral Large 4, köztes szint
response_medium = client.chat.complete(
    model="mistral-large-4-0",
    messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
    reasoning_effort="medium",
)

A válasz szerkezete a beállítástól függően változik. high érték esetén a message.content egy lista, amely egy következtetési töredékkel kezdődik; none esetén egyszerű szöveg. A kódodnak ezért mindkét formátumot kezelnie kell, ahogy azt a következő lecke mutatja.

TypeScriptben a paraméter követi a JavaScript elnevezési szokásait, és reasoningEffort alakban írjuk:

import { Mistral } from '@mistralai/mistralai';

const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });

const response = await client.chat.complete({
  model: 'mistral-small-2603',
  messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
  reasoningEffort: 'high',
});

A szint kiválasztása a feladat alapján

Tartsd fenn a mély következtetést több lépéses matematikai problémákhoz, összetett kódhibakereséshez, összehasonlító elemzésekhez, tervezéshez, logikai rejtvényekhez és kockázatértékeléshez. Ezeknek közös tulajdonsága, hogy több lehetséges út létezik, és a rossz választás költséges lehet.

Kapcsold ki (vagy csökkentsd a legalacsonyabb szintre) egyszerű ténykérdések, fordítás, átfogalmazás, közvetlen információkinyerés és mindennapi beszélgetés esetén. Itt a modellnek nincs mit mérlegelnie: csak előhív vagy átalakít, és a következtetési fázis csak a késleltetést növelné.

A költség mérése

A következtetés kimeneti tokenekbe kerül. A hivatalos dokumentáció példája érzékelteti a mértéket: egy életkorra vonatkozó találós kérdés, amelyet high beállítással küldtünk a Mistral Small 4-nek, 77 bemeneti tokent és 1114 kimeneti tokent fogyasztott. A Small 4 listázott ára (0,15 USD egymillió bemeneti tokenért és 0,60 USD egymillió kimeneti tokenért) alapján a kérés költsége körülbelül 0,0007 USD. Ez egységenként elhanyagolható, de egymillió hasonló kérés esetén a puszta következtetés több száz dollárt jelent, anélkül, hogy hasznot hozna, ha a kérdések fele nem igényelte volna.

Minden válasz usage mezője pontos mérőszámot ad: kövesd nyomon a completion_tokens értékét kéréstípusonként, mielőtt általánosítanál egy beállítást.

Útvonalválasztás összetettség alapján

Egy egyszerű megoldás, ha a kérdés alapján választod ki a szintet, modellenkénti táblázatot használva, hogy biztosan ne küldj elutasított értéket:

LEVELS = {
    "mistral-small-2603": {"simple": "none", "complex": "high"},
    "mistral-large-4-0": {"simple": "low", "complex": "high"},
}

COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")

def query(client, question, model="mistral-small-2603", level=None):
    """Kiválasztja a reasoning_effort értéket a kérdés alapján, vagy kényszerít egy szintet."""
    if level is None:
        is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
        level = LEVELS[model]["complex" if is_complex else "simple"]
    return client.chat.complete(
        model=model,
        messages=[{"role": "user", "content": question}],
        reasoning_effort=level,
    )

A kulcsszavas heurisztika nyers marad; elég ahhoz, hogy a következtetést csak azoknak a kéréseknek tartogasd, amelyeknek hasznára válik, a level argumentum pedig lehetővé teszi egy beállítás kényszerítését. A 12. lecke egy teljesebb útvonalválasztó architektúrát javasol.

Ismerendő korlátok

A következtetés növeli a helyes válasz valószínűségét, de nem garantálja azt: ellenőrizd a kritikus eredményeket (9. lecke). Növeli a késleltetést is, ami beszélgetőfelületeknél számít. Végül a megadott értéknek meg kell egyeznie a hívott modellel: tervezz meg egy olyan táblázatot, mint a fenti, ahelyett, hogy szöveges literálokat szór szét a kódodban.

Főbb megállapítások

  • A reasoning_effort kérésről kérésre szabályozza a következtetést, további konfiguráció nélkül
  • A Small 4 és Medium 3.5 a high és none értékeket fogadja el; a Large 4 a low, medium és high értékeket, de a none-t nem
  • A SDK enumerációi olyan értékeket tartalmaznak, amelyeket nem minden modell fogad el
  • high esetén a content töredékek listája; none esetén szöveg
  • Mérd a költséget a usage.completion_tokens segítségével, és végezz útvonalválasztást összetettség alapján