Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Parametras reasoning_effort

Paskaita 2 iš 12 Atnaujinta 2026 m. lapkričio 2 d. Kūrėjas
Šiame puslapyje
  1. Minties gylio nustatymas
  2. Priimtinos reikšmės pagal modelius
  3. Įgyvendinimas naudojant „Python“
  4. Lygio pasirinkimas pagal užduotį
  5. Sąnaudų matavimas
  6. Maršrutizavimas pagal sudėtingumą
  7. Žinotinos ribos
  8. Svarbiausi punktai

Pamoka perrašyta 2026 m. lapkričio 2 d. Ankstesnėje versijoje teigta, kad reasoning_effort priima tik dvi reikšmes ir egzistuoja tik „Mistral Small“ modelyje. Tiesą sakant, priimtinos reikšmės priklauso nuo modelio, o „Mistral Large 4“ siūlo tris. Šaltinis: Reasoning (Mistral dokumentacija).

Minties gylio nustatymas

Reguliuojamas samprotavimas remiasi paprastu principu: tu pats kiekvienam užklausos prašymui nusprendi, kiek modelis turi galvoti prieš pateikdamas atsakymą. Šis svertas vadinamas reasoning_effort. Jį perduodi API užklausoje tame pačiame lygmenyje kaip ir modelį bei žinutes; jokių kitų konfigūracijų nereikia.

Priimtinos reikšmės pagal modelius

Tai dažniausia klaida: priimtinos reikšmės priklauso nuo modelio.

ModelisDokumentuotos reikšmėsOficiali rekomendacija
Mistral Small 4 (mistral-small-2603)high, none—
Mistral Medium 3.5 (mistral-medium-3-5)high, nonehigh agentiniams darbo eigoms ir kodui
Mistral Large 4 (mistral-large-4-0)low, medium, highPradėk nuo high, tada pereik prie medium arba low, jei svarbesni žetonai arba delsos laikas

„Small 4“ ir „Medium 3.5“ modeliuose high sukuria pilną samprotavimo fragmentą prieš atsakymą, tačiau tai kainuoja daugiau žetonų; none sumažina samprotavimą iki minimumo ir pašalina jį iš atsakymo. „Large 4“ skalė turi tris lygius: low paprastoms užduotims, medium balansui tarp kokybės, žetonų ir delsos, bei high sudėtingoms užduotims. „Large 4“ nepriima none: dokumentacijoje nurodyta, kad lygis, anksčiau vadintas none jo peržiūros versijoje, dabar vadinamas low.

Dar viena subtilybė: ReasoningEffort tipas SDK taip pat išvardija minimal, xhigh ir max, nes ši enumeracija apima visus platformos modelius (max, pavyzdžiui, naudojamas trečiųjų šalių modelio zai-glm-5-3). Tai, kad reikšmė atsiranda enumeracijoje, nereiškia, kad tavo modelis ją priima.

Įgyvendinimas naudojant „Python“

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

# Mistral Small 4, gilus samprotavimas
response_high = client.chat.complete(
    model="mistral-small-2603",
    messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
    reasoning_effort="high",
)

# Mistral Small 4, tiesioginis atsakymas
response_none = client.chat.complete(
    model="mistral-small-2603",
    messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
    reasoning_effort="none",
)

# Mistral Large 4, tarpinis lygis
response_medium = client.chat.complete(
    model="mistral-large-4-0",
    messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
    reasoning_effort="medium",
)

Atsakymo struktūra keičiasi priklausomai nuo nustatymo. Naudojant high, message.content yra sąrašas, prasidedantis samprotavimo fragmentu; naudojant none, tai paprasta eilutė. Todėl tavo kodas turi apdoroti abi formas, kaip parodys kita pamoka.

„TypeScript“ kalboje parametras laikosi „JavaScript“ rašybos konvencijų ir rašomas reasoningEffort:

import { Mistral } from '@mistralai/mistralai';

const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });

const response = await client.chat.complete({
  model: 'mistral-small-2603',
  messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
  reasoningEffort: 'high',
});

Lygio pasirinkimas pagal užduotį

Gilų samprotavimą palik daugiapakopėms matematikos problemoms, sudėtingam kodo derinimui, lyginamajai analizei, planavimui, loginiams galvosūkiams ir rizikos vertinimui. Šias užduotis sieja bendras bruožas: galimi keli keliai, o neteisingo pasirinkimo kaina yra didelė.

Išjunk jį (arba sumažink iki žemiausio lygio) paprastiems faktiniams klausimams, vertimui, perfrazavimui, tiesioginei informacijos ekstrakcijai ir kasdieniam bendravimui. Čia modeliui nėra ko arbitruoti: jis tiesiog gauna arba transformuoja informaciją, o samprotavimo fazė tik pridėtų delsos.

Sąnaudų matavimas

Samprotavimas kainuoja išvesties žetonus. Oficialios dokumentacijos pavyzdys suteikia mastelio pojūtį: amžiaus mįslė, siųsta „Mistral Small 4“ su high, sunaudoja 77 įvesties žetonus ir 1 114 išvesties žetonų. Esant „Small 4“ nurodytam tarifui – 0,15 USD už milijoną įvesties žetonų ir 0,60 USD už milijoną išvesties žetonų – užklausa kainuoja apie 0,0007 USD. Vienetiniu lygmeniu tai nereikšminga, tačiau per milijoną panašių užklausų vien samprotavimas gali kainuoti šimtus dolerių, be jokios naudos, jei pusei klausimų jo nereikėjo.

Kiekviename atsakyme esantis laukas usage suteikia tikslų matą: stebėk completion_tokens pagal užklausos tipą prieš apibendrinant nustatymą.

Maršrutizavimas pagal sudėtingumą

Paprastas sprendimas – pasirinkti lygį pagal klausimą, naudojant lentelę kiekvienam modeliui, kad niekada nesiųstum atmestos reikšmės:

LEVELS = {
    "mistral-small-2603": {"simple": "none", "complex": "high"},
    "mistral-large-4-0": {"simple": "low", "complex": "high"},
}

COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")

def query(client, question, model="mistral-small-2603", level=None):
    """Pasirenka reasoning_effort pagal klausimą arba pritaiko priverstinį lygį."""
    if level is None:
        is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
        level = LEVELS[model]["complex" if is_complex else "simple"]
    return client.chat.complete(
        model=model,
        messages=[{"role": "user", "content": question}],
        reasoning_effort=level,
    )

Raktinių žodžių heuristika lieka grubus metodas; ji pakankama, kad samprotavimą paliktum tik tiems prašymams, kuriems jis naudingas, o argumentas level leidžia priverstinai nustatyti parametrą. 12 pamokoje siūloma išsamesnė maršrutizavimo architektūra.

Žinotinos ribos

Samprotavimas padidina teisingo atsakymo tikimybę, bet jo negarantuoja: kritinius rezultatus būtina patikrinti (9 pamoka). Jis taip pat padidina delsos laiką, kas svarbu pokalbio sąsajoje. Galiausiai, perduota reikšmė turi atitikti kviečiamą modelį: planuok naudoti aukščiau pateiktą lentelę, užuot barstęs eilučių literałus visame kode.

Svarbiausi punktai

  • reasoning_effort valdo samprotavimą kiekvienam prašymui atskirai, be jokių kitų konfigūracijų
  • „Small 4“ ir „Medium 3.5“ priima high ir none; „Large 4“ priima low, medium ir high, bet ne none
  • SDK enumeracijose yra reikšmių, kurių ne visi modeliai priima
  • Naudojant high, content yra fragmentų sąrašas; naudojant none – eilutė
  • Matuok sąnaudas naudodamas usage.completion_tokens ir maršrutizuok pagal sudėtingumą