Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Parametrs `reasoning_effort`

Nodarbība 2 no 12 Atjaunota 2026. gada 2. novembris Programmētājs
Šajā lapā
  1. Domāšanas dziļuma iestatīšana
  2. Pieņemtās vērtības atkarībā no modeļa
  3. Implementācija Python valodā
  4. Līmeņa izvēle atkarībā no uzdevuma
  5. Izmaksu mērīšana
  6. Maršrutēšana pēc sarežģītības
  7. Ierobežojumi, kas jāzina
  8. Galvenās atziņas

Nodarbība pārrakstīta 2026. gada 2. novembrī. Iepriekšējā versijā tika apgalvots, ka reasoning_effort pieņem tikai divas vērtības un pastāv tikai Mistral Small modelī. Patiesībā pieņemtās vērtības ir atkarīgas no modeļa, un Mistral Large 4 piedāvā trīs. Avots: Reasoning (Mistral dokumentācija).

Domāšanas dziļuma iestatīšana

Pielāgojama spriešana balstās uz vienkāršu principu: tu katrā pieprasījumā pats izlem, cik ilgi modelim jādomā pirms atbildes sniegšanas. Šo sviru sauc par reasoning_effort. Tu to norādi API izsaukumā tajā pašā līmenī, kur modeli un ziņojumus, bez nepieciešamības pēc citas konfigurācijas.

Pieņemtās vērtības atkarībā no modeļa

Šī ir visbiežāk sastopamā kļūda: pieņemtās vērtības ir atkarīgas no modeļa.

ModelisDokumentētās vērtībasOficiālais ieteikums
Mistral Small 4 (mistral-small-2603)high, none—
Mistral Medium 3.5 (mistral-medium-3-5)high, nonehigh aģentu darbplūsmām un kodam
Mistral Large 4 (mistral-large-4-0)low, medium, highSāc ar high, pēc tam pārej uz medium vai low, ja svarīgāki ir tokeni vai latentums

Small 4 un Medium 3.5 gadījumā high ģenerē pilnu spriešanas fragmentu pirms atbildes, kas palielina tokenu patēriņu; none samazina spriešanu līdz minimumam un izlaiž to no atbildes. Large 4 mērogā ir trīs līmeņi: low vienkāršiem uzdevumiem, medium līdzsvaram starp kvalitāti, tokeniem un latentumu, un high sarežģītiem uzdevumiem. Large 4 nepieņem none: dokumentācija norāda, ka līmenis, kas tā pirmversijā tika dēvēts par none, tagad tiek saukts par low.

Vēl viena nianse: ReasoningEffort tips SDK arī uzskaita minimal, xhigh un max, jo šis uzskaitījums aptver visus platformas modeļus (max tiek izmantots, piemēram, trešās puses modelim zai-glm-5-3). Tas, ka vērtība parādās uzskaitījumā, nenozīmē, ka tavs modelis to pieņem.

Implementācija Python valodā

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

# Mistral Small 4, dziļa spriešana
response_high = client.chat.complete(
    model="mistral-small-2603",
    messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
    reasoning_effort="high",
)

# Mistral Small 4, tieša atbilde
response_none = client.chat.complete(
    model="mistral-small-2603",
    messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
    reasoning_effort="none",
)

# Mistral Large 4, vidējs līmenis
response_medium = client.chat.complete(
    model="mistral-large-4-0",
    messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
    reasoning_effort="medium",
)

Atbildes struktūra mainās atkarībā no iestatījuma. Ar high message.content ir saraksts, kas sākas ar spriešanas fragmentu; ar none tā ir vienkārša virkne. Tāpēc tavam kodam ir jāspēj apstrādāt abas formas, kā parādīts nākamajā nodarbībā.

TypeScript valodā parametrs seko JavaScript nosaukumu konvencijai un tiek rakstīts kā reasoningEffort:

import { Mistral } from '@mistralai/mistralai';

const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });

const response = await client.chat.complete({
  model: 'mistral-small-2603',
  messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
  reasoningEffort: 'high',
});

Līmeņa izvēle atkarībā no uzdevuma

Rezervē dziļu spriešanu daudzsoloņiem matemātikas uzdevumiem, sarežģītai koda atkļūdošanai, salīdzinošai analīzei, plānošanai, loģikas mīklām un risku novērtēšanai. Viņiem visiem ir kopīga iezīme: iespējami vairāki ceļi, un nepareiza izvēle ir dārga.

Izslēdz to (vai samazini līdz zemākajam līmenim) vienkāršiem faktoloģiskiem jautājumiem, tulkošanai, pārrakstīšanai, tiešai informācijas ieguvei un ikdienas sarunām. Šeit modelim nav ko izvērtēt: tas tikai atrod vai pārveido informāciju, un spriešanas fāze tikai palielinātu latentumu.

Izmaksu mērīšana

Spriešana izmaksā izvades tokenus. Oficiālās dokumentācijas piemērs sniedz priekšstatu par mērogu: vecuma mīkla, nosūtīta Mistral Small 4 ar high, patērē 77 ievades tokenus un 1114 izvades tokenus. Pie Small 4 norādītās cenas 0,15 USD par miljonu ievades tokeniem un 0,60 USD par miljonu izvades tokeniem, pieprasījums izmaksā aptuveni 0,0007 USD. Vienības ziņā tas ir niecīgi, taču miljona līdzīgu pieprasījumu gadījumā viena pati spriešana veido vairākus simtus dolāru, negūstot nekādu labumu, ja pusei jautājumu tā nebija vajadzīga.

Lauks usage katrā atbildē sniedz precīzu mērījumu: izseko completion_tokens pēc pieprasījuma veida, pirms vispārināt kādu iestatījumu.

Maršrutēšana pēc sarežģītības

Vienkāršs risinājums ir izvēlēties līmeni atkarībā no jautājuma, izmantojot tabulu katram modelim, lai nodrošinātu, ka nekad nenosūtīsi noraidītu vērtību:

LEVELS = {
    "mistral-small-2603": {"simple": "none", "complex": "high"},
    "mistral-large-4-0": {"simple": "low", "complex": "high"},
}

COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")

def query(client, question, model="mistral-small-2603", level=None):
    """Izvēlas reasoning_effort, pamatojoties uz jautājumu, vai piemēro piespiedu līmeni."""
    if level is None:
        is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
        level = LEVELS[model]["complex" if is_complex else "simple"]
    return client.chat.complete(
        model=model,
        messages=[{"role": "user", "content": question}],
        reasoning_effort=level,
    )

Atslēgvārdu heuristika joprojām ir aptuvena; tā pietiek, lai rezervētu spriešanu pieprasījumiem, kuriem tā nāk par labu, un arguments level ļauj piespiest konkrētu iestatījumu. 12. nodarbībā tiek piedāvāta pilnīgāka maršrutēšanas arhitektūra.

Ierobežojumi, kas jāzina

Spriešana palielina pareizas atbildes varbūtību, taču negarantē to: pārbaudi kritiskus rezultātus (9. nodarbība). Tā arī palielina latentumu, kas ir svarīgi sarunu saskarnēs. Visbeidzot, nodotajai vērtībai ir jāatbilst izsauktajam modelim: plāno izmantot tādu tabulu kā iepriekš, nevis izkaisīt virknes visā kodā.

Galvenās atziņas

  • reasoning_effort kontrolē spriešanu katrā pieprasījumā atsevišķi, bez citas konfigurācijas
  • Small 4 un Medium 3.5 pieņem high un none; Large 4 pieņem low, medium un high, bet ne none
  • SDK uzskaitījumi satur vērtības, kuras nepieņem visi modeļi
  • Ar high content ir fragmentu saraksts; ar none tā ir virkne
  • Mēri izmaksas ar usage.completion_tokens un veic maršrutēšanu pēc sarežģītības