Η παράμετρος reasoning_effort
Σε αυτήν τη σελίδα
Μάθημα ξαναγραμμένο στις 2 Νοεμβρίου 2026. Η προηγούμενη έκδοση ανέφερε ότι το
reasoning_effortδεχόταν μόνο δύο τιμές και υπήρχε μόνο στο Mistral Small. Στην πραγματικότητα, οι αποδεκτές τιμές εξαρτώνται από το μοντέλο, και το Mistral Large 4 προσφέρει τρεις. Πηγή: Reasoning (τεκμηρίωση Mistral).
Ρύθμιση του βάθους της σκέψης
Ο προσαρμόσιμος συλλογισμός βασίζεται σε μια απλή αρχή: εσείς αποφασίζετε, αίτημα προς αίτημα, πόσο πρέπει να σκεφτεί το μοντέλο πριν απαντήσει. Ο μοχλός ελέγχου ονομάζεται reasoning_effort. Το περνάτε στην κλήση API στο ίδιο επίπεδο με το μοντέλο και τα μηνύματα, χωρίς να απαιτείται άλλη διαμόρφωση.
Αποδεκτές τιμές, ανά μοντέλο
Αυτή είναι η πιο συχνή παγίδα: οι αποδεκτές τιμές εξαρτώνται από το μοντέλο.
| Μοντέλο | Τεκμηριωμένες τιμές | Επίσημη σύσταση |
|---|---|---|
Mistral Small 4 (mistral-small-2603) | high, none | — |
Mistral Medium 3.5 (mistral-medium-3-5) | high, none | high για workflows πρακτόρων και κώδικα |
Mistral Large 4 (mistral-large-4-0) | low, medium, high | Ξεκινήστε με high και μεταβείτε σε medium ή low αν τα tokens ή η καθυστέρηση έχουν μεγαλύτερη σημασία |
Στα Small 4 και Medium 3.5, το high παράγει ένα πλήρες απόσπασμα συλλογισμού πριν την απάντηση, με κόστος την υψηλότερη κατανάλωση tokens· το none μειώνει τον συλλογισμό στο ελάχιστο και τον παραλείπει από την απάντηση. Στο Large 4, η κλίμακα έχει τρία επίπεδα: low για απλές εργασίες, medium για ισορροπία μεταξύ ποιότητας, tokens και καθυστέρησης, και high για πολύπλοκες εργασίες. Το Large 4 δεν δέχεται το none: η τεκμηρίωση διευκρινίζει ότι το επίπεδο που formerly ονομαζόταν none στην προεπισκόπησή του, τώρα ονομάζεται low.
Μια τελευταία λεπτομέρεια: ο τύπος ReasoningEffort στα SDK απαριθμεί επίσης τα minimal, xhigh και max, επειδή η απαρίθμηση καλύπτει κάθε μοντέλο στην πλατφόρμα (το max χρησιμοποιείται, για παράδειγμα, από το μοντέλο τρίτου μέρους zai-glm-5-3). Το γεγονός ότι μια τιμή εμφανίζεται στην απαρίθμηση δεν σημαίνει ότι το μοντέλο σας την δέχεται.
Υλοποίηση σε Python
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Mistral Small 4, βαθύς συλλογισμός
response_high = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "Solve x^3 - 6x^2 + 11x - 6 = 0 and verify each root."}],
reasoning_effort="high",
)
# Mistral Small 4, άμεση απάντηση
response_none = client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content": "What is the capital of Portugal?"}],
reasoning_effort="none",
)
# Mistral Large 4, ενδιάμεσο επίπεδο
response_medium = client.chat.complete(
model="mistral-large-4-0",
messages=[{"role": "user", "content": "Compare two caching strategies for a high-traffic API."}],
reasoning_effort="medium",
)
Η δομή της απάντησης αλλάζει ανάλογα με τη ρύθμιση. Με high, το message.content είναι μια λίστα που ξεκινά με ένα απόσπασμα συλλογισμού· με none, είναι ένα απλό string. Ο κώδικάς σας πρέπει επομένως να χειρίζεται και τις δύο μορφές, όπως δείχνει το επόμενο μάθημα.
Στην TypeScript, η παράμετρος ακολουθεί τη συμβατική ονοματοδοσία της JavaScript και γράφεται reasoningEffort:
import { Mistral } from '@mistralai/mistralai';
const client = new Mistral({ apiKey: process.env.MISTRAL_API_KEY });
const response = await client.chat.complete({
model: 'mistral-small-2603',
messages: [{ role: 'user', content: 'Solve x^3 - 6x^2 + 11x - 6 = 0.' }],
reasoningEffort: 'high',
});
Επιλογή επιπέδου βάσει εργασίας
Κρατήστε τον βαθύ συλλογισμό για μαθηματικά προβλήματα πολλαπλών βημάτων, πολύπλοκη αποσφαλμάτωση κώδικα, συγκριτική ανάλυση, σχεδιασμό, λογικά παζλ και αξιολόγηση ρίσκου. Αυτά έχουν ένα κοινό χαρακτηριστικό: υπάρχουν πολλές πιθανές διαδρομές και η επιλογή της λάθος είναι δαπανηρή.
Απενεργοποιήστε τον (ή μειώστε τον στο χαμηλότερο επίπεδο) για απλές ερωτήσεις γεγονότων, μετάφραση, παραφράση, άμεση εξαγωγή πληροφοριών και καθημερινή συνομιλία. Εδώ το μοντέλο δεν έχει τίποτα να διακυβεύσει: απλώς ανακτά ή μετασχηματίζει, και μια φάση συλλογισμού θα προσέθετε μόνο καθυστέρηση.
Μέτρηση του κόστους
Ο συλλογισμός κοστίζει tokens εξόδου. Το παράδειγμα της επίσημης τεκμηρίωσης δίνει μια αίσθηση κλίμακας: ένα αίνιγμα ηλικίας που στάλθηκε στο Mistral Small 4 με high καταναλώνει 77 tokens εισόδου και 1.114 tokens εξόδου. Με την αναφερόμενη τιμή του Small 4 στα 0,15 $ ανά εκατομμύριο tokens εισόδου και 0,60 $ ανά εκατομμύριο tokens εξόδου, το αίτημα κοστίζει περίπου 0,0007 $. Αυτό είναι αμελητέο ανά μονάδα, αλλά σε ένα εκατομμύριο παρόμοια αιτήματα, ο συλλογισμός από μόνος του αντιπροσωπεύει αρκετές εκατοντάδες δολάρια, χωρίς κανένα όφελος αν οι μισές ερωτήσεις δεν το χρειάζονταν.
Το πεδίο usage σε κάθε απάντηση σας δίνει το ακριβές μέτρο: παρακολουθήστε τα completion_tokens ανά τύπο αιτήματος πριν γενικεύσετε μια ρύθμιση.
Δρομολόγηση βάσει πολυπλοκότητας
Μια απλή λύση είναι να επιλέγετε το επίπεδο βάσει της ερώτησης, χρησιμοποιώντας έναν πίνακα ανά μοντέλο για να βεβαιωθείτε ότι δεν στέλνετε ποτέ μια απορριπτόμενη τιμή:
LEVELS = {
"mistral-small-2603": {"simple": "none", "complex": "high"},
"mistral-large-4-0": {"simple": "low", "complex": "high"},
}
COMPLEX_WORDS = ("calculate", "prove", "compare", "analyze", "optimize", "debug", "why")
def query(client, question, model="mistral-small-2603", level=None):
"""Επιλέγει το reasoning_effort βάσει της ερώτησης ή εφαρμόζει ένα εξαναγκασμένο επίπεδο."""
if level is None:
is_complex = any(word in question.lower() for word in COMPLEX_WORDS)
level = LEVELS[model]["complex" if is_complex else "simple"]
return client.chat.complete(
model=model,
messages=[{"role": "user", "content": question}],
reasoning_effort=level,
)
Οι ευρετικές μέθοδοι με λέξεις-κλειδιά παραμένουν πρωτόγονες· αρκούν όμως για να δεσμεύουν τον συλλογισμό σε αιτήματα που τον ωφελούνται, και το όρισμα level σας επιτρέπει να εξαναγκάσετε μια ρύθμιση. Το Μάθημα 12 προτείνει μια πιο ολοκληρωμένη αρχιτεκτονική δρομολόγησης.
Όρια που πρέπει να γνωρίζετε
Ο συλλογισμός αυξάνει την πιθανότητα σωστής απάντησης· δεν την εγγυάται: επαληθεύστε τα κρίσιμα αποτελέσματα (Μάθημα 9). Αυξάνει επίσης την καθυστέρηση, κάτι που έχει σημασία σε ένα διαλογικό περιβάλλον. Τέλος, η τιμή που περνάτε πρέπει να ταιριάζει με το καλούμενο μοντέλο: σχεδιάστε έναν πίνακα όπως ο παραπάνω αντί να σκορπίζετε strings σε όλο τον κώδικά σας.
Βασικά σημεία
- Το
reasoning_effortελέγχει τον συλλογισμό αίτημα προς αίτημα, χωρίς άλλη διαμόρφωση - Τα Small 4 και Medium 3.5 δέχονται
highκαιnone· το Large 4 δέχεταιlow,mediumκαιhigh, όχιnone - Οι απαριθμήσεις των SDK περιέχουν τιμές που δεν δέχονται όλα τα μοντέλα
- Με
high, τοcontentείναι μια λίστα αποσπασμάτων· μεnone, ένα string - Μετρήστε το κόστος με
usage.completion_tokensκαι δρομολογήστε βάσει πολυπλοκότητας