Bevezetés a Mistral AI következtetési képességeibe
Ezen az oldalon
A tanfolyamot 2026. november 2-án teljesen átdolgoztuk. Ezt a tanfolyamot eredetileg a Magistral modellekre építettük, amelyeket 2026. július 31-én véglegesen kivontak a forgalomból. A Mistralnál a következtetést ma már az általános célú modelleken elérhető
reasoning_effortparaméterrel kezeljük: Mistral Small 4, Mistral Large 4 és Mistral Medium 3.5 (elavult, kivonása 2027. április 30-ra van ütemezve). A mind a tizenkét leckét a hivatalos dokumentáció alapján írtuk újra: Reasoning · Models.
Miért változtatja meg a játékot a következtetés
Ha egy szabványos nyelvi modellnek teszel fel egy összetett kérdést, az tokenről tokenre generálja a választ anélkül, hogy valódi gondolkodási fázist iktatna be. Átfogalmazás vagy ténykereső kérdések esetén az eredmény gyakran helyes. Amikor azonban több lépésből álló problémákkal vagy igényes logikai következtetést igénylő feladatokkal szembesül, a teljesítmény jelentősen romlik: a modell az első néhány szótól kezdve elköteleződik egy irány mellett, és nincs lehetősége a korrekcióra.
A következtetés (reasoning) megváltoztatja ezt a dinamikát. A Mistral dokumentációja ezt a gondolatmenet-láncok (chain of thought) következő evolúciós lépéseként mutatja be: a modellt arra képezték ki, hogy a végső válasz megadása előtt szabadon generáljon egy gondolkodási láncot. Mélyebben feltárja a problémát, és a következtetési idő alatt többletszámítási kapacitást felhasználva javítja a megoldást. Ezt nevezzük Test Time Computation-nak: számítási erőforrás befektetése a következtetés során, nemcsak a tanítási fázisban.
A gondolkodás költsége és haszna
Az elv egyszerű: minél többet gondolkozik a modell a válaszadás előtt, annál jobb lesz a válasza az összetett feladatoknál. Konkrétabban: gondolkodási nyomokat (thinking traces) generál: hipotéziseket, közbenső számításokat, ellenőrzéseket és visszalépéseket. Ezek a plusz tokenek időt és költségkeretet emésztenek fel. A hivatalos dokumentáció egyik példájában egy kis életkor-rejtvényt teszünk fel a Mistral Small 4 modellnek magas következtetési erőfeszítéssel beállítva: a bemenet 77 token, a kimenet 1114 token, miközben a végső válasz mindössze néhány soros: a költség nagy része maga a gondolkodás.
A következtetés az összetett használati esetekben jeleskedik, kezdve a matematikával és a kódolással, de sok más helyzetben is alkalmazható: elemzés, tervezés és döntéshozatal során.
Vegyünk egy klasszikus problémát a különbség szemléltetésére. Egy apának három gyermeke van; életkoruk szorzata 36, összegük a szomszéd házszámával egyenlő, a legidősebb pedig zongorázik. Hány évesek? Következtetés nélkül a modell tippel, és ritkán találja el a helyes választ. Következtetéssel azonban felsorolja a 36 összes háromtényezős felbontását, kiszámítja mindegyik összegét, észreveszi, hogy kettőnek ugyanaz az összege (1, 6, 6 és 2, 2, 9 is 13-at ad: ez a feladatban rejlő kétértelműség), majd felhasználja a „legidősebb“ gyermekre vonatkozó nyomtat a megoldáshoz: 2, 2 és 9 évesek.
A következtetést tartalmazó válasz szerkezete
Ha a következtetés aktív, a válasz már nem egyszerű szöveg. A message.content mező chunkok listájává válik: először egy thinking típusú gondolkodási chunk, amely maga is szöveg-chunkok listáját tartalmazza; majd egy text típusú chunk, amely a végső választ tartalmazza. Íme az API által visszaadott egyszerűsített forma:
{
"role": "assistant",
"content": [
{
"type": "thinking",
"thinking": [
{"type": "text", "text": "... thinking traces ..."}
]
},
{"type": "text", "text": "... final answer ..."}
]
}
Ez a szétválasztás értékes: lehetővé teszi, hogy az alkalmazásodtól függően megjelenítsd vagy elrejtsd a gondolkodási folyamatot. Egy oktatási tutor megjelenítheti a nyomokat; egy fogyasztóknak szánt asszisztens csak a következtetést mutatná. A 3. lecke részletezi, hogyan olvasd ezeket a chunkokat, beleértve a streaming módot is.
A következtetés a Mistralnál 2026 novemberében
A Mistral kezdetben egy dedikált családot kínált, a Magistral-t (Small és Medium, 25.06, 25.07 és 25.09 verziók), ahol a következtetés mindig aktív volt. Ezt a családot mára teljesen kivonták: a következtetés az általános célú modellek képességévé vált, amelyet kérésenként a reasoning_effort paraméterrel konfigurálhatsz.
| Modell | API azonosító | Állapot 2026. november 2-án | reasoning_effort szintek |
|---|---|---|---|
| Mistral Small 4 | mistral-small-2603 | Elérhető (megjelenés: 2026. március 16.) | high, none |
| Mistral Large 4 | mistral-large-4-0 | Nyilvános előzetes verzió (megjelenés: 2026. október 6.) | low, medium, high |
| Mistral Medium 3.5 | mistral-medium-3-5 | Elavult, kivonás: 2027. április 30. | high, none |
A Mistral Small 4-et a hivatalos adatlapja hibrid modellként írja le, amely egyetlen modellben egyesíti az utasításkezelést, a következtetést és a kódolást. Ez a tanfolyam természetes kiindulópontja. A Mistral Large 4 háromszintű skálát és egymillió tokenes kontextusablakot kínál; továbbra is nyilvános előzetes verzióban (Public Preview) érhető el, ami óvatosságra int a éles környezetben történő használatakor. Az 5. lecke részletesen összehasonlítja ezeket a modelleket.
Mikor érdemes következtetést használni
A következtetés nem mindenhol szükséges, és a szisztematikus bekapcsolása olyan, mintha biztosítási díjat fizetnél kockázatmentes utakra. Valódi értéket ad a matematikához, logikához, hibakereséshez, összehasonlító elemzéshez, tervezéshez és több lépésből álló problémákhoz. Felesleges egyszerű fordításnál, átfogalmazásnál, közvetlen ténykereső kérdéseknél vagy rövid kreatív írásnál.
A teljes kihívás a minőség és a tokenfogyasztás közötti egyensúly megtalálásában rejlik. A tanfolyam három szakaszban halad: a következtetés konfigurálása és olvasása (1–4. lecke), a modell kiválasztása, a hatékony promptolás és a Magistralról való migrálás (5–8. lecke), majd az alkalmazás matematikára, kódra és döntéshozatalra (9–12. lecke).
Főbb megállapítások
- A Test Time Computation számítási erőforrást fektet be a következtetés során az összetett válaszok javítása érdekében
- Következtetés esetén a
message.contentlistává válik: egythinkingchunk (a gondolkodás), majd egytextchunk (a válasz) követi - A Magistral családot 2026. július 31-én kivonták: a következtetést most a
reasoning_effortparaméterrel konfigurálod - A Mistral Small 4 (
mistral-small-2603) a kiindulópont; a Mistral Large 4 (mistral-large-4-0) a legigényesebb eseteket célozza meg - A következtetés indokolt matematika, kódolás és döntéshozatal esetén, de nem egyszerű feladatoknál