Következtetés vs. nem következtető modellek
Ezen az oldalon
Frissítve: 2026. november 3. az xAI API-referencia és a Reasoning (Következtetés) útmutató alapján: a
max_completion_tokenscsak a látható választ korlátozza, a következtetési folyamatot nem; alogprobsparamétert a Grok 4.20-as verziótól figyelmen kívül hagyja a rendszer; az állítható következtetés a grok-4.5, 4.6 és 4.7 modellekre vonatkozik. Források: Chat Completions · Reasoning.
Két alapvetően eltérő megközelítés
A Grok modellcsalád kétféle következtetési megközelítést kínál: a grok-4.20 generáció két különálló változatban érhető el (következtető és nem következtető), míg a grok-4.5, grok-4.6 és grok-4.7 modellek egyetlen, erősségi paraméterrel (effort) szabályozható következtetési módot egyesítenek, amelyet nem lehet teljesen kikapcsolni. Ez a választás nem csupán kozmetikai kérdés; alapvetően megváltoztatja a modell viselkedését, képességeit, költségét és az API-ra vonatkozó korlátokat. Az egyes feladatokhoz megfelelő változat kiválasztása kulcsfontosságú készség.
Hogyan működik a következtetés?
Amikor egy következtető változatot használsz, a modell a válasz generálása előtt belső gondolkodási folyamatot végez. Lebontja a problémát, feltár különböző megközelítéseket, ellenőrzi a logikáját, és lépésről lépésre építi fel a választ.
Az xAI rendszere a Grok 4-es és újabb modellek esetében ezt a következtetési folyamatot „titkosítja“: a közbenső lépéseket nem olvashatod közvetlen szövegként. Azonban a következőket teheted:
- Lekérheted a titkosított tartalmat az
include=["reasoning.encrypted_content"]paraméterrel, hogy későbbi kérésekbe visszacsatolhasd azt. - Ellenőrizheted a következtetésre felhasznált tokenek számát a
usage.completion_tokens_details.reasoning_tokensmezőben.
A következtetés további tokeneket fogyaszt, amelyeket a kimeneti áron számolnak fel. Egy következtető kérés ezért többe kerül, mint egy azonos, nem következtető kérés; a különbség a feladattól és az erősségi szinttől függ, ezért érdemes saját adatokon mérni.
Következtető módban tiltott paraméterek
Ez gyakori buktató a migráció során. A következtető változatok nem támogatnak bizonyos, a nem következtető módban gyakori paramétereket:
| Paraméter | Nem következtető | Következtető |
|---|---|---|
| presencePenalty | Támogatott | Tiltott (hiba) |
| frequencyPenalty | Támogatott | Tiltott (hiba) |
| stop | Támogatott | Tiltott (hiba) |
| logprobs | Grok 4.20-tól figyelmen kívül hagyva | Figyelmen kívül hagyva |
| max_completion_tokens | Támogatott | Támogatott (csak a látható válaszra) |
Ha a presencePenalty, frequencyPenalty vagy stop paramétereket egy következtető változatnak küldöd, az API hibát jelez. Ügyelj arra, hogy ezeket a paramétereket eltávolítsd a kéréseidből, amikor következtető módra váltasz.
Mikor használj következtetést?
A következtetés bizonyos feladatkategóriáknál egyértelmű értéket ad:
- Matematika és formális logika – egyenletek megoldása, bizonyítások, optimalizálás
- Összetett kódelemzés – egymástól függő hibakeresés, biztonsági auditok
- Többlépéses kérdések – olyan problémák, amelyek több fázisban történő következtetést igényelnek
- Árnyalt döntések – előnyök és hátrányok mérlegelése, mélyreható összehasonlító elemzés
- Mennyiségi szakértelem – statisztika, pénzügyi modellezés, adatelemzés
Mikor használj nem következtető modellt?
A nem következtető mód akkor előnyös, ha a feladat nem igényel mély reflexiót:
- Írás és összefoglalás – a modellnek nem kell „gondolkodnia“ az íráshoz
- Osztályozás és címkézés – gyors tartalomkategorizálás
- Információkinyerés – adatok strukturálása nyers szövegből
- Fordítás – a modell tudja, hogyan fordítson explicit következtetés nélkül
- Egyszerű beszélgetés – chatbotok, GYIK, első szintű ügyfélszolgálat
- Tartalomgenerálás – e-mailek, leírások, marketing szövegek
Útvonalválasztási stratégia
Éles környezetben az optimális stratégia a kérések dinamikus irányítása a megfelelő változathoz:
- Elemezd a kérést – számítást, elemzést vagy egyszerű feldolgozást igényel?
- Alapértelmezés szerint irányítsd nem következtetőhöz – ez gyorsabb és olcsóbb
- Válts következtetőre, ha a kérés többlépéses következtetést igényel
- Figyeld az eredményeket – a megfigyelt minőség alapján finomhangolhatod az útvonalválasztási kritériumokat
Ez a megközelítés lehetővé teszi, hogy szükség esetén kihasználd a következtetés erejét anélkül, hogy feleslegesen fizetnél a felárat.
A max_completion_tokens speciális esete
Az xAI API-referencia szerint a max_completion_tokens csak a látható válaszra vonatkozik: a következtetésre felhasznált tokenek és a függvényhívások nem számítanak bele, az alapértelmezett érték pedig 128 000 token. Ezt a korlátot a várt válasz hossza alapján állítsd be, és a grok-4.5, 4.6, valamint 4.7 modelleknél az erősségi paraméter (reasoning_effort) segítségével szabályozd a következtetést.
Főbb megállapítások
- A következtető változatok a válaszadás előtt egy belső gondolkodási fázist iktatnak be
- A következtetés titkosított (nem látható közvetlen szövegként); azonban a grok-4.7 összefoglalót tesz közzé, amely streaming módban megtekinthető
- A
presencePenalty,frequencyPenaltyésstopparaméterek tiltottak következtető módban - A következtetés 2–5-ször többe kerül, mint a nem következtető mód
- Használj következtetést matematikai, logikai és többlépéses problémákhoz
- Használj nem következtető módot íráshoz, osztályozáshoz és információkinyeréshez