Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Következtetés vs. nem következtető modellek

12. lecke 14 közül Frissítve 2026. november 3. Kezdő
Ezen az oldalon
  1. Két alapvetően eltérő megközelítés
  2. Hogyan működik a következtetés?
  3. Következtető módban tiltott paraméterek
  4. Mikor használj következtetést?
  5. Mikor használj nem következtető modellt?
  6. Útvonalválasztási stratégia
  7. A max_completion_tokens speciális esete
  8. Főbb megállapítások

Frissítve: 2026. november 3. az xAI API-referencia és a Reasoning (Következtetés) útmutató alapján: a max_completion_tokens csak a látható választ korlátozza, a következtetési folyamatot nem; a logprobs paramétert a Grok 4.20-as verziótól figyelmen kívül hagyja a rendszer; az állítható következtetés a grok-4.5, 4.6 és 4.7 modellekre vonatkozik. Források: Chat Completions · Reasoning.

Két alapvetően eltérő megközelítés

A Grok modellcsalád kétféle következtetési megközelítést kínál: a grok-4.20 generáció két különálló változatban érhető el (következtető és nem következtető), míg a grok-4.5, grok-4.6 és grok-4.7 modellek egyetlen, erősségi paraméterrel (effort) szabályozható következtetési módot egyesítenek, amelyet nem lehet teljesen kikapcsolni. Ez a választás nem csupán kozmetikai kérdés; alapvetően megváltoztatja a modell viselkedését, képességeit, költségét és az API-ra vonatkozó korlátokat. Az egyes feladatokhoz megfelelő változat kiválasztása kulcsfontosságú készség.

Hogyan működik a következtetés?

Amikor egy következtető változatot használsz, a modell a válasz generálása előtt belső gondolkodási folyamatot végez. Lebontja a problémát, feltár különböző megközelítéseket, ellenőrzi a logikáját, és lépésről lépésre építi fel a választ.

Az xAI rendszere a Grok 4-es és újabb modellek esetében ezt a következtetési folyamatot „titkosítja“: a közbenső lépéseket nem olvashatod közvetlen szövegként. Azonban a következőket teheted:

  • Lekérheted a titkosított tartalmat az include=["reasoning.encrypted_content"] paraméterrel, hogy későbbi kérésekbe visszacsatolhasd azt.
  • Ellenőrizheted a következtetésre felhasznált tokenek számát a usage.completion_tokens_details.reasoning_tokens mezőben.

A következtetés további tokeneket fogyaszt, amelyeket a kimeneti áron számolnak fel. Egy következtető kérés ezért többe kerül, mint egy azonos, nem következtető kérés; a különbség a feladattól és az erősségi szinttől függ, ezért érdemes saját adatokon mérni.

Következtető módban tiltott paraméterek

Ez gyakori buktató a migráció során. A következtető változatok nem támogatnak bizonyos, a nem következtető módban gyakori paramétereket:

Paraméter Nem következtető Következtető
presencePenalty Támogatott Tiltott (hiba)
frequencyPenalty Támogatott Tiltott (hiba)
stop Támogatott Tiltott (hiba)
logprobs Grok 4.20-tól figyelmen kívül hagyva Figyelmen kívül hagyva
max_completion_tokens Támogatott Támogatott (csak a látható válaszra)

Ha a presencePenalty, frequencyPenalty vagy stop paramétereket egy következtető változatnak küldöd, az API hibát jelez. Ügyelj arra, hogy ezeket a paramétereket eltávolítsd a kéréseidből, amikor következtető módra váltasz.

Mikor használj következtetést?

A következtetés bizonyos feladatkategóriáknál egyértelmű értéket ad:

  • Matematika és formális logika – egyenletek megoldása, bizonyítások, optimalizálás
  • Összetett kódelemzés – egymástól függő hibakeresés, biztonsági auditok
  • Többlépéses kérdések – olyan problémák, amelyek több fázisban történő következtetést igényelnek
  • Árnyalt döntések – előnyök és hátrányok mérlegelése, mélyreható összehasonlító elemzés
  • Mennyiségi szakértelem – statisztika, pénzügyi modellezés, adatelemzés

Mikor használj nem következtető modellt?

A nem következtető mód akkor előnyös, ha a feladat nem igényel mély reflexiót:

  • Írás és összefoglalás – a modellnek nem kell „gondolkodnia“ az íráshoz
  • Osztályozás és címkézés – gyors tartalomkategorizálás
  • Információkinyerés – adatok strukturálása nyers szövegből
  • Fordítás – a modell tudja, hogyan fordítson explicit következtetés nélkül
  • Egyszerű beszélgetés – chatbotok, GYIK, első szintű ügyfélszolgálat
  • Tartalomgenerálás – e-mailek, leírások, marketing szövegek

Útvonalválasztási stratégia

Éles környezetben az optimális stratégia a kérések dinamikus irányítása a megfelelő változathoz:

  1. Elemezd a kérést – számítást, elemzést vagy egyszerű feldolgozást igényel?
  2. Alapértelmezés szerint irányítsd nem következtetőhöz – ez gyorsabb és olcsóbb
  3. Válts következtetőre, ha a kérés többlépéses következtetést igényel
  4. Figyeld az eredményeket – a megfigyelt minőség alapján finomhangolhatod az útvonalválasztási kritériumokat

Ez a megközelítés lehetővé teszi, hogy szükség esetén kihasználd a következtetés erejét anélkül, hogy feleslegesen fizetnél a felárat.

A max_completion_tokens speciális esete

Az xAI API-referencia szerint a max_completion_tokens csak a látható válaszra vonatkozik: a következtetésre felhasznált tokenek és a függvényhívások nem számítanak bele, az alapértelmezett érték pedig 128 000 token. Ezt a korlátot a várt válasz hossza alapján állítsd be, és a grok-4.5, 4.6, valamint 4.7 modelleknél az erősségi paraméter (reasoning_effort) segítségével szabályozd a következtetést.

Főbb megállapítások

  • A következtető változatok a válaszadás előtt egy belső gondolkodási fázist iktatnak be
  • A következtetés titkosított (nem látható közvetlen szövegként); azonban a grok-4.7 összefoglalót tesz közzé, amely streaming módban megtekinthető
  • A presencePenalty, frequencyPenalty és stop paraméterek tiltottak következtető módban
  • A következtetés 2–5-ször többe kerül, mint a nem következtető mód
  • Használj következtetést matematikai, logikai és többlépéses problémákhoz
  • Használj nem következtető módot íráshoz, osztályozáshoz és információkinyeréshez