Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Erőfeszítési szintek: Alacsony, közepes és magas

4. lecke 12 közül Frissítve 2026. november 3. Fejlesztő
Ezen az oldalon
  1. A következtetés mélységének szabályozása
  2. Erőfeszítési szintek
  3. Hatás a tokenekre
  4. A megfelelő szint kiválasztása
  5. Gyakorlati példa: Ugyanaz a kérdés, három erőfeszítési szinttel
  6. Főbb megállapítások

Frissítve: 2026. november 3. az xAI API-referencia alapján: a max_completion_tokens csak a látható választ korlátozza; a következtetési tokenek nem számítanak bele ebbe a limitbe, és az erőfeszítés szabályozza a mennyiségüket. Forrás: Chat Completions. November 3-i kiegészítés: A lecke korábban az API-hoz (Chat Completions vagy Responses) kapcsolta az erőfeszítést, és a grok-4.20-0309-reasoning modellre alkalmazta, amely nem támogatja ezt; az xAI Reasoning oldala szerint ez a modelltől függ (grok-4.7, grok-4.6, grok-4.5, grok-4.20-multi-agent). A példa korábban a usage.completion_tokens értéket olvasta, amely hiányzik a Responses API válaszaiból (output_tokens, output_tokens_details.reasoning_tokens). Forrás: Reasoning.

A következtetés mélységének szabályozása

A következtetési erőfeszítés lehetővé teszi, hogy kalibráld, mennyi gondolkodási időt fektet be a modell a válaszadás előtt. Ez egy közvetlen eszköz a minőség, a sebesség és a tokenfogyasztás közötti egyensúly megteremtésére.

A modell határozza meg az elérhetőséget, nem az API. Az xAI dokumentációja szerint:

ModellErőfeszítés típusaÉrtékek
grok-4.7, grok-4.6Következtetés mélységelow, medium, high (alapértelmezett), xhigh
grok-4.5Következtetés mélységelow, medium, high (alapértelmezett); az xhigh értéket high-ként kezeli
grok-4.20-multi-agentMobilizált ügynökök száma (4 vagy 16), nem a mélységlow, medium, high, xhigh
grok-4.20-0309-reasoningNem konfigurálható: a modell mindig következtet—

Ezeken a modelleken a következtetés nem kapcsolható ki: konfiguráció hiányában az erőfeszítés alapértelmezés szerint high. Csak a paraméter neve változik az API-tól függően: a Chat Completions esetén a legfelső szinten reasoning_effort, míg a Responses API esetén egy reasoning objektumon belül reasoning.effort.

{
  "model": "grok-4.7",
  "input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
  "reasoning": {
    "effort": "medium"
  }
}

Erőfeszítési szintek

A dokumentáció leírja az egyes szinteket és alkalmazási területeiket:

  • low: Néhány következtetési lépést használ, miközben gyors marad. Latencia-érzékeny ügynök-alapú felhasználásokhoz és egyszerű eszközlehívásokhoz.
  • medium: Több reflexiót igényel, olyan alkalmazásokhoz, amelyek kevésbé érzékenyek a latenciára. Összetett adatelemzéshez és hosszú kontextusokon végzett következtetéshez.
  • high (alapértelmezett): Sokkal több következtetési token. Nagyon nehéz problémákhoz, összetett matematikához, több lépésből álló logikához.
  • xhigh: Maximális mélység, a hozzá tartozó latenciával. A legnehezebb problémákhoz, amikor a minőség fontosabb, mint a válaszidő.

Az xAI legjobb gyakorlatai egy egyszerű szabályt adnak hozzá: minden kérésnél állítsd be expliciten az erőfeszítést, és minden eredménynél naplózd azt, hogy a méréseid összehasonlíthatóak maradjanak.

A következtető modellek három paramétert is elutasítanak: a presence_penalty, frequency_penalty és a stop paraméterek használata sikertelenné teszi a kérést.

Hatás a tokenekre

Az erőfeszítési szint közvetlen hatással van a következtetési tokenek fogyasztására:

  • low: Kevés következtetési token, gyors válasz, alacsony költség
  • medium: Mérsékelt fogyasztás, jó kompromisszum
  • high és xhigh: Sok következtetési token, lassabb válasz, magas költség

Ezeket a következtetési tokeneket kimeneti tokenként számlázzák (lásd a 8. leckét). A kimeneti korlát (a Chat Completions esetén max_completion_tokens, a Responses API esetén max_output_tokens) csak a látható választ korlátozza: a következtetés nem számít bele, így az erőfeszítés szabályozza a mennyiségüket.

A megfelelő szint kiválasztása

FeladatAjánlott erőfeszítés
Szövegosztályozáslow
Összefoglaló elemzésselmedium
Strukturált entitáskinyeréslow
Egyenletmegoldáshigh
Kódhibák elemzésehigh
Szöveg átfogalmazásalow
Lehetőségek összehasonlítása előnyökkel/hátrányokkalmedium
Matematikai bizonyításhigh

Gyakorlati példa: Ugyanaz a kérdés, három erőfeszítési szinttel

for effort in ["low", "medium", "high"]:
    response = client.responses.create(
        model="grok-4.7",
        input="Explain why 0.1 + 0.2 != 0.3 in computing.",
        reasoning={"effort": effort},
    )
    usage = response.usage
    print(f"Effort {effort}: {usage.output_tokens} output tokens, "
          f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")

A szintek közötti különbség a kérdéstől függ: mérd le a saját eseteiden, ne támaszkodj általános arányszámokra, és minden eredménynél naplózd az erőfeszítést.

Főbb megállapítások

  • Az erőfeszítés a modelltől függ: low, medium, high (alapértelmezett) és xhigh a grok-4.7 és grok-4.6 esetén, xhigh nélkül a grok-4.5 esetén; a grok-4.20-0309-reasoning nem támogatja
  • reasoning_effort a Chat Completions esetén, reasoning.effort a Responses API esetén; a következtetés nem kapcsolható ki
  • Az erőfeszítési szint közvetlenül befolyásolja a következtetési tokenek számát, és ezáltal a költséget
  • Konfiguráció hiányában az erőfeszítés alapértelmezés szerint high: állítsd be expliciten minden kérésnél, ahogy az xAI javasolja
  • Igazítsd az erőfeszítést a feladat tényleges összetettségéhez a költségek optimalizálása érdekében