Erőfeszítési szintek: Alacsony, közepes és magas
Ezen az oldalon
Frissítve: 2026. november 3. az xAI API-referencia alapján: a
max_completion_tokenscsak a látható választ korlátozza; a következtetési tokenek nem számítanak bele ebbe a limitbe, és az erőfeszítés szabályozza a mennyiségüket. Forrás: Chat Completions. November 3-i kiegészítés: A lecke korábban az API-hoz (Chat Completions vagy Responses) kapcsolta az erőfeszítést, és agrok-4.20-0309-reasoningmodellre alkalmazta, amely nem támogatja ezt; az xAI Reasoning oldala szerint ez a modelltől függ (grok-4.7,grok-4.6,grok-4.5,grok-4.20-multi-agent). A példa korábban ausage.completion_tokensértéket olvasta, amely hiányzik a Responses API válaszaiból (output_tokens,output_tokens_details.reasoning_tokens). Forrás: Reasoning.
A következtetés mélységének szabályozása
A következtetési erőfeszítés lehetővé teszi, hogy kalibráld, mennyi gondolkodási időt fektet be a modell a válaszadás előtt. Ez egy közvetlen eszköz a minőség, a sebesség és a tokenfogyasztás közötti egyensúly megteremtésére.
A modell határozza meg az elérhetőséget, nem az API. Az xAI dokumentációja szerint:
| Modell | Erőfeszítés típusa | Értékek |
|---|---|---|
grok-4.7, grok-4.6 | Következtetés mélysége | low, medium, high (alapértelmezett), xhigh |
grok-4.5 | Következtetés mélysége | low, medium, high (alapértelmezett); az xhigh értéket high-ként kezeli |
grok-4.20-multi-agent | Mobilizált ügynökök száma (4 vagy 16), nem a mélység | low, medium, high, xhigh |
grok-4.20-0309-reasoning | Nem konfigurálható: a modell mindig következtet | — |
Ezeken a modelleken a következtetés nem kapcsolható ki: konfiguráció hiányában az erőfeszítés alapértelmezés szerint high. Csak a paraméter neve változik az API-tól függően: a Chat Completions esetén a legfelső szinten reasoning_effort, míg a Responses API esetén egy reasoning objektumon belül reasoning.effort.
{
"model": "grok-4.7",
"input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
"reasoning": {
"effort": "medium"
}
}
Erőfeszítési szintek
A dokumentáció leírja az egyes szinteket és alkalmazási területeiket:
low: Néhány következtetési lépést használ, miközben gyors marad. Latencia-érzékeny ügynök-alapú felhasználásokhoz és egyszerű eszközlehívásokhoz.medium: Több reflexiót igényel, olyan alkalmazásokhoz, amelyek kevésbé érzékenyek a latenciára. Összetett adatelemzéshez és hosszú kontextusokon végzett következtetéshez.high(alapértelmezett): Sokkal több következtetési token. Nagyon nehéz problémákhoz, összetett matematikához, több lépésből álló logikához.xhigh: Maximális mélység, a hozzá tartozó latenciával. A legnehezebb problémákhoz, amikor a minőség fontosabb, mint a válaszidő.
Az xAI legjobb gyakorlatai egy egyszerű szabályt adnak hozzá: minden kérésnél állítsd be expliciten az erőfeszítést, és minden eredménynél naplózd azt, hogy a méréseid összehasonlíthatóak maradjanak.
A következtető modellek három paramétert is elutasítanak: a presence_penalty, frequency_penalty és a stop paraméterek használata sikertelenné teszi a kérést.
Hatás a tokenekre
Az erőfeszítési szint közvetlen hatással van a következtetési tokenek fogyasztására:
low: Kevés következtetési token, gyors válasz, alacsony költségmedium: Mérsékelt fogyasztás, jó kompromisszumhighésxhigh: Sok következtetési token, lassabb válasz, magas költség
Ezeket a következtetési tokeneket kimeneti tokenként számlázzák (lásd a 8. leckét). A kimeneti korlát (a Chat Completions esetén max_completion_tokens, a Responses API esetén max_output_tokens) csak a látható választ korlátozza: a következtetés nem számít bele, így az erőfeszítés szabályozza a mennyiségüket.
A megfelelő szint kiválasztása
| Feladat | Ajánlott erőfeszítés |
|---|---|
| Szövegosztályozás | low |
| Összefoglaló elemzéssel | medium |
| Strukturált entitáskinyerés | low |
| Egyenletmegoldás | high |
| Kódhibák elemzése | high |
| Szöveg átfogalmazása | low |
| Lehetőségek összehasonlítása előnyökkel/hátrányokkal | medium |
| Matematikai bizonyítás | high |
Gyakorlati példa: Ugyanaz a kérdés, három erőfeszítési szinttel
for effort in ["low", "medium", "high"]:
response = client.responses.create(
model="grok-4.7",
input="Explain why 0.1 + 0.2 != 0.3 in computing.",
reasoning={"effort": effort},
)
usage = response.usage
print(f"Effort {effort}: {usage.output_tokens} output tokens, "
f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")
A szintek közötti különbség a kérdéstől függ: mérd le a saját eseteiden, ne támaszkodj általános arányszámokra, és minden eredménynél naplózd az erőfeszítést.
Főbb megállapítások
- Az erőfeszítés a modelltől függ:
low,medium,high(alapértelmezett) ésxhighagrok-4.7ésgrok-4.6esetén,xhighnélkül agrok-4.5esetén; agrok-4.20-0309-reasoningnem támogatja reasoning_efforta Chat Completions esetén,reasoning.efforta Responses API esetén; a következtetés nem kapcsolható ki- Az erőfeszítési szint közvetlenül befolyásolja a következtetési tokenek számát, és ezáltal a költséget
- Konfiguráció hiányában az erőfeszítés alapértelmezés szerint
high: állítsd be expliciten minden kérésnél, ahogy az xAI javasolja - Igazítsd az erőfeszítést a feladat tényleges összetettségéhez a költségek optimalizálása érdekében