Titkosított következtetés
Ezen az oldalon
Belső következtetés a Grok modellekben
A legújabb következtető modellek (például a grok-4.20-0309-reasoning) a válaszuk generálása előtt belső következtetést végeznek. Ezt a gondolatmenetet, amely normál esetben láthatatlan, az include paraméter segítségével titkosított formában lekérheted. Ezt követően visszacsatolhatod a későbbi kérésekbe, hogy biztosítsd a következtetés folyamatosságát.
Miért van titkosítva a következtetés?
A belső következtetés tartalmazza a modell nyers gondolatmenetét: a közbenső lépéseket, a tesztelt hipotéziseket és az elvetett utakat. Az xAI két okból titkosítja ezt a tartalmat:
- Szellemi tulajdon: A következtetés feltárja a modell belső működését.
- Folyamatosság: A titkosított tartalmat a modell újra felhasználhatja gondolatmenetének folytatásához.
Nem tudod elolvasni a titkosított tartalmat, de a modell képes azt visszafejteni és felhasználni.
Titkosított következtetés lekérése
Add hozzá az include=["reasoning.encrypted_content"] paramétert a kérésedhez:
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Solve this problem: if a train leaves Paris at 2 PM at 200 km/h "
"and another from Lyon at 3 PM at 300 km/h, when do they meet?",
include=["reasoning.encrypted_content"]
)
A válasz tartalmazni fog egy további mezőt a titkosított következtetéssel:
{
"output": [
{
"type": "reasoning",
"encrypted_content": "eyJhbGciOiJSU0EtT0FFUCIsImVuYyI6..."
},
{
"type": "message",
"content": [{"type": "output_text", "text": "The two trains meet at..."}]
}
]
}
Következtetés újrafelhasználása egy beszélgetésben
A titkosított következtetés fő előnye, hogy visszacsatolható a későbbi kérésekbe. Ez lehetővé teszi a modell számára, hogy pontosan ott folytassa a gondolatmenetét, ahol abbahagyta:
# 1. kérés: kezdeti probléma
response1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Prove that the square root of 2 is irrational.",
include=["reasoning.encrypted_content"]
)
# Titkosított következtetés kinyerése
encrypted = None
for item in response1.output:
if item.type == "reasoning":
encrypted = item.encrypted_content
break
# 2. kérés: mélyebb elemzés a következtetés megőrzésével
response2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Can you generalize this proof to roots of prime numbers?",
previous_response_id=response1.id,
include=["reasoning.encrypted_content"]
)
Titkosított következtetés vs. klasszikus láncolás
| Megközelítés | Szöveges kontextus | Következtetés folyamatossága |
|---|---|---|
Csak previous_response_id | Igen | Nem – a modell újraindítja a következtetést |
previous_response_id + titkosított következtetés | Igen | Igen – a modell folytatja a gondolatmenetét |
A különbség finom, de fontos a komplex következtetést igénylő feladatoknál. A titkosított tartalommal a modell nem csupán újraolvassa a kontextust: folytatja a belső gondolatmenetét.
Mikor használj titkosított következtetést?
Ajánlott
Ezekben az esetekben a közös szál mindig ugyanaz: olyan beszélgetés, ahol az N+1. lépésnek az N. lépés következtetésére kell épülnie. Egy több lépésben megoldott matematikai probléma minden koherenciáját elveszíti, ha a modell elfelejti az útját két üzenet között; egy egymást követő mélyelemzéseken keresztül végzett logikai elemzésnek szüksége van a közbenső hipotézisekre; az iteratív hibakeresés – „mi van, ha ezzel az értékkel tesztelünk?“ – csak akkor van értelme, ha a modell emlékszik arra, amit már kizárt. Általánosságban, amint azt tapasztalod, hogy a beszélgetéseidben a következtetés minősége romlik egyik lépésről a másikra, az a jel, hogy elveszett a következtetési kontextus: a titkosított következtetés visszacsatolása erre pontosan a megoldás.
Nem szükséges
- Egyszerű beszélgetések (tényalapú kérdés-felelet)
- Kreatív tartalomgenerálás
- Olyan feladatok, amelyek nem igényelnek strukturált következtetést
Számlázási hatás
A titkosított következtetés tokenjeit a rendszer az output_tokens_details.reasoning_tokens mezőben számolja. Ugyanazon a díjszabáson számlázzák őket, mint a szabványos kimeneti tokeneket. A következtetés volumene jelentős lehet – néha 2-5-szöröse a látható válasznak.
Főbb megállapítások
- A titkosított következtetés az
include=["reasoning.encrypted_content"]paraméterrel kérhető le. - A tartalom titkosított – nem tudod elolvasni, de a modell újra felhasználhatja.
- A
previous_response_id-vel kombinálva biztosítja a gondolatmenet folyamatosságát. - Komplex, több lépésből álló következtetést igénylő feladatokhoz hasznos.
- A következtetés tokenjeit akkor is számlázzák, ha azok nem láthatók a válaszban.