Šifrované uvažovanie
Na tejto strane
Interné uvažovanie v modeloch Grok
Najnovšie modely zamerané na uvažovanie (ako napríklad grok-4.20-0309-reasoning) vykonávajú pred vygenerovaním odpovede interné uvažovanie. Tento myšlienkový proces, ktorý je bežne neviditeľný, môžeš získať v šifrovanej forme pomocou parametra include. Následne ho môžeš znovu vložiť do ďalších požiadaviek, aby si zachoval kontinuitu uvažovania.
Prečo je uvažovanie šifrované?
Interné uvažovanie obsahuje surový myšlienkový proces modelu – čiastkové kroky, testované hypotézy aj opustené smerovania. Spoločnosť xAİ tento obsah šifruje z dvoch dôvodov:
- Duševné vlastníctvo: Uvažovanie odhaľuje vnútorné fungovanie modelu.
- Kontinuita: Šifrovaný obsah môže model opätovne využiť na obnovenie svojho myšlienkového procesu.
Šifrovaný obsah nedokážeš prečítať ty, ale model ho dokáže dešifrovať a použiť.
Získanie šifrovaného uvažovania
Do svojej požiadavky pridaj parameter include=["reasoning.encrypted_content"]:
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Solve this problem: if a train leaves Paris at 2 PM at 200 km/h "
"and another from Lyon at 3 PM at 300 km/h, when do they meet?",
include=["reasoning.encrypted_content"]
)
Odpoveď bude obsahovať dodatočné pole so šifrovaným uvažovaním:
{
"output": [
{
"type": "reasoning",
"encrypted_content": "eyJhbGciOiJSU0EtT0FFUCIsImVuYyI6..."
},
{
"type": "message",
"content": [{"type": "output_text", "text": "The two trains meet at..."}]
}
]
}
Opätovné použitie uvažovania v konverzácii
Hlavnou výhodou šifrovaného uvažovania je jeho opätovné vloženie do nasledujúcich požiadaviek. Umožňuje to modelu presne pokračovať tam, kde vo svojom myšlienkovom procese skončil:
# Požiadavka 1: počiatočný problém
response1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Prove that the square root of 2 is irrational.",
include=["reasoning.encrypted_content"]
)
# Extrahovanie šifrovaného uvažovania
encrypted = None
for item in response1.output:
if item.type == "reasoning":
encrypted = item.encrypted_content
break
# Požiadavka 2: prehĺbenie pri zachovaní uvažovania
response2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Can you generalize this proof to roots of prime numbers?",
previous_response_id=response1.id,
include=["reasoning.encrypted_content"]
)
Šifrované uvažovanie versus klasické reťazenie
| Prístup | Textový kontext | Kontinuita uvažovania |
|---|---|---|
Len previous_response_id | Áno | Nie – model začína uvažovanie odznova |
previous_response_id + šifrované uvažovanie | Áno | Áno – model pokračuje v reťazci myšlienok |
Rozdiel je jemný, no pri zložitých úlohách vyžadujúcich uvažovanie zásadný. Pri šifrovanom obsahu model nielen znova nečíta kontext, ale skutočne obnovuje svoj interný myšlienkový proces.
Kedy použiť šifrované uvažovanie?
Odporúčané
Všetky tieto prípady použitia spája jedna vec: konverzácia, v ktorej sa musí krok N+1 zakladať na uvažovaní z kroku N. Matematický problém riešený vo viacerých krokoch stratí všetku súdržnosť, ak model medzi dvoma správami zabudne svoju cestu; logická analýza realizovaná postupným prehlbovaním potrebuje svoje čiastkové hypotézy; iteratívne ladenie – „čo keby sme to otestovali s touto hodnotou?“ – dáva zmysel len vtedy, ak si model pamätá, čo už vylúčil. Všeobecne platí, že akonáhle zistíš, že kvalita uvažovania v tvojich konverzáciách od jedného kroku k druhému klesá, je to signál, že kontext uvažovania sa stratil: opätovné vloženie šifrovaného uvažovania je presne tým riešením.
Nie je potrebné
- Jednoduché konverzácie (faktické otázky a odpovede)
- Generovanie kreatívneho obsahu
- Úlohy, ktoré nevyžadujú štruktúrované uvažovanie
Vplyv na fakturáciu
Tokeny šifrovaného uvažovania sa započítavajú do output_tokens_details.reasoning_tokens. Fakturujú sa rovnakou sadzbou ako štandardné výstupné tokeny. Objem uvažovania môže byť významný – niekedy 2- až 5-krát väčší ako viditeľná odpoveď.
Kľúčové poznatky
- Šifrované uvažovanie získaš pomocou
include=["reasoning.encrypted_content"] - Obsah je šifrovaný – nedokážeš ho prečítať, ale model ho môže opätovne použiť
- V kombinácii s
previous_response_idzachováva kontinuitu reťazca myšlienok - Užitočné pri zložitých úlohách vyžadujúcich viacstupňové uvažovanie
- Tokeny uvažovania sa fakturujú, aj keď nie sú v odpovedi viditeľné