Šifrirano sklepanje
Na tej strani
Interno sklepanje v modelih Grok
Nedavni modeli za sklepanje (kot je grok-4.20-0309-reasoning) izvedejo interno sklepanje, preden ustvarijo odgovor. Ta miselni proces, ki je običajno neviden, lahko pridobiš v šifrirani obliki z uporabo parametra include. Nato ga lahko ponovno vstaviš v poznejše zahteve, da ohraniš kontinuiteto sklepanja.
Zakaj je sklepanje šifrirano?
Interno sklepanje vsebuje surov miselni proces modela – vmesne korake, preizkušene hipoteze in opuščene poti. xAI to vsebino šifrira iz dveh razlogov:
- Intelektualna lastnina: Sklepanje razkriva notranje delovanje modela.
- Kontinuiteta: Šifrirano vsebino lahko model ponovno uporabi za nadaljevanje svojega miselnega procesa.
Šifrirane vsebine ne moreš brati, model pa jo lahko dešifrira in uporabi.
Pridobivanje šifriranega sklepanja
Zahtevi dodaj include=["reasoning.encrypted_content"]:
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Solve this problem: if a train leaves Paris at 2 PM at 200 km/h "
"and another from Lyon at 3 PM at 300 km/h, when do they meet?",
include=["reasoning.encrypted_content"]
)
Odgovor bo vseboval dodatno polje s šifriranim sklepanjem:
{
"output": [
{
"type": "reasoning",
"encrypted_content": "eyJhbGciOiJSU0EtT0FFUCIsImVuYyI6..."
},
{
"type": "message",
"content": [{"type": "output_text", "text": "The two trains meet at..."}]
}
]
}
Ponovna uporaba sklepanja v pogovoru
Glavna prednost šifriranega sklepanja je njegova ponovna vstavitev v poznejše zahteve. To modelu omogoča, da nadaljuje točno tam, kjer je prenehal v svojem miselnem procesu:
# Zahteva 1: začetni problem
response1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Prove that the square root of 2 is irrational.",
include=["reasoning.encrypted_content"]
)
# Izloči šifrirano sklepanje
encrypted = None
for item in response1.output:
if item.type == "reasoning":
encrypted = item.encrypted_content
break
# Zahteva 2: poglobi se ob ohranjanju sklepanja
response2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Can you generalize this proof to roots of prime numbers?",
previous_response_id=response1.id,
include=["reasoning.encrypted_content"]
)
Šifrirano sklepanje proti klasičnemu veriženju
| Pristop | Besedilni kontekst | Kontinuiteta sklepanja |
|---|---|---|
Samo previous_response_id | Da | Ne – model ponovno začne svoje sklepanje |
previous_response_id + šifrirano sklepanje | Da | Da – model nadaljuje svojo verigo misli |
Razlika je subtilna, a pomembna za kompleksne naloge sklepanja. S šifrirano vsebino model ne prebere le konteksta znova, temveč nadaljuje svoj interni miselni proces.
Kdaj uporabiti šifrirano sklepanje?
Priporočljivo
Rdeča nit teh primerov uporabe je vedno enaka: pogovor, kjer se mora korak N+1 naslanjati na sklepanje iz koraka N. Matematični problem, rešen v več korakih, izgubi vso koherenco, če model med dvema sporočiloma pozabi svojo pot; logična analiza, izvedena skozi zaporedne poglobljene preglede, potrebuje svoje vmesne hipoteze; iterativno odpravljanje napak – „kaj, če preizkusimo s to vrednostjo?” – ima smisel le, če se model spomni, kaj je že izločil. Na splošno, takoj ko opaziš, da se kakovost sklepanja v tvojih pogovorih iz koraka v korak poslabšuje, je to signal, da je kontekst sklepanja izgubljen: ponovna vstavitev šifriranega sklepanja je ravno pravo zdravilo.
Ni potrebno
- Preprosti pogovori (faktična vprašanja in odgovori)
- Ustvarjanje kreativnih vsebin
- Naloge, ki ne zahtevajo strukturiranega sklepanja
Vpliv na obračunavanje
Žetoni za šifrirano sklepanje se štejejo v output_tokens_details.reasoning_tokens. Zaračunajo se po enaki stopnji kot standardni izhodni žetoni. Količina sklepanja je lahko velika – včasih 2- do 5-krat večja od vidnega odgovora.
Ključne ugotovitve
- Šifrirano sklepanje pridobiš z
include=["reasoning.encrypted_content"] - Vsebina je šifrirana – ne moreš je brati, model pa jo lahko ponovno uporabi
- V kombinaciji z
previous_response_idohranja kontinuiteto verige misli - Uporabno za kompleksne naloge sklepanja v več korakih
- Žetoni za sklepanje se zaračunajo, tudi če v odgovoru niso vidni