Šifruotas samprotavimas
Šiame puslapyje
Vidinis samprotavimas „Grok“ modeliuose
Naujausi samprotavimo modeliai (pvz., grok-4.20-0309-reasoning) prieš pateikdami atsakymą atlieka vidinį samprotavimą. Šį minties procesą, kuris paprastai yra nematomas, galima gauti šifruota forma naudojant parametrą include. Vėliau jį galite vėl įterpti į tolesnius užklausas, kad išlaikytumėte samprotavimo tęstinumą.
Kodėl samprotavimas yra šifruojamas?
Vidiniame samprotavime pateikiamas neapdorotas modelio minties procesas – tarpiniai žingsniai, tikrinamos hipotezės, atsisakytos kryptys. „xAI“ šį turinį šifruoja dėl dviejų priežasčių:
- Intelektinė nuosavybė: Samprotavimas atskleidžia vidinius modelio veikimo mechanizmus.
- Tęstinumas: Šifruotą turinį modelis gali panaudoti savo minties procesui pratęsti.
Tu negali perskaityti šifruoto turinio, tačiau modelis gali jį iššifruoti ir naudoti.
Šifruoto samprotavimo gavimas
Pridėk include=["reasoning.encrypted_content"] prie savo užklausos:
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Solve this problem: if a train leaves Paris at 2 PM at 200 km/h "
"and another from Lyon at 3 PM at 300 km/h, when do they meet?",
include=["reasoning.encrypted_content"]
)
Atsakyme atsiras papildomas laukas su šifruotu samprotavimu:
{
"output": [
{
"type": "reasoning",
"encrypted_content": "eyJhbGciOiJSU0EtT0FFUCIsImVuYyI6..."
},
{
"type": "message",
"content": [{"type": "output_text", "text": "The two trains meet at..."}]
}
]
}
Samprotavimo pakartotinis naudojimas pokalbyje
Pagrindinė šifruoto samprotavimo nauda – galimybė jį vėl įterpti į vėlesnes užklausas. Tai leidžia modeliui tęsti minties procesą tiksliai nuo tos vietos, kurioje jis sustojo:
# 1 užklausa: pradinė problema
response1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Prove that the square root of 2 is irrational.",
include=["reasoning.encrypted_content"]
)
# Ištraukiame šifruotą samprotavimą
encrypted = None
for item in response1.output:
if item.type == "reasoning":
encrypted = item.encrypted_content
break
# 2 užklausa: giliname analizę išlaikydami samprotavimą
response2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Can you generalize this proof to roots of prime numbers?",
previous_response_id=response1.id,
include=["reasoning.encrypted_content"]
)
Šifruotas samprotavimas vs. klasikinis grandininis vykdymas
| Metodas | Tekstinis kontekstas | Samprotavimo tęstinumas |
|---|---|---|
Tik previous_response_id | Taip | Ne – modelis pradeda samprotavimą iš naujo |
previous_response_id + šifruotas samprotavimas | Taip | Taip – modelis pratęsia savo minties grandinę |
Skirtumas yra subtilus, tačiau labai svarbus sudėtingoms samprotavimo užduotims. Naudojant šifruotą turinį, modelis ne tik perskaito kontekstą iš naujo: jis pratęsia savo vidinį minties procesą.
Kada naudoti šifruotą samprotavimą?
Rekomenduojama
Visais šiais atvejais bendra gija yra ta pati: pokalbis, kuriame N+1-as ėjimas turi remtis N-to ėjimo samprotavimu. Daugeliu žingsnių sprendžiama matematikos problema praranda visą nuoseklumą, jei modelis pamiršta savo kelią tarp dviejų žinučių; loginė analizė, atliekama per nuoseklius gilinimus, reikalauja tarpinių hipotezių; iteracinis derinimas („kas nutiks, jei išbandysime šią reikšmę?“) turi prasmę tik tada, kai modelis prisimena, ką jau atmetė. Apskritai, kai tik pastebi, kad tavo pokalbiuose samprotavimo kokybė blogėja nuo vieno ėjimo prie kito, tai yra signalas, kad samprotavimo kontekstas prarastas: šifruoto samprotavimo įterpimas yra būtent tas sprendimas.
Nereikia
- Paprasti pokalbiai (faktiniai klausimai ir atsakymai)
- Kūrybinio turinio generavimas
- Užduotys, kurioms nereikia struktūruoto samprotavimo
Poveikis atsiskaitymui
Šifruoto samprotavimo tokenai yra skaičiuojami lauke output_tokens_details.reasoning_tokens. Jie apmokestinami tuo pačiu tarifu kaip ir standartiniai išvesties tokenai. Samprotavimo apimtis gali būti didelė – kartais 2–5 kartus didesnė už matomą atsakymą.
Svarbiausi punktai
- Šifruotas samprotavimas gaunamas naudojant
include=["reasoning.encrypted_content"] - Turinys yra šifruotas – tu negali jo perskaityti, bet modelis gali jį panaudoti iš naujo
- Derinant su
previous_response_id, išlaikomas minties grandinės tęstinumas - Naudinga sudėtingoms daugiapakopėms samprotavimo užduotims
- Už samprotavimo tokenus mokama net tada, jei jie atsakyme nematomi