Šifrēta spriešana
Šajā lapā
Iekšējā spriešana Grok modeļos
Jaunākie spriešanas modeļi (piemēram, grok-4.20-0309-reasoning) veic iekšēju spriešanu pirms atbildes ģenerēšanas. Šo domāšanas procesu, kas parasti ir neredzams, var iegūt šifrētā formātā, izmantojot parametru include. Pēc tam tu vari to atkārtoti ievadīt turpmākajos pieprasījumos, lai saglabātu spriešanas nepārtrauktību.
Kāpēc spriešana ir šifrēta?
Iekšējā spriešana satur modeļa neapstrādātu domāšanas gaitu — starpposma soļus, pārbaudītās hipotēzes un pamestos ceļus. xAI šo saturu šifrē divu iemeslu dēļ:
- Intelektuālais īpašums: Spriešana atklāj modeļa iekšējo darbību.
- Nepārtrauktība: Šifrēto saturu modelis var atkārtoti izmantot, lai atsāktu savu domāšanas procesu.
Tu nevari lasīt šifrēto saturu, taču modelis to var atšifrēt un izmantot.
Šifrētas spriešanas iegūšana
Pievieno include=["reasoning.encrypted_content"] savam pieprasījumam:
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Solve this problem: if a train leaves Paris at 2 PM at 200 km/h "
"and another from Lyon at 3 PM at 300 km/h, when do they meet?",
include=["reasoning.encrypted_content"]
)
Atbilde saturēs papildu lauku ar šifrēto spriešanu:
{
"output": [
{
"type": "reasoning",
"encrypted_content": "eyJhbGciOiJSU0EtT0FFUCIsImVuYyI6..."
},
{
"type": "message",
"content": [{"type": "output_text", "text": "The two trains meet at..."}]
}
]
}
Spriešanas atkārtota izmantošana sarunā
Galvenais šifrētas spriešanas ieguvums ir tās atkārtota ievade turpmākajos pieprasījumos. Tas ļauj modelim atsākt darbu tieši tur, kur tas pārtrauca savu domāšanas procesu:
# 1. pieprasījums: sākotnējā problēma
response1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Prove that the square root of 2 is irrational.",
include=["reasoning.encrypted_content"]
)
# Šifrētās spriešanas izgūšana
encrypted = None
for item in response1.output:
if item.type == "reasoning":
encrypted = item.encrypted_content
break
# 2. pieprasījums: padziļināšanās, saglabājot spriešanu
response2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Can you generalize this proof to roots of prime numbers?",
previous_response_id=response1.id,
include=["reasoning.encrypted_content"]
)
Šifrēta spriešana pret klasisko ķēdēšanu
| Pieeja | Tekstuālais konteksts | Spriešanas nepārtrauktība |
|---|---|---|
Tikai previous_response_id | Jā | Nē — modelis atsāk spriešanu no jauna |
previous_response_id + šifrēta spriešana | Jā | Jā — modelis atsāk savu domāšanas ķēdi |
Atšķirība ir smalka, bet kritiski svarīga sarežģītos spriešanas uzdevumos. Ar šifrētu saturu modelis ne tikai atkārtoti nelasa kontekstu: tas atsāk savu iekšējo domāšanas procesu.
Kad izmantot šifrētu spriešanu?
Ieteicams
Visos šajos gadījumos kopīgais pavediens ir vienāds: saruna, kurā N+1 solim ir jābalstās uz N sola spriešanu. Matemātikas uzdevums, kas risināts vairākos soļos, zaudē visu loģisko sakarību, ja modelis aizmirst savu ceļu starp diviem ziņojumiem; loģiska analīze, kas veikta secīgu padziļinājumu rezultātā, prasa savas starpposma hipotēzes; iteratīva atkļūdošana — „ko darīt, ja pārbaudām ar šo vērtību?” — ir jēdzīga tikai tad, ja modelis atceras, ko tas jau ir izslēdzis. Vispārīgāk runājot, tiklīdz pamanīji, ka tavs sarunu spriešanas kvalitāte pasliktinās no viena soļa uz nākamo, tā ir zīme, ka spriešanas konteksts ir zudis: šifrētas spriešanas atkārtota ievade ir tieši tas risinājums.
Nav nepieciešams
- Vienkāršas sarunas (faktu jautājumi un atbildes)
- Kreatīvā satura ģenerēšana
- Uzdevumi, kuriem nav nepieciešama strukturēta spriešana
Ietekme uz rēķinu
Šifrētas spriešanas tokeni tiek skaitīti laukā output_tokens_details.reasoning_tokens. Tie tiek tarifēti tāpat kā standarta izvades tokeni. Spriešanas apjoms var būt ievērojams — dažkārt 2 līdz 5 reizes lielāks nekā redzamā atbilde.
Galvenās atziņas
- Šifrētu spriešanu iegūst ar
include=["reasoning.encrypted_content"] - Saturs ir šifrēts — tu to nevari lasīt, bet modelis to var atkārtoti izmantot
- Kombinācijā ar
previous_response_idtas saglabā domāšanas ķēdes nepārtrauktību - Noderīgi sarežģītiem daudzsoloņu spriešanas uzdevumiem
- Par spriešanas tokeniem tiek iekasēta maksa, pat ja tie atbildē nav redzami