Salattu päättely
Tällä sivulla
Sisäinen päättely Grok-malleissa
Tuoreet päättelymallit (kuten grok-4.20-0309-reasoning) suorittavat sisäistä päättelyä ennen vastauksen tuottamista. Tämä ajatusprosessi, joka on normaalisti näkymätön, voidaan noutaa salatussa muodossa käyttämällä parametria include. Voit sen jälkeen syöttää sen uudelleen myöhempiin pyyntöihin säilyttääksesi päättelyn jatkuvuuden.
Miksi päättely on salattua?
Sisäinen päättely sisältää mallin raakamuotoisen ajatusprosessin – välivaiheet, testatut hypoteesit ja hylätyt polut. xAI salaa tämän sisällön kahdesta syystä:
- Immateriaalioikeudet: Päättely paljastaa mallin sisäisen toiminnan
- Jatkuvuus: Malli voi käyttää salattua sisältöä jatkaakseen ajatusprosessiaan
Et voi lukea salattua sisältöä, mutta malli pystyy purkamaan sen ja käyttämään sitä.
Salatun päättelyn noutaminen
Lisää include=["reasoning.encrypted_content"] pyyntöösi:
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Solve this problem: if a train leaves Paris at 2 PM at 200 km/h "
"and another from Lyon at 3 PM at 300 km/h, when do they meet?",
include=["reasoning.encrypted_content"]
)
Vastaus sisältää ylimääräisen kentän, jossa on salattu päättely:
{
"output": [
{
"type": "reasoning",
"encrypted_content": "eyJhbGciOiJSU0EtT0FFUCIsImVuYyI6..."
},
{
"type": "message",
"content": [{"type": "output_text", "text": "The two trains meet at..."}]
}
]
}
Päättelyn uudelleenkäyttö keskustelussa
Salatun päättelyn suurin hyöty on sen uudelleensyöttäminen myöhempiin pyyntöihin. Tämä mahdollistaa sen, että malli jatkaa täsmälleen siitä, mihin se jäi ajatusprosessissaan:
# Pyyntö 1: alkuperäinen ongelma
response1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Prove that the square root of 2 is irrational.",
include=["reasoning.encrypted_content"]
)
# Poimi salattu päättely
encrypted = None
for item in response1.output:
if item.type == "reasoning":
encrypted = item.encrypted_content
break
# Pyyntö 2: syvenny asiaan säilyttäen päättely
response2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Can you generalize this proof to roots of prime numbers?",
previous_response_id=response1.id,
include=["reasoning.encrypted_content"]
)
Salattu päättely vs. klassinen ketjutus
| Lähestymistapa | Tekstuaalinen konteksti | Päättelyn jatkuvuus |
|---|---|---|
Vain previous_response_id | Kyllä | Ei – malli aloittaa päättelyn alusta |
previous_response_id + salattu päättely | Kyllä | Kyllä – malli jatkaa ajatusketjuaan |
Ero on hienovarainen, mutta tärkeä monimutkaisissa päättelytehtävissä. Salatun sisällön avulla malli ei vain lue kontekstia uudelleen: se jatkaa sisäistä ajatusprosessiaan.
Milloin käyttää salattua päättelyä?
Suositeltavaa
Näiden käyttötapauksien yhteinen nimittäjä on aina sama: keskustelu, jossa vuoro N+1:n täytyy rakentua vuoron N päättelyn varaan. Useassa vaiheessa ratkaistava matematiikan tehtävä menettää kaiken johdonmukaisuutensa, jos malli unohtaa polkunsa kahden viestin välillä; looginen analyysi, joka tehdään peräkkäisinä syventymisinä, tarvitsee välihypoteesinsa; iteratiivinen vianetsintä – “mitä jos testaamme tällä arvolla?” – on järkevää vain, jos malli muistaa, mitä se on jo sulkenut pois. Yleisemmin, heti kun huomaat päättelyn laadun heikkenevän vuorosta toiseen keskusteluissasi, se on merkki siitä, että päättelykonteksti on kadonnut: salatun päättelyn uudelleensyöttäminen on juuri tähän lääke.
Ei välttämätöntä
- Yksinkertaiset keskustelut (faktuaaliset kysymykset ja vastaukset)
- Luovan sisällön tuottaminen
- Tehtävät, jotka eivät vaadi strukturoitua päättelyä
Vaikutus laskutukseen
Salatun päättelyn tokenit lasketaan kohdassa output_tokens_details.reasoning_tokens. Niistä veloitetaan sama hinta kuin tavallisista tulostokeneista. Päättelyn volyymi voi olla merkittävä – joskus 2–5 kertaa suurempi kuin näkyvä vastaus.
Keskeiset asiat
- Salattu päättely noudetaan parametrilla
include=["reasoning.encrypted_content"] - Sisältö on salattua – et voi lukea sitä, mutta malli voi käyttää sitä uudelleen
- Yhdessä parametrin
previous_response_idkanssa se ylläpitää ajatusketjun jatkuvuutta - Hyödyllinen monimutkaisissa, usean vaiheen päättelytehtävissä
- Päättelytokeneista veloitetaan, vaikka ne eivät näkyisi vastauksessa