Riutilizzare il ragionamento nelle richieste successive
In questa pagina
Cache dei pensieri
Una delle funzionalità più potenti del sistema di ragionamento crittografato di xAI è la capacità di reiniettare il ragionamento di una richiesta precedente in una nuova. Questo meccanismo, simile a una «cache dei pensieri», permette al modello di riprendere il proprio ragionamento esattamente da dove si era interrotto.
Come funziona
Il processo si articola in tre passaggi:
- Richiesta iniziale: invii una domanda con
include=["reasoning.encrypted_content"] - Archiviazione: conservi il contenuto crittografato restituito nella risposta
- Richiesta successiva: reinietti questo contenuto crittografato nella nuova richiesta
Il modello riconosce il ragionamento crittografato e lo utilizza come contesto per la sua nuova riflessione. Non riparte da zero: ha «memoria» del suo precedente processo di pensiero.
Implementazione passo dopo passo
Passaggio 1: Richiesta iniziale con recupero del ragionamento
from openai import OpenAI
client = OpenAI(
api_key="your-api-key",
base_url="https://api.x.ai/v1"
)
# Prima richiesta
response_1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Explain Bayes' theorem and give a medical example.",
include=["reasoning.encrypted_content"]
)
# Estrai il ragionamento crittografato
encrypted_reasoning = None
for item in response_1.output:
if item.type == "reasoning":
encrypted_reasoning = item.encrypted_content
Passaggio 2: Richiesta successiva con reiniezione
# Seconda richiesta che beneficia del ragionamento precedente
response_2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input=[
# Reinietta il ragionamento crittografato dalla richiesta precedente
{
"type": "reasoning",
"encrypted_content": encrypted_reasoning
},
# Nuovo messaggio
{
"type": "message",
"role": "user",
"content": "Now, apply this theorem to a COVID test with 95% sensitivity and 99% specificity."
}
],
include=["reasoning.encrypted_content"]
)
Vantaggi della cache dei pensieri
Continuità del ragionamento
Il modello non ha bisogno di ricostruire l’intero contesto di pensiero. Se ha già ragionato sul teorema di Bayes, può applicarlo direttamente al nuovo problema senza ripetere la dimostrazione.
Risparmio di token
Riutilizzando il ragionamento crittografato, eviti che il modello rigeneri i token di ragionamento per la parte già trattata. Nelle conversazioni lunghe, il risparmio può essere significativo.
Coerenza
Il modello mantiene la coerenza tra le sue risposte successive. Non si contraddirà, poiché dispone della traccia del proprio ragionamento.
Vincoli e limitazioni
- Stesso modello: il ragionamento crittografato di un modello non può essere riutilizzato da un altro modello. Il ragionamento prodotto da grok-4.5 non funzionerà con grok-4.20-0309-reasoning.
- Dimensioni: il contenuto crittografato può essere voluminoso. Monitora le dimensioni delle tue richieste.
- Scadenza: il contenuto crittografato potrebbe avere un periodo di validità limitato. Non archiviarlo indefinitamente senza verificare.
- Nessuna modifica: non puoi alterare il contenuto crittografato. Qualsiasi modifica lo rende invalido.
Casi d’uso in produzione
Conversazioni complesse a più turni
Per un chatbot che risolve problemi matematici attraverso diversi scambi, la cache dei pensieri mantiene il filo del ragionamento senza dover reinviare tutto nel contesto.
Pipeline di validazione
Una pipeline che analizza il codice in più passaggi può riutilizzare il ragionamento del primo passaggio (identificazione dei problemi) per il secondo passaggio (proposta di correzioni).
Tutor interattivo
Un sistema di tutoraggio può memorizzare il ragionamento del modello sulla spiegazione di un concetto, per poi riutilizzarlo quando lo studente pone domande di approfondimento.
Punti chiave
- Il ragionamento crittografato può essere reiniettato nelle richieste successive tramite il campo
input - Questo meccanismo mantiene la continuità del ragionamento senza rigenerare token
- Il ragionamento crittografato è legato al modello che lo ha prodotto
- Non modificare mai il contenuto crittografato: diventerebbe invalido
- Utile per conversazioni a più turni, pipeline e sistemi interattivi