Contesto multi-turn: archiviazione e crittografia
In questa pagina
Il problema del contesto tra le richieste
In una conversazione multi-turn con strumenti, il volume del contesto cresce rapidamente. Ogni chiamata allo strumento aggiunge i suoi risultati al thread dei messaggi e il ragionamento interno del modello deve essere preservato per garantire la coerenza. Due meccanismi risolvono questo problema: l’archiviazione remota e la crittografia lato client.
Metodo 1: store_messages e previous_response_id
L’archiviazione remota delega la gestione del contesto ai server xAI. Abiliti store_messages=True nella tua prima richiesta, quindi colleghi le richieste successive con previous_response_id:
# First request: enable storage
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this sales dataset"}],
tools=my_tools,
store_messages=True
)
response_id = response.id # save the ID
# Next request: use stored context
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
previous_response_id=response_id,
store_messages=True
)
Con questo approccio, non hai bisogno di reinviare l’intera cronologia dei messaggi. Il server xAI mantiene il contesto e lo allega automaticamente. Questo riduce la dimensione della richiesta e semplifica il tuo codice.
Vantaggi
- Richieste più leggere (nessun bisogno di reinviare l’intera cronologia)
- Il ragionamento interno del modello viene preservato automaticamente
- Nessuna gestione complessa dello stato lato client
Limitazioni
- I messaggi sono archiviati sui server xAI (considerazione sulla privacy)
- L’
response_iddeve essere mantenuto tra le richieste - L’archiviazione ha un periodo di conservazione limitato
Metodo 2: use_encrypted_content
La crittografia lato client offre un’alternativa per i casi in cui desideri mantenere il controllo del contesto senza archiviare i tuoi dati sui server xAI:
# Enable encrypted content
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this contract"}],
tools=my_tools,
use_encrypted_content=True
)
# Reasoning and tool outputs are returned encrypted
# You add them as-is to subsequent messages
messages = [
{"role": "user", "content": "Analyze this contract"},
response.choices[0].message, # contains encrypted content
{"role": "user", "content": "What are the termination clauses?"}
]
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
use_encrypted_content=True
)
Con use_encrypted_content=True, il ragionamento interno e i risultati degli strumenti vengono restituiti in forma crittografata. Non puoi leggerli, ma li reinvi nelle richieste successive. Il server li decrittografa per mantenere la continuità del ragionamento.
Vantaggi
- Il contesto rimane sotto il tuo controllo (nessuna archiviazione remota)
- Il ragionamento interno viene preservato senza essere esposto in testo in chiaro
- Compatibile con politiche di privacy rigorose
Limitazioni
- Le richieste sono più grandi (il contenuto crittografato è incluso)
- Devi gestire la cronologia dei messaggi lato client
Scegliere tra i due metodi
La scelta dipende dal tuo contesto:
- store_messages: preferibile per applicazioni di chat, assistenti interattivi e casi in cui la semplicità viene prima di tutto. Il contesto è gestito automaticamente.
- use_encrypted_content: preferibile per applicazioni sensibili, elaborazione di documenti riservati e casi in cui i dati non devono lasciare la tua infrastruttura (oltre al transito API).
Combinazione con il flusso di lavoro ibrido
Entrambi i metodi si integrano nel pattern a ciclo visto nella lezione precedente:
async def multi_turn_conversation(questions: list[str]) -> list[str]:
responses = []
previous_id = None
for question in questions:
kwargs = {
"model": "grok-4.5",
"messages": [{"role": "user", "content": question}],
"tools": my_tools,
"store_messages": True,
}
if previous_id:
kwargs["previous_response_id"] = previous_id
response = await client.chat.completions.create(**kwargs)
previous_id = response.id
responses.append(response.choices[0].message.content)
return responses
Questo pattern collega le domande preservando l’intero contesto della conversazione, inclusi i risultati degli strumenti e il ragionamento interno del modello.
Punti chiave
store_messages=True+previous_response_iddelega la gestione del contesto a xAIuse_encrypted_content=Truepreserva il ragionamento senza archiviazione remota- La scelta dipende dai tuoi vincoli di privacy e semplicità
- Entrambi i metodi sono compatibili con flussi di lavoro multi-turn e strumenti ibridi
previous_response_idelimina la necessità di reinviare l’intera cronologia dei messaggi