Kontext při vícekolových konverzacích: Ukládání a šifrování
Na této stránce
Problém kontextu mezi požadavky
Při vícekolové konverzaci s nástroji objem kontextu rychle roste. Každé volání nástroje přidá své výsledky do vlákna zpráv a pro zachování konzistence je nutné uchovat vnitřní uvažování modelu. Tento problém řeší dva mechanismy: vzdálené úložiště a šifrování na straně klienta.
Metoda 1: store_messages a previous_response_id
Vzdálené úložiště přenáší správu kontextu na servery xAI. V prvním požadavku povolíš store_messages=True a následné požadavky řetězíš pomocí previous_response_id:
# První požadavek: povolit ukládání
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this sales dataset"}],
tools=my_tools,
store_messages=True
)
response_id = response.id # uložit ID
# Další požadavek: použít uložený kontext
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
previous_response_id=response_id,
store_messages=True
)
Při tomto přístupu nemusíš znovu odesílat celou historii zpráv. Server xAI uchovává kontext a automaticky jej připojuje. To zmenšuje velikost požadavků a zjednodušuje tvůj kód.
Výhody
- Lehčí požadavky (není třeba znovu odesílat celou historii)
- Vnitřní uvažování modelu je automaticky zachováno
- Žádná složitá správa stavu na straně klienta
Omezení
- Zprávy jsou uloženy na serverech xAI (otázkou je soukromí)
- Mezi požadavky je nutné uchovávat
response_id - Úložiště má omezenou dobu retence
Metoda 2: use_encrypted_content
Šifrování na straně klienta nabízí alternativu pro případy, kdy chceš zachovat kontrolu nad kontextem bez ukládání dat na servery xAI:
# Povolit šifrovaný obsah
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this contract"}],
tools=my_tools,
use_encrypted_content=True
)
# Uvažování a výstupy nástrojů jsou vráceny zašifrovaně
# Přidáš je tak, jak jsou, do následujících zpráv
messages = [
{"role": "user", "content": "Analyze this contract"},
response.choices[0].message, # obsahuje šifrovaný obsah
{"role": "user", "content": "What are the termination clauses?"}
]
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
use_encrypted_content=True
)
S nastavením use_encrypted_content=True jsou vnitřní uvažování a výsledky nástrojů vráceny v zašifrované podobě. Nemůžeš si je přečíst, ale v následujících požadavcích je znovu odešleš. Server je dešifruje, aby zachoval kontinuitu uvažování.
Výhody
- Kontext zůstává pod tvou kontrolou (žádné vzdálené úložiště)
- Vnitřní uvažování je zachováno, aniž by bylo vystaveno v čitelné podobě
- Kompatibilní s přísnými zásadami ochrany osobních údajů
Omezení
- Požadavky jsou větší (součástí je šifrovaný obsah)
- Historii zpráv musíš spravovat na straně klienta
Volba mezi oběma metodami
Volba závisí na tvém kontextu:
- store_messages: vhodnější pro chatové aplikace, interaktivní asistenty a případy, kde je prioritou jednoduchost. Kontext je spravován automaticky.
- use_encrypted_content: vhodnější pro citlivé aplikace, zpracování důvěrných dokumentů a případy, kdy data nesmí opustit tvou infrastrukturu (nad rámec přenosu přes API).
Kombinace s hybridním pracovním postupem
Obě metody se integrují do smyčkového vzoru z předchozí lekce:
async def multi_turn_conversation(questions: list[str]) -> list[str]:
responses = []
previous_id = None
for question in questions:
kwargs = {
"model": "grok-4.5",
"messages": [{"role": "user", "content": question}],
"tools": my_tools,
"store_messages": True,
}
if previous_id:
kwargs["previous_response_id"] = previous_id
response = await client.chat.completions.create(**kwargs)
previous_id = response.id
responses.append(response.choices[0].message.content)
return responses
Tento vzor řetězí otázky při zachování celého kontextu konverzace, včetně výsledků nástrojů a vnitřního uvažování modelu.
Klíčové poznatky
store_messages=True+previous_response_idpřenáší správu kontextu na xAIuse_encrypted_content=Truezachovává uvažování bez vzdáleného úložiště- Volba závisí na tvých požadavcích na soukromí a jednoduchost
- Obě metody jsou kompatibilní s vícekolovými pracovními postupy a hybridními nástroji
previous_response_ideliminuje potřebu znovu odesílat celou historii zpráv