Monivaiheinen konteksti: tallennus ja salaus
Tällä sivulla
Kontekstiongelma pyyntöjen välillä
Työkaluja hyödyntävässä monivaiheisessa keskustelussa kontekstin määrä kasvaa nopeasti. Jokainen työkalukutsu lisää tuloksensa viestiketjuun, ja mallin sisäinen päättely on säilytettävä johdonmukaisuuden vuoksi. Tähän ongelmaan on kaksi ratkaisua: etätallennus ja asiakaspuolen salaus.
Menetelmä 1: store_messages ja previous_response_id
Etätallennus siirtää kontekstinhallinnan xAI-palvelimille. Ota käyttöön store_messages=True ensimmäisessä pyynnössäsi ja ketjuta myöhemmät pyynnöt käyttämällä parametria previous_response_id:
# Ensimmäinen pyyntö: ota tallennus käyttöön
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this sales dataset"}],
tools=my_tools,
store_messages=True
)
response_id = response.id # tallenna tunnus
# Seuraava pyyntö: käytä tallennettua kontekstia
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
previous_response_id=response_id,
store_messages=True
)
Tällä lähestymistavalla sinun ei tarvitse lähettää koko viestihistoriaa uudelleen. xAI-palvelin pitää kontekstin yllä ja liittää sen automaattisesti. Tämä pienentää pyynnön kokoa ja yksinkertaistaa koodiasi.
Edut
- Kevyemmät pyynnöt (koko historiaa ei tarvitse lähettää uudelleen)
- Mallin sisäinen päättely säilyy automaattisesti
- Ei monimutkaista tilanhallintaa asiakaspuolella
Rajoitukset
- Viestit tallennetaan xAI-palvelimille (huomioi tietosuoja)
response_idon säilytettävä pyyntöjen välillä- Tallennuksella on rajoitettu säilytysaika
Menetelmä 2: use_encrypted_content
Asiakaspuolen salaus tarjoaa vaihtoehdon tilanteisiin, joissa haluat pitää kontekstin hallinnassa itse etkä tallentaa dataasi xAI-palvelimille:
# Ota salattu sisältö käyttöön
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this contract"}],
tools=my_tools,
use_encrypted_content=True
)
# Päättely ja työkalujen tulokset palautetaan salattuina
# Lisää ne sellaisinaan myöhempiin viesteihin
messages = [
{"role": "user", "content": "Analyze this contract"},
response.choices[0].message, # sisältää salatun sisällön
{"role": "user", "content": "What are the termination clauses?"}
]
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
use_encrypted_content=True
)
Kun use_encrypted_content=True, sisäinen päättely ja työkalujen tulokset palautetaan salatussa muodossa. Et voi lukea niitä, mutta lähetät ne uudelleen myöhemmissä pyynnöissä. Palvelin purkaa salauksen säilyttääkseen päättelyn jatkuvuuden.
Edut
- Konteksti pysyy hallinnassasi (ei etätallennusta)
- Sisäinen päättely säilyy paljastumatta selväkielisenä
- Yhteensopiva tiukkojen tietosuojakäytäntöjen kanssa
Rajoitukset
- Pyynnöt ovat suurempia (salattu sisältö sisällytetään mukaan)
- Sinun on hallittava viestihistoriaa asiakaspuolella
Menetelmien valinta
Valinta riippuu käyttötarkoituksestasi:
- store_messages: suositeltava chat-sovelluksiin, vuorovaikutteisiin avustajiin ja tapauksiin, joissa yksinkertaisuus on etusijalla. Konteksti hallitaan automaattisesti.
- use_encrypted_content: suositeltava arkaluonteisiin sovelluksiin, luottamuksellisten asiakirjojen käsittelyyn ja tilanteisiin, joissa datan ei tule poistua infrastruktuuristasi (API-liikennettä lukuun ottamatta).
Yhdistäminen hybridityönkulkuun
Molemmat menetelmät integroituvat edellisellä tunnilla nähtyyn silmukkakuvioon:
async def multi_turn_conversation(questions: list[str]) -> list[str]:
responses = []
previous_id = None
for question in questions:
kwargs = {
"model": "grok-4.5",
"messages": [{"role": "user", "content": question}],
"tools": my_tools,
"store_messages": True,
}
if previous_id:
kwargs["previous_response_id"] = previous_id
response = await client.chat.completions.create(**kwargs)
previous_id = response.id
responses.append(response.choices[0].message.content)
return responses
Tämä kuvio ketjuttaa kysymykset säilyttäen koko keskustelukontekstin, mukaan lukien työkalujen tulokset ja mallin sisäisen päättelyn.
Keskeiset asiat
store_messages=True+previous_response_idsiirtää kontekstinhallinnan xAI:lleuse_encrypted_content=Truesäilyttää päättelyn ilman etätallennusta- Valinta riippuu tietosuoja- ja yksinkertaisuusvaatimuksistasi
- Molemmat menetelmät yhteensopivia monivaiheisten työnkulkujen ja hybridityökalujen kanssa
previous_response_idpoistaa tarpeen lähettää koko viestihistoria uudelleen