Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Monivaiheinen konteksti: tallennus ja salaus

Oppitunti 9 / 12 Päivitetty 30. heinäkuuta 2026 Edistynyt
Tällä sivulla
  1. Kontekstiongelma pyyntöjen välillä
  2. Menetelmä 1: store_messages ja previous_response_id
  3. Menetelmä 2: use_encrypted_content
  4. Menetelmien valinta
  5. Yhdistäminen hybridityönkulkuun
  6. Keskeiset asiat

Kontekstiongelma pyyntöjen välillä

Työkaluja hyödyntävässä monivaiheisessa keskustelussa kontekstin määrä kasvaa nopeasti. Jokainen työkalukutsu lisää tuloksensa viestiketjuun, ja mallin sisäinen päättely on säilytettävä johdonmukaisuuden vuoksi. Tähän ongelmaan on kaksi ratkaisua: etätallennus ja asiakaspuolen salaus.

Menetelmä 1: store_messages ja previous_response_id

Etätallennus siirtää kontekstinhallinnan xAI-palvelimille. Ota käyttöön store_messages=True ensimmäisessä pyynnössäsi ja ketjuta myöhemmät pyynnöt käyttämällä parametria previous_response_id:

# Ensimmäinen pyyntö: ota tallennus käyttöön
response = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": "Analyze this sales dataset"}],
    tools=my_tools,
    store_messages=True
)

response_id = response.id  # tallenna tunnus

# Seuraava pyyntö: käytä tallennettua kontekstia
response2 = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
    previous_response_id=response_id,
    store_messages=True
)

Tällä lähestymistavalla sinun ei tarvitse lähettää koko viestihistoriaa uudelleen. xAI-palvelin pitää kontekstin yllä ja liittää sen automaattisesti. Tämä pienentää pyynnön kokoa ja yksinkertaistaa koodiasi.

Edut

  • Kevyemmät pyynnöt (koko historiaa ei tarvitse lähettää uudelleen)
  • Mallin sisäinen päättely säilyy automaattisesti
  • Ei monimutkaista tilanhallintaa asiakaspuolella

Rajoitukset

  • Viestit tallennetaan xAI-palvelimille (huomioi tietosuoja)
  • response_id on säilytettävä pyyntöjen välillä
  • Tallennuksella on rajoitettu säilytysaika

Menetelmä 2: use_encrypted_content

Asiakaspuolen salaus tarjoaa vaihtoehdon tilanteisiin, joissa haluat pitää kontekstin hallinnassa itse etkä tallentaa dataasi xAI-palvelimille:

# Ota salattu sisältö käyttöön
response = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": "Analyze this contract"}],
    tools=my_tools,
    use_encrypted_content=True
)

# Päättely ja työkalujen tulokset palautetaan salattuina
# Lisää ne sellaisinaan myöhempiin viesteihin
messages = [
    {"role": "user", "content": "Analyze this contract"},
    response.choices[0].message,  # sisältää salatun sisällön
    {"role": "user", "content": "What are the termination clauses?"}
]

response2 = await client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    use_encrypted_content=True
)

Kun use_encrypted_content=True, sisäinen päättely ja työkalujen tulokset palautetaan salatussa muodossa. Et voi lukea niitä, mutta lähetät ne uudelleen myöhemmissä pyynnöissä. Palvelin purkaa salauksen säilyttääkseen päättelyn jatkuvuuden.

Edut

  • Konteksti pysyy hallinnassasi (ei etätallennusta)
  • Sisäinen päättely säilyy paljastumatta selväkielisenä
  • Yhteensopiva tiukkojen tietosuojakäytäntöjen kanssa

Rajoitukset

  • Pyynnöt ovat suurempia (salattu sisältö sisällytetään mukaan)
  • Sinun on hallittava viestihistoriaa asiakaspuolella

Menetelmien valinta

Valinta riippuu käyttötarkoituksestasi:

  • store_messages: suositeltava chat-sovelluksiin, vuorovaikutteisiin avustajiin ja tapauksiin, joissa yksinkertaisuus on etusijalla. Konteksti hallitaan automaattisesti.
  • use_encrypted_content: suositeltava arkaluonteisiin sovelluksiin, luottamuksellisten asiakirjojen käsittelyyn ja tilanteisiin, joissa datan ei tule poistua infrastruktuuristasi (API-liikennettä lukuun ottamatta).

Yhdistäminen hybridityönkulkuun

Molemmat menetelmät integroituvat edellisellä tunnilla nähtyyn silmukkakuvioon:

async def multi_turn_conversation(questions: list[str]) -> list[str]:
    responses = []
    previous_id = None

    for question in questions:
        kwargs = {
            "model": "grok-4.5",
            "messages": [{"role": "user", "content": question}],
            "tools": my_tools,
            "store_messages": True,
        }
        if previous_id:
            kwargs["previous_response_id"] = previous_id

        response = await client.chat.completions.create(**kwargs)
        previous_id = response.id
        responses.append(response.choices[0].message.content)

    return responses

Tämä kuvio ketjuttaa kysymykset säilyttäen koko keskustelukontekstin, mukaan lukien työkalujen tulokset ja mallin sisäisen päättelyn.

Keskeiset asiat

  • store_messages=True + previous_response_id siirtää kontekstinhallinnan xAI:lle
  • use_encrypted_content=True säilyttää päättelyn ilman etätallennusta
  • Valinta riippuu tietosuoja- ja yksinkertaisuusvaatimuksistasi
  • Molemmat menetelmät yhteensopivia monivaiheisten työnkulkujen ja hybridityökalujen kanssa
  • previous_response_id poistaa tarpeen lähettää koko viestihistoria uudelleen