Многократен контекст: съхранение и криптиране
На тази страница
Проблемът с контекста между заявките
При многократен разговор с използване на инструменти обемът на контекста нараства бързо. Всяко извикване на инструмент добавя резултатите си към нишката от съобщения, а вътрешните разсъждения на модела трябва да се запазят за осигуряване на последователност. Два механизма решават този проблем: отдалечено съхранение и криптиране на страната на клиента.
Метод 1: store_messages и previous_response_id
Отдалеченото съхранение прехвърля управлението на контекста към сървърите на xAI. Активирате store_messages=True в първата си заявка, след което свързвате последващите заявки чрез previous_response_id:
# Първа заявка: активиране на съхранението
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this sales dataset"}],
tools=my_tools,
store_messages=True
)
response_id = response.id # запазете идентификатора
# Следваща заявка: използване на съхранения контекст
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
previous_response_id=response_id,
store_messages=True
)
С този подход не е необходимо да изпращате отново пълната история на съобщенията. Сървърът на xAI запазва контекста и го прикачва автоматично. Това намалява размера на заявката и опростява кода Ви.
Предимства
- По-леки заявки (няма нужда да изпращате отново пълната история)
- Вътрешните разсъждения на модела се запазват автоматично
- Липса на сложно управление на състоянието на страната на клиента
Ограничения
- Съобщенията се съхраняват на сървърите на xAI (съображение за поверителност)
response_idтрябва да се запазва между заявките- Съхранението има ограничен период на задържане
Метод 2: use_encrypted_content
Криптирането на страната на клиента предлага алтернатива за случаи, в които искате да запазите контрол над контекста, без да съхранявате данните си на сървърите на xAI:
# Активиране на криптирано съдържание
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this contract"}],
tools=my_tools,
use_encrypted_content=True
)
# Разсъжденията и изходите на инструментите се връщат криптирани
# Добавяте ги както са към последващите съобщения
messages = [
{"role": "user", "content": "Analyze this contract"},
response.choices[0].message, # съдържа криптирано съдържание
{"role": "user", "content": "What are the termination clauses?"}
]
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
use_encrypted_content=True
)
При use_encrypted_content=True вътрешните разсъждения и резултатите от инструментите се връщат в криптиран вид. Не можете да ги прочетете, но ги изпращате отново в последващи заявки. Сървърът ги декриптира, за да поддържа непрекъснатост на разсъжденията.
Предимства
- Контекстът остава под Ваш контрол (без отдалечено съхранение)
- Вътрешните разсъждения се запазват, без да бъдат изложени в четим вид
- Съвместимост със строги политики за поверителност
Ограничения
- Заявките са по-големи (криптираното съдържание е включено)
- Трябва да управлявате историята на съобщенията на страната на клиента
Избор между двата метода
Изборът зависи от Вашия контекст:
- store_messages: за предпочитане е за чат приложения, интерактивни асистенти и случаи, при които простотата е от първостепенно значение. Контекстът се управлява автоматично.
- use_encrypted_content: за предпочитане е за чувствителни приложения, обработка на поверителни документи и случаи, при които данните не трябва да напускат Вашата инфраструктура (извън транзита през API).
Комбиниране с хибридния работен поток
И двата метода се интегрират в цикличния шаблон, разгледан в предишния урок:
async def multi_turn_conversation(questions: list[str]) -> list[str]:
responses = []
previous_id = None
for question in questions:
kwargs = {
"model": "grok-4.5",
"messages": [{"role": "user", "content": question}],
"tools": my_tools,
"store_messages": True,
}
if previous_id:
kwargs["previous_response_id"] = previous_id
response = await client.chat.completions.create(**kwargs)
previous_id = response.id
responses.append(response.choices[0].message.content)
return responses
Този шаблон свързва въпросите, като същевременно запазва пълния контекст на разговора, включително резултатите от инструментите и вътрешните разсъждения на модела.
Ключови изводи
store_messages=True+previous_response_idпрехвърля управлението на контекста към xAIuse_encrypted_content=Trueзапазва разсъжденията без отдалечено съхранение- Изборът зависи от Вашите изисквания за поверителност и простота
- И двата метода са съвместими с многократни работни потоци и хибридни инструменти
previous_response_idелиминира необходимостта от повторно изпращане на пълната история на съобщенията