Премини към основното съдържание
Български— Изберете език
Меню

Многократен контекст: съхранение и криптиране

Урок 9 от 12 Обновен 30 юли 2026 г. Напреднало
На тази страница
  1. Проблемът с контекста между заявките
  2. Метод 1: store_messages и previous_response_id
  3. Метод 2: use_encrypted_content
  4. Избор между двата метода
  5. Комбиниране с хибридния работен поток
  6. Ключови изводи

Проблемът с контекста между заявките

При многократен разговор с използване на инструменти обемът на контекста нараства бързо. Всяко извикване на инструмент добавя резултатите си към нишката от съобщения, а вътрешните разсъждения на модела трябва да се запазят за осигуряване на последователност. Два механизма решават този проблем: отдалечено съхранение и криптиране на страната на клиента.

Метод 1: store_messages и previous_response_id

Отдалеченото съхранение прехвърля управлението на контекста към сървърите на xAI. Активирате store_messages=True в първата си заявка, след което свързвате последващите заявки чрез previous_response_id:

# Първа заявка: активиране на съхранението
response = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": "Analyze this sales dataset"}],
    tools=my_tools,
    store_messages=True
)

response_id = response.id  # запазете идентификатора

# Следваща заявка: използване на съхранения контекст
response2 = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
    previous_response_id=response_id,
    store_messages=True
)

С този подход не е необходимо да изпращате отново пълната история на съобщенията. Сървърът на xAI запазва контекста и го прикачва автоматично. Това намалява размера на заявката и опростява кода Ви.

Предимства

  • По-леки заявки (няма нужда да изпращате отново пълната история)
  • Вътрешните разсъждения на модела се запазват автоматично
  • Липса на сложно управление на състоянието на страната на клиента

Ограничения

  • Съобщенията се съхраняват на сървърите на xAI (съображение за поверителност)
  • response_id трябва да се запазва между заявките
  • Съхранението има ограничен период на задържане

Метод 2: use_encrypted_content

Криптирането на страната на клиента предлага алтернатива за случаи, в които искате да запазите контрол над контекста, без да съхранявате данните си на сървърите на xAI:

# Активиране на криптирано съдържание
response = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": "Analyze this contract"}],
    tools=my_tools,
    use_encrypted_content=True
)

# Разсъжденията и изходите на инструментите се връщат криптирани
# Добавяте ги както са към последващите съобщения
messages = [
    {"role": "user", "content": "Analyze this contract"},
    response.choices[0].message,  # съдържа криптирано съдържание
    {"role": "user", "content": "What are the termination clauses?"}
]

response2 = await client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    use_encrypted_content=True
)

При use_encrypted_content=True вътрешните разсъждения и резултатите от инструментите се връщат в криптиран вид. Не можете да ги прочетете, но ги изпращате отново в последващи заявки. Сървърът ги декриптира, за да поддържа непрекъснатост на разсъжденията.

Предимства

  • Контекстът остава под Ваш контрол (без отдалечено съхранение)
  • Вътрешните разсъждения се запазват, без да бъдат изложени в четим вид
  • Съвместимост със строги политики за поверителност

Ограничения

  • Заявките са по-големи (криптираното съдържание е включено)
  • Трябва да управлявате историята на съобщенията на страната на клиента

Избор между двата метода

Изборът зависи от Вашия контекст:

  • store_messages: за предпочитане е за чат приложения, интерактивни асистенти и случаи, при които простотата е от първостепенно значение. Контекстът се управлява автоматично.
  • use_encrypted_content: за предпочитане е за чувствителни приложения, обработка на поверителни документи и случаи, при които данните не трябва да напускат Вашата инфраструктура (извън транзита през API).

Комбиниране с хибридния работен поток

И двата метода се интегрират в цикличния шаблон, разгледан в предишния урок:

async def multi_turn_conversation(questions: list[str]) -> list[str]:
    responses = []
    previous_id = None

    for question in questions:
        kwargs = {
            "model": "grok-4.5",
            "messages": [{"role": "user", "content": question}],
            "tools": my_tools,
            "store_messages": True,
        }
        if previous_id:
            kwargs["previous_response_id"] = previous_id

        response = await client.chat.completions.create(**kwargs)
        previous_id = response.id
        responses.append(response.choices[0].message.content)

    return responses

Този шаблон свързва въпросите, като същевременно запазва пълния контекст на разговора, включително резултатите от инструментите и вътрешните разсъждения на модела.

Ключови изводи

  • store_messages=True + previous_response_id прехвърля управлението на контекста към xAI
  • use_encrypted_content=True запазва разсъжденията без отдалечено съхранение
  • Изборът зависи от Вашите изисквания за поверителност и простота
  • И двата метода са съвместими с многократни работни потоци и хибридни инструменти
  • previous_response_id елиминира необходимостта от повторно изпращане на пълната история на съобщенията