Премини към основното съдържание
Български— Изберете език
Меню

Повторно използване на разсъжденията в следващи заявки

Урок 6 от 12 Обновен 28 юли 2026 г. Програмист
На тази страница
  1. Кеш на разсъжденията
  2. Как работи
  3. Стъпка по стъпка реализация
  4. Предимства на кеша на разсъжденията
  5. Ограничения и лимити
  6. Случаи на употреба в продукционна среда
  7. Ключови изводи

Кеш на разсъжденията

Една от най-мощните функции на криптираната система за разсъждения на xAI е способността да повторно инжектирате разсъждения от предишна заявка в нова. Този механизъм, подобен на „кеш на разсъжденията“, позволява на модела да продължи разсъжденията си точно от там, където ги е оставил.

Как работи

Процесът се състои от три стъпки:

  1. Първоначална заявка: изпращате въпрос с параметъра include=["reasoning.encrypted_content"]
  2. Съхранение: запазвате криптираното съдържание, върнато в отговора
  3. Следваща заявка: повторно инжектирате това криптирано съдържание в новата заявка

Моделът разпознава криптираните разсъждения и ги използва като контекст за своето ново размисъл. Той не започва отначало: притежава „памет“ за предишния си процес на мислене.

Стъпка по стъпка реализация

Стъпка 1: Първоначална заявка с извличане на разсъждения

from openai import OpenAI

client = OpenAI(
    api_key="your-api-key",
    base_url="https://api.x.ai/v1"
)

# Първа заявка
response_1 = client.responses.create(
    model="grok-4.20-0309-reasoning",
    input="Explain Bayes' theorem and give a medical example.",
    include=["reasoning.encrypted_content"]
)

# Извличане на криптираните разсъждения
encrypted_reasoning = None
for item in response_1.output:
    if item.type == "reasoning":
        encrypted_reasoning = item.encrypted_content

Стъпка 2: Следваща заявка с повторно инжектиране

# Втора заявка, която се възползва от предишните разсъждения
response_2 = client.responses.create(
    model="grok-4.20-0309-reasoning",
    input=[
        # Повторно инжектиране на криптираните разсъждения от предишната заявка
        {
            "type": "reasoning",
            "encrypted_content": encrypted_reasoning
        },
        # Ново съобщение
        {
            "type": "message",
            "role": "user",
            "content": "Now, apply this theorem to a COVID test with 95% sensitivity and 99% specificity."
        }
    ],
    include=["reasoning.encrypted_content"]
)

Предимства на кеша на разсъжденията

Непрекъснатост на разсъжденията

Моделът не трябва да реконструира целия контекст на мислене. Ако вече е разсъждавал върху теоремата на Бейс, той може да я приложи директно към новия проблем, без да преразглежда демонстрацията.

Икономия на токени

Чрез повторното използване на криптирани разсъждения предотвратявате генерирането на нови токени за разсъждения в частта, която вече е обхваната. При дълги разговори икономиите могат да бъдат значителни.

Съгласуваност

Моделът поддържа съгласуваност в последователните си отговори. Той няма да си противоречи, тъй като разполага със следа от собствените си разсъждения.

Ограничения и лимити

  • Един и същи модел: криптираните разсъждения от един модел не могат да бъдат използвани от друг модел. Разсъждения, произведени от grok-4.5, няма да работят с grok-4.20-0309-reasoning.
  • Размер: криптираното съдържание може да бъде голямо. Следете размерите на вашите заявки.
  • Изтичане на валидност: криптираното съдържание може да има ограничен период на валидност. Не го съхранявайте за неопределено време, без да проверите.
  • Без модификация: не можете да променяте криптираното съдържание. Всяка промяна го прави невалидно.

Случаи на употреба в продукционна среда

Сложни многократни разговори

За чатбот, решаващ математически задачи в рамките на няколко обмена, кешът на разсъжденията поддържа нишката на мислене, без да се налага повторно изпращане на всичко в контекста.

Поток за валидиране

Поток, който анализира код в няколко етапа, може да използва повторно разсъжденията от първия етап (идентифициране на проблеми) за втория етап (предлагане на решения).

Интерактивен преподавател

Система за обучение може да съхранява разсъжденията на модела относно обяснението на дадена концепция и след това да ги използва повторно, когато ученикът зададе последващи въпроси.

Ключови изводи

  • Криптираните разсъждения могат да бъдат повторно инжектирани в следващи заявки чрез полето input
  • Този механизъм поддържа непрекъснатост на разсъжденията, без да се генерират отново токени
  • Криптираните разсъждения са свързани с модела, който ги е произвел
  • Никога не модифицирайте криптираното съдържание: то става невалидно
  • Полезно за многократни разговори, потоци от данни и интерактивни системи