Криптирано разсъждение
На тази страница
Вътрешно разсъждение в моделите на Grok
Съвременните модели за разсъждение (като grok-4.20-0309-reasoning) извършват вътрешно разсъждение, преди да генерират отговора си. Този мисловен процес, който обикновено е невидим, може да бъде извлечен в криптиран вид чрез параметъра include. След това можете да го инжектирате отново в последващи заявки, за да запазите непрекъснатостта на разсъждението.
Защо разсъждението е криптирано?
Вътрешното разсъждение съдържа суровия мисловен процес на модела – междинни стъпки, тествани хипотези и изоставени пътища. xAI криптира това съдържание по две причини:
- Интелектуална собственост: Разсъждението разкрива вътрешното функциониране на модела.
- Непрекъснатост: Криптираното съдържание може да бъде повторно използвано от модела, за да възобнови мисловния си процес.
Вие не можете да прочетете криптираното съдържание, но моделът може да го декриптира и използва.
Извличане на криптирано разсъждение
Добавете include=["reasoning.encrypted_content"] към вашата заявка:
response = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Solve this problem: if a train leaves Paris at 2 PM at 200 km/h "
"and another from Lyon at 3 PM at 300 km/h, when do they meet?",
include=["reasoning.encrypted_content"]
)
Отговорът ще съдържа допълнително поле с криптираното разсъждение:
{
"output": [
{
"type": "reasoning",
"encrypted_content": "eyJhbGciOiJSU0EtT0FFUCIsImVuYyI6..."
},
{
"type": "message",
"content": [{"type": "output_text", "text": "The two trains meet at..."}]
}
]
}
Повторно използване на разсъждението в разговор
Основното предимство на криптираното разсъждение е възможността то да бъде инжектирано отново в последващи заявки. Това позволява на модела да възобнови точно от точката, в която е спрял мисловния си процес:
# Заявка 1: първоначален проблем
response1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Prove that the square root of 2 is irrational.",
include=["reasoning.encrypted_content"]
)
# Извличане на криптираното разсъждение
encrypted = None
for item in response1.output:
if item.type == "reasoning":
encrypted = item.encrypted_content
break
# Заявка 2: задълбочаване със запазване на разсъждението
response2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Can you generalize this proof to roots of prime numbers?",
previous_response_id=response1.id,
include=["reasoning.encrypted_content"]
)
Криптирано разсъждение срещу класическо верижно изпълнение
| Подход | Текстов контекст | Непрекъснатост на разсъждението |
|---|---|---|
Само previous_response_id | Да | Не – моделът рестартира разсъждението си |
previous_response_id + криптирано разсъждение | Да | Да – моделът възобновява веригата от мисли |
Разликата е тънка, но важна за сложни задачи за разсъждение. При наличие на криптирано съдържание моделът не просто препрочита контекста: той възобновява вътрешния си мисловен процес.
Кога да използвате криптирано разсъждение?
Препоръчително
Общата нишка във всички тези случаи за употреба е винаги една и съща: разговор, в който ход N+1 трябва да се гради върху разсъждението от ход N. Математическа задача, решавана на няколко стъпки, губи цялата си кохерентност, ако моделът забрави пътя си между две съобщения; логически анализ, провеждан чрез последователни задълбочавания, се нуждае от междинните си хипотези; итеративното отстраняване на грешки – „какво ще стане, ако тестваме с тази стойност?“ – има смисъл само ако моделът помни какво вече е отхвърлил. По-общо казано, щом забележите, че качеството на разсъждението се влошава от един ход към следващия във вашите разговори, това е сигнал, че контекстът на разсъждението е загубен: повторното инжектиране на криптирано разсъждение е точното решение.
Не е необходимо
- Прости разговори (фактологични въпроси и отговори)
- Генериране на творческо съдържание
- Задачи, които не изискват структурирано разсъждение
Върху таксуването
Токените за криптирано разсъждение се броят в output_tokens_details.reasoning_tokens. Те се таксуват на същата тарифа като стандартните изходни токени. Обемът на разсъждението може да бъде значителен – понякога 2 до 5 пъти по-голям от видимия отговор.
Ключови изводи
- Криптираното разсъждение се извлича с
include=["reasoning.encrypted_content"] - Съдържанието е криптирано – вие не можете да го прочетете, но моделът може да го използва повторно
- В комбинация с
previous_response_id, то запазва непрекъснатостта на веригата от мисли - Полезно е за сложни задачи за разсъждение на няколко стъпки
- Токените за разсъждение се таксуват, дори ако са невидими в отговора