Pakartotinis samprotavimų naudojimas vėlesniuose užklausose
Šiame puslapyje
Minčių talpykla
Viena galingiausių „xAI“ šifruotų samprotavimų sistemos funkcijų – galimybė pakartotinai įterpti ankstesnės užklausos samprotavimus į naują. Šis mechanizmas, panašus į „minčių talpyklą“, leidžia modeliui tęsti samprotavimus ten, kur jie buvo nutraukti.
Kaip tai veikia
Procesą sudaro trys žingsniai:
- Pradinė užklausa: siunčiate klausimą su parametru
include=["reasoning.encrypted_content"] - Saugojimas: išsaugote atsakyme gautą šifruotą turinį
- Vėlesnė užklausa: pakartotinai įterpiate šį šifruotą turinį į naują užklausą
Modelis atpažįsta šifruotus samprotavimus ir naudoja juos kaip kontekstą naujoms įžvalgoms formuoti. Jis nepradeda nuo nulio: turi „atmintį“ apie ankstesnį mąstymo procesą.
Žingsnis po žingsnio įgyvendinimas
1 žingsnis: Pradinė užklausa gaunant samprotavimus
from openai import OpenAI
client = OpenAI(
api_key="your-api-key",
base_url="https://api.x.ai/v1"
)
# Pirmoji užklausa
response_1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Explain Bayes' theorem and give a medical example.",
include=["reasoning.encrypted_content"]
)
# Ištraukiame šifruotus samprotavimus
encrypted_reasoning = None
for item in response_1.output:
if item.type == "reasoning":
encrypted_reasoning = item.encrypted_content
2 žingsnis: Vėlesnė užklausa su pakartotiniu įterpimu
# Antroji užklausa, naudojanti ankstesnius samprotavimus
response_2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input=[
# Pakartotinai įterpiame šifruotus samprotavimus iš ankstesnės užklausos
{
"type": "reasoning",
"encrypted_content": encrypted_reasoning
},
# Naujas pranešimas
{
"type": "message",
"role": "user",
"content": "Now, apply this theorem to a COVID test with 95% sensitivity and 99% specificity."
}
],
include=["reasoning.encrypted_content"]
)
Minčių talpyklos privalumai
Samprotavimų tęstinumas
Modeliui nereikia iš naujo kurti viso mąstymo konteksto. Jei jis jau samprotavo apie Bajeso teoremą, gali ją tiesiogiai pritaikyti naujai problemai, nekartodamas demonstracijos.
Žetonų taupymas
Pakartotinai naudodami šifruotus samprotavimus, neleidžiate modeliui iš naujo generuoti žetonų jau aptartoms dalims. Ilguose pokalbiuose sutaupytas kiekis gali būti reikšmingas.
Nuoseklumas
Modelis išlaiko nuoseklumą visuose paeiliui pateikiamuose atsakymuose. Jis neprieštaraus pats sau, nes turi savo samprotavimų pėdsaką.
Apribojimai ir ribotumai
- Tas pats modelis: vieno modelio šifruotų samprotavimų negalima naudoti kitame modelyje. „grok-4.5“ sukurti samprotavimai neveiks su „grok-4.20-0309-reasoning“.
- Dydis: šifruotas turinys gali būti didelis. Stebėkite savo užklausų dydžius.
- Galiojimo laikas: šifruotas turinys gali turėti ribotą galiojimo laiką. Nesaugokite jo neribotą laiką nepatikrinę.
- Jokių pakeitimų: negalite keisti šifruoto turinio. Bet koks pakeitimas jį padaro negaliojančiu.
Naudojimo gamyboje pavyzdžiai
Sudėtingi kelių etapų pokalbiai
Pokalbių robotui, sprendžiančiam matematikos uždavinius per kelis mainus, minčių talpykla palaiko samprotavimų eigą, nereikalaujant iš naujo siųsti viso konteksto.
Validavimo vamzdynas
Vamzdynas, analizuojantis kodą keliais etapais, gali panaudoti pirmojo etapo (problemų identifikavimo) samprotavimus antrajame etape (siūlant sprendimus).
Interaktyvus tutorius
Mokymo sistema gali išsaugoti modelio samprotavimus paaiškinant koncepciją, o vėliau juos panaudoti, kai studentas užduoda papildomų klausimų.
Svarbiausi punktai
- Šifruotus samprotavimus galima pakartotinai įterpti į vėlesnes užklausas per lauką
input - Šis mechanizmas palaiko samprotavimų tęstinumą, neregeneruojant žetonų
- Šifruoti samprotavimai yra susieti su modelu, kuris juos sukūrė
- Niekada nekeiskite šifruoto turinio: jis taps negaliojančiu
- Naudinga kelių etapų pokalbiams, vamzdynams ir interaktyvioms sistemoms