Wiederverwendung von Schlussfolgerungen in nachfolgenden Anfragen — Grok Reasoning-Modelle

Gedächtnis für Schlussfolgerungen

Eine der leistungsfähigsten Funktionen des verschlüsselten Schlussfolgerungssystems von xAI ist die Möglichkeit, Schlussfolgerungen aus einer vorherigen Anfrage in eine neue Anfrage wieder einzuspeisen. Dieser Mechanismus, der einem „Gedächtnis für Schlussfolgerungen” (Thought Cache) ähnelt, ermöglicht es dem Modell, seine Überlegungen dort fortzusetzen, wo sie aufgehört haben.

Funktionsweise

Der Prozess besteht aus drei Schritten:

Erste Anfrage: Sie senden eine Frage mit include=["reasoning.encrypted_content"]
Speicherung: Sie bewahren den in der Antwort zurückgegebenen verschlüsselten Inhalt auf
Nachfolgende Anfrage: Sie speisen diesen verschlüsselten Inhalt in die neue Anfrage wieder ein

Das Modell erkennt den verschlüsselten Schlussfolgern und nutzt ihn als Kontext für seine neue Reflexion. Es beginnt nicht von vorne: Es verfügt über ein „Gedächtnis” für seinen vorherigen Denkprozess.

Schritt-für-Schritt-Implementierung

Schritt 1: Erste Anfrage mit Abruf von Schlussfolgerungen

from openai import OpenAI

client = OpenAI(
    api_key="your-api-key",
    base_url="https://api.x.ai/v1"
)

# Erste Anfrage
response_1 = client.responses.create(
    model="grok-4.20-0309-reasoning",
    input="Erklären Sie den Satz von Bayes und geben Sie ein medizinisches Beispiel.",
    include=["reasoning.encrypted_content"]
)

# Extrahieren des verschlüsselten Schlussfolgern
encrypted_reasoning = None
for item in response_1.output:
    if item.type == "reasoning":
        encrypted_reasoning = item.encrypted_content

Schritt 2: Nachfolgende Anfrage mit Wiedereinspeisung

# Zweite Anfrage, die von der vorherigen Schlussfolgerung profitiert
response_2 = client.responses.create(
    model="grok-4.20-0309-reasoning",
    input=[
        # Wiedereinspeisen des verschlüsselten Schlussfolgern aus der vorherigen Anfrage
        {
            "type": "reasoning",
            "encrypted_content": encrypted_reasoning
        },
        # Neue Nachricht
        {
            "type": "message",
            "role": "user",
            "content": "Wenden Sie nun diesen Satz auf einen COVID-Test mit 95 % Sensitivität und 99 % Spezifität an."
        }
    ],
    include=["reasoning.encrypted_content"]
)

Vorteile des Gedächtnisses für Schlussfolgerungen

Kontinuität der Schlussfolgerungen

Das Modell muss den gesamten Kontext der Überlegungen nicht neu rekonstruieren. Wenn es bereits über den Satz von Bayes nachgedacht hat, kann es diesen direkt auf das neue Problem anwenden, ohne die Herleitung erneut zu wiederholen.

Einsparung von Tokens

Durch die Wiederverwendung verschlüsselter Schlussfolgerungen verhindern Sie, dass das Modell Schlussfolgerungstokens für bereits abgedeckte Teile neu generiert. In langen Gesprächen können die Einsparungen erheblich sein.

Konsistenz

Das Modell behält über seine aufeinanderfolgenden Antworten hinweg die Konsistenz bei. Es wird sich nicht selbst widersprechen, da es den Verlauf seiner eigenen Überlegungen vorliegt.

Einschränkungen und Limitationen

Gleiches Modell: Verschlüsselte Schlussfolgerungen von einem Modell können nicht von einem anderen Modell wiederverwendet werden. Schlussfolgerungen, die von grok-4.5 erzeugt wurden, funktionieren nicht mit grok-4.20-0309-reasoning.
Größe: Der verschlüsselte Inhalt kann groß sein. Überwachen Sie die Größe Ihrer Anfragen.
Ablauf: Verschlüsselte Inhalte können eine begrenzte Gültigkeitsdauer haben. Speichern Sie sie nicht unbegrenzt, ohne dies zu überprüfen.
Keine Änderungen: Sie können den verschlüsselten Inhalt nicht verändern. Jede Änderung macht ihn ungültig.

Anwendungsfälle in der Produktion

Komplexe mehrstufige Gespräche

Für einen Chatbot, der mathematische Probleme über mehrere Austauschvorgänge löst, erhält das Gedächtnis für Schlussfolgerungen den Faden der Überlegungen, ohne dass alles im Kontext erneut gesendet werden muss.

Validierungspipeline

Eine Pipeline, die Code in mehreren Durchgängen analysiert, kann Schlussfolgerungen aus dem ersten Durchgang (Identifizierung von Problemen) für den zweiten Durchgang (Vorschlag von Lösungen) wiederverwenden.

Interaktiver Tutor

Ein Tutor-System kann die Schlussfolgerungen des Modells beim Erklären eines Konzepts speichern und diese wiederverwenden, wenn der Schüler nachfolgende Fragen stellt.

Kernaussagen

Verschlüsselte Schlussfolgerungen können über das Feld input in nachfolgenden Anfragen wieder eingespeist werden.
Dieser Mechanismus erhält die Kontinuität der Schlussfolgerungen, ohne dass Tokens neu generiert werden müssen.
Verschlüsselte Schlussfolgerungen sind an das Modell gebunden, das sie erzeugt hat.
Verändern Sie den verschlüsselten Inhalt niemals: Er wird ungültig.
Nützlich für mehrstufige Gespräche, Pipelines und interaktive Systeme.