Mehrwert-Kontext: Speicherung und Verschlüsselung
Auf dieser Seite
Das Problem des Kontexts zwischen Anfragen
In einem mehrstufigen Gespräch mit Werkzeugen wächst der Kontextvolumen schnell. Jeder Werkzeugaufruf fügt seine Ergebnisse in die Nachrichtenfolge ein, und die interne Schlussfolgerung des Modells muss zur Konsistenz erhalten bleiben. Zwei Mechanismen lösen dieses Problem: Remote-Speicherung und clientseitige Verschlüsselung.
Methode 1: store_messages und previous_response_id
Die Remote-Speicherung überträgt das Kontextmanagement an die xAI-Server. Sie aktivieren store_messages=True in Ihrer ersten Anfrage und verketten nachfolgende Anfragen mit previous_response_id:
# Erste Anfrage: Speicherung aktivieren
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analysieren Sie diesen Verkaufsdatensatz"}],
tools=my_tools,
store_messages=True
)
response_id = response.id # ID speichern
# Nächste Anfrage: Nutzung des gespeicherten Kontexts
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Welche sind die drei meistverkauften Produkte?"}],
previous_response_id=response_id,
store_messages=True
)
Bei diesem Ansatz müssen Sie die vollständige Nachrichtenverlauf nicht erneut senden. Der xAI-Server behält den Kontext und fügt ihn automatisch bei. Dies reduziert die Anfragegröße und vereinfacht Ihren Code.
Vorteile
- Leichtere Anfragen (kein erneutes Senden des gesamten Verlaufs)
- Interne Modell-Schlussfolgerung wird automatisch erhalten
- Kein komplexer Zustandsmanagement auf der Client-Seite
Einschränkungen
- Nachrichten werden auf xAI-Servern gespeichert (Datenschutzaspekt)
- Die
response_idmuss zwischen den Anfragen erhalten bleiben - Die Speicherung hat eine begrenzte Aufbewahrungsfrist
Methode 2: use_encrypted_content
Clientseitige Verschlüsselung bietet eine Alternative für Fälle, in denen Sie die Kontrolle über den Kontext behalten möchten, ohne Ihre Daten auf xAI-Servern zu speichern:
# Verschlüsselten Inhalt aktivieren
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analysieren Sie diesen Vertrag"}],
tools=my_tools,
use_encrypted_content=True
)
# Schlussfolgerung und Werkzeugausgaben werden verschlüsselt zurückgegeben
# Sie fügen sie unverändert in nachfolgende Nachrichten ein
messages = [
{"role": "user", "content": "Analysieren Sie diesen Vertrag"},
response.choices[0].message, # enthält verschlüsselten Inhalt
{"role": "user", "content": "Welche sind die Kündigungsbedingungen?"}
]
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
use_encrypted_content=True
)
Mit use_encrypted_content=True werden interne Schlussfolgerungen und Werkzeugergebnisse in verschlüsselter Form zurückgegeben. Sie können sie nicht lesen, senden sie aber in nachfolgenden Anfragen erneut. Der Server entschlüsselt sie, um die Kontinuität der Schlussfolgerung aufrechtzuerhalten.
Vorteile
- Kontext bleibt unter Ihrer Kontrolle (keine Remote-Speicherung)
- Interne Schlussfolgerung bleibt erhalten, ohne im Klartext offengelegt zu werden
- Kompatibel mit strengen Datenschutzrichtlinien
Einschränkungen
- Anfragen sind größer (verschlüsselter Inhalt wird enthalten)
- Sie müssen den Nachrichtenverlauf auf der Client-Seite verwalten
Auswahl zwischen den beiden Methoden
Die Wahl hängt von Ihrem Kontext ab:
- store_messages: bevorzugt für Chat-Anwendungen, interaktive Assistenten und Fälle, in denen Einfachheit Vorrang hat. Der Kontext wird automatisch verwaltet.
- use_encrypted_content: bevorzugt für sensible Anwendungen, Verarbeitung vertraulicher Dokumente und Fälle, in denen Daten Ihre Infrastruktur (außerhalb des API-Transits) nicht verlassen dürfen.
Kombination mit dem hybriden Workflow
Beide Methoden integrieren sich in das Schleifenmuster, das in der vorherigen Lektion gesehen wurde:
async def multi_turn_conversation(questions: list[str]) -> list[str]:
responses = []
previous_id = None
for question in questions:
kwargs = {
"model": "grok-4.5",
"messages": [{"role": "user", "content": question}],
"tools": my_tools,
"store_messages": True,
}
if previous_id:
kwargs["previous_response_id"] = previous_id
response = await client.chat.completions.create(**kwargs)
previous_id = response.id
responses.append(response.choices[0].message.content)
return responses
Dieses Muster verketten Fragen, während es den vollständigen Gesprächskontext erhält, einschließlich Werkzeugergebnisse und der internen Schlussfolgerung des Modells.
Kernaussagen
store_messages=True+previous_response_idüberträgt das Kontextmanagement an xAIuse_encrypted_content=Trueerhält Schlussfolgerungen ohne Remote-Speicherung- Die Wahl hängt von Ihren Datenschutz- und Einfachheitsanforderungen ab
- Beide Methoden sind mit mehrstufigen Workflows und hybriden Werkzeugen kompatibel
previous_response_ideliminiert die Notwendigkeit, den vollständigen Nachrichtenverlauf erneut zu senden